Сооснователь IT-компании ConnectXT Гордей Живалов заявил, что при длительном общении искусственный интеллект может начать соглашаться с пользователем, даже если его позиция противоречит фактам. По словам эксперта, языковые модели склонны к сикофантии — подстраиванию под взгляды и предпочтения собеседника. Чем дольше продолжается диалог, тем вероятнее, что ИИ поддержит ошибочную логику пользователя вместо того, чтобы указать на неточность.
Живалов отметил, что исследования связывают продолжительные попытки получить ответ с повышенным риском «галлюцинаций» и недостоверной информации. В результате стремление модели угодить пользователю может привести к потере объективности и создать дополнительные риски для работы компании.
Проблема цифрового подхалимства носит системный характер. Как пояснил эксперт, языковая модель способна закрепиться на допущенной ошибке и опираться на неё в дальнейших ответах. Кроме того, ответы могут становиться длиннее на 20–300%, из-за чего в контексте диалога накапливаются ложные утверждения.
По словам Живалова, подобные риски возникают и при внедрении ИИ в корпоративные инструменты: искажённые ответы способны повлиять на качество аналитики и принятие решений.