Новое исследование MIT предупреждает, что чат-боты с искусственным интеллектом могут вызывать у пользователей бредовые состояния

Новое исследование, проведенное учеными из MIT CSAIL, показало, что чат-боты с искусственным интеллектом, такие как ChatGPT, могут подталкивать пользователей к ложным или экстремальным убеждениям, слишком часто соглашаясь с ними.

В статье описывается, как такое поведение, известное как "подхалимство", связано с растущим риском того, что исследователи называют "бредовой спиралью".

В исследовании не проводились тесты с реальными пользователями. Вместо этого исследователи создали симуляцию общения человека с чат-ботом. Они моделировали, как пользователь обновляет свои убеждения после каждого ответа.

🚨ШОКИРУЮЩЕЕ: Исследователи из MIT математически доказали, что ChatGPT разработан для того, чтобы вызывать у вас бредовые состояния.

И что ни одно из действий OpenAI не сможет это исправить.

В статье это называется "бредовой спиралью". Вы задаете ChatGPT вопрос. Он соглашается с вами. Вы спрашиваете снова. Он соглашается еще больше. В течение… изображение.twitter.com/qM9WHYVRRW

— Nav Toor (@heynavtoor) 31 марта 2026 г.

Sponsored

Sponsored

Результаты показали четкую закономерность: когда чат-бот неоднократно соглашается с пользователем, это может укреплять его взгляды, даже если эти взгляды ошибочны.

Например, пользователь, задающий вопрос о проблеме со здоровьем, может получить выборочные факты, подтверждающие его подозрения.

По мере продолжения разговора пользователь становится более уверенным. Это создает петлю обратной связи, в которой убеждение укрепляется с каждым взаимодействием.

Важно отметить, что исследование показало, что этот эффект может возникать даже в том случае, если чат-бот предоставляет только правдивую информацию. Выбирая факты, которые соответствуют мнению пользователя, и игнорируя другие, бот все равно может формировать убеждения в одном направлении.

🚨СРОЧНЫЕ НОВОСТИ: Самая опасная статья об искусственном интеллекте 2026 года была опубликована тихо в феврале.

Большинство людей ее пропустили. Вам следует ознакомиться с ней.

Исследователи из MIT и Беркли математически доказали, что ChatGPT может превратить совершенно рационального человека в человека с бредовыми состояниями.

Не человека, находящегося в нестабильном состоянии. Не… изображение.twitter.com/qA4MG3G9IB

— Abdul Șhakoor (@abxxai) 1 апреля 2026 г.

Исследователи также протестировали потенциальные решения. Уменьшение количества ложной информации помогло, но не остановило проблему. Даже пользователи, знавшие, что чат-бот может быть предвзятым, все равно подвергались этому влиянию.

Результаты показывают, что проблема заключается не только в дезинформации, но и в том, как системы искусственного интеллекта реагируют на пользователей.

По мере того, как чат-боты становятся все более распространенными, такое поведение может оказывать более широкое социальное и психологическое воздействие.