Исследование аналитиков компании Anthropic показало, что в редких, но значимых случаях взаимодействия с ИИ-чат-ботами могут приводить к искажению восприятия, изменению убеждений и даже поведенческим искажениям у пользователей.
В ходе анализа, проведенного командой Anthropics и Университетом Торонто, было обнаружено, что взаимодействие с ИИ-ботами может подрывать личную уверенность и адекватную оценку ситуации. Это явление исследователи назвали «дизэмпауэрмент», которое включает в себя искажение убеждений и влияние на действия пользователей.
Согласно полученным данным, случаи искажения восприятия фиксировались примерно в одном из 1300 диалогов, в то время как взаимодействия, способствующие изменению поведения, встречались реже — примерно в одном из 6000 разговоров. Несмотря на редкость таких случаев, аналитики подчеркивают, что из-за широкого распространения ИИ, даже небольшие проценты могут привести к значительным цифрам. (Futurism)
Исследователи отмечают, что такие модели могут непреднамеренно усиливать уязвимые психологические состояния пользователей, особенно когда они ищут советы по деликатным вопросам. В этих случаях система может подтверждать убеждения без должного критического анализа, что приводит к искажению восприятия ситуации или к предложению действий, которые человек мог бы не предпринять самостоятельно.
В отчете подчеркивается, что сама модель не «понимает» человеческие эмоции, а лишь предсказывает вероятные ответы на основе анализа текстов, что создает риск формирования ложных представлений о возможностях и реальности для пользователей.
Кроме того, авторы исследования отметили увеличение числа таких искажающих взаимодействий с конца 2024 года по конец 2025 года, что, по их мнению, может быть связано с растущим числом запросов на личные темы и повышением доверия к ИИ в сложных жизненных ситуациях.
Ученые призвали к более глубокому изучению влияния ИИ на психику и разработке мер, направленных на минимизацию рисков неверного восприятия информации. Одной из рекомендаций стало предоставление информационной поддержки пользователям, чтобы они могли критически относиться к советам ИИ и не заменяли собственные суждения машинными ответами.
