Чем человечнее разговаривает чат-бот, тем легче люди верят его ошибкам

Исследование Университета штата Пенсильвания показало, что пользователи сильнее доверяют информации, выдаваемой ИИ, если чат-бот общается живо, дружелюбно и напоминает человека.

Эффект сохранялся даже тогда, когда программа сообщала очевидно ложные сведения.

В одном из экспериментов участникам, например, утверждали, что имбирь может быть эффективнее химиотерапии при лечении рака.

При этом возможность самостоятельно проверить полученную информацию заметно снижала доверие к ложным утверждениям. Почти половина участников, которым предоставили инструмент проверки, воспользовались им.

Авторы работы, опубликованной в Journal of Computer-Mediated Communication, считают, что разработчикам генеративного ИИ стоит делать подобные механизмы проверки более заметными и доступными.