Учёные: Человеческие эмоции влияют на решения нейросетей

Оказалось, что под влиянием гнева эмоциональным искажениям поддаются даже мощные модели.

В ходе нового исследования ученые из Института искусственного интеллекта AIRI выяснили, что сильные эмоции, такие как гнев, оказывают сильное влияние на решения, которые принимают современные языковые модели. Результаты работы, в которой также участвовали специалисты из Лаборатории искусственного интеллекта Сбера и Института системного программирования РАН, показали, что эмоциональные переживания могут сильно затруднять сотрудничество ИИ в кооперативных играх.

Анализ лаборатории показал, что негативные эмоции снижают готовность систем искусственного интеллекта к взаимодействию, а страх вызывает непредсказуемые реакции. В частности, простые модели ИИ демонстрировали необъективное поведение в таких играх, как "Диктатор" и "Дилемма заключенного", когда работали с эмоционально окрашенными данными.

Исследователи отмечают, что необходимость учитывать эмоциональное влияние на ИИ весьма актуальна, особенно для бизнеса. Например, система может безрассудно снизить персональную скидку согласно эмоциональному состоянию клиента, что может обернуться невыгодными последствиями.

Специалисты подчеркивают, что эти результаты важны для создания устойчивых мультиагентных систем ИИ, в которых эмоциональность можно адаптировать под конкретные пользовательские сценарии. Таким образом, формулирование этических норм для ИИ, работающих с человеческими эмоциями, становится все более важной задачей.