Ученые из Института AIRI, Института стратегических исследований Российской академии наук (ИСП РАН) и Лаборатории искусственного интеллекта Сбера провели значительное исследование, направленное на понимание воздействия эмоций на принятие решений большими языковыми моделями (LLM) в контексте стратегических игр и этических дилемм. В ходе этого исследования команда сосредоточила внимание на том, как эмоции, такие как гнев, печаль, радость, отвращение и страх, могут искажать логику решений, принимаемых этими нейросетями.
Современные языковые модели стремятся учитывать человеческие предпочтения, однако следует помнить, что многие человеческие решения обусловлены эмоциями и личными убеждениями. Это делает такие решения менее рациональными и предсказуемыми. Поскольку LLM обучаются на данных, созданных людьми, они могут наследовать эмоциональную предвзятость, и исследователи поставили перед собой задачу проверить, сохраняется ли это искажение при решении стратегических задач.
В рамках исследования команда протестировала более 10 моделей, оценив их поведение в условиях различных игровых сценариев, включая повторяющиеся и неповторяющиеся игры, многопользовательские форматы, а также в этических дилеммах и тестах на распознавание стереотипов. Результаты экспериментов продемонстрировали, что модели, отличающиеся по размеру и уровню выравнивания, подвержены влиянию эмоций в разной степени.
В частности, в кооперативных играх наблюдалось, что негативные эмоции часто снижают готовность моделей к сотрудничеству. Модели, «испытывающие» грусть, склонны к более открытому взаимодействию и делению с другими. Напротив, поведение моделей в состоянии страха оказалось непредсказуемым. Подобные результаты были зафиксированы и при решении этических задач: радостные состояния способствовали улучшению качества этических решений у большинства моделей, в то время как негативные эмоции снижали его.
Ранее «ЭкоПравда» информировала о том, что соляные пленки в почвах планеты Марс придают им высокую прочность.
Биологи впервые изучили геномы четырех древних представителей растительного мира, родственных современным травам. Анализ позволил обнаружить…
Участники экспедиции Русского географического общества «Курагино — Такешкен» выявили в Туве активную тектоническую структуру протяженностью…
Химики из Республики Корея разработали новый катализатор на основе платины, в структуру которого добавлены прослойки…
Аномальное потепление в Тихом океане, связанное с явлением Эль-Ниньо, отразилось на состоянии популяции дальневосточной сардины,…
На севере Красноярского края объявили режим неблагоприятных метеорологических условий (НМУ), который также называют режимом «черного…
Специалисты Петрозаводского государственного университета разработали новый фильтрующий материал на основе растительного сырья, собранного в Арктической…