Британские ученые описали способность нейросети манипулировать сознанием людей

Научные и технологические достижения часто пересекаются с этическими и социальными проблемами, и одно из таких пересечений освещено в последних исследованиях Кембриджского университета. Согласно данным, представленным исследователями, технологии искусственного интеллекта (ИИ) всё более влияют на нашу повседневную жизнь, включая сферу онлайн-принятия решений. Данная тенденция предвещает возможное наступление так называемой «экономики намерений».

Эта новая форма экономики представляет собой механизм, в котором компании смогут прогнозировать и даже манипулировать человеческими намерениями, продавая информацию о предпочтениях и мотивациях пользователей. Подобные возможности открывают огромные перспективы для коммерции, где компании могут использовать манипуляции для увеличения продаж товаров и услуг, основанных на строгих анализах поведения клиентов. Например, компании смогут эффективно продвигать продукты и предложения, опираясь на детальное понимание намерений клиентов, будь то планирование отдыха или выбор политиков на голосованиях.

Исследователи подчеркивают, что развитие экономики намерений может изменить привычную экономику внимания. Если ранее основной задачей было удержание внимания пользователя посредством социальных сетей и рекламы, то теперь фокус смещается на предсказание и управление намерениями человека.

Кембриджский Леверхулмский центр будущего интеллекта предполагает, что модели ИИ, такие как большие языковые модели (LLM), применяемые в чат-ботах, способны обрабатывать и интерпретировать разнообразные человеческие данные, что включает поведенческие и психологические аспекты. Эти технологии будут использоваться для создания более персонализированного и целенаправленного рекламного контента, увеличивая шансы компаний на получение прибыли.

Статья Джонни Пенна, историка технологий, акцентирует внимание на потенциальной опасности отсутствия регулирования. Экономика намерений может превратиться в «золотую лихорадку» за человеческие намерения, где личные устремления становятся товаром. Это может повлиять на фундаментальные ценности, такие как честная рыночная конкуренция или свобода выбора.

В ходе исследования рассмотрены примеры, демонстрирующие технологические подходы в использовании данных для манипуляции намерениями. От простых вопросов о просмотрах фильмов до стратегически выстроенных диалогов, которые нацелены на выявление более глубокой личной информации, эти практики становятся реальностью.

Ранее «ЭкоПравда» информировала о том, что озонотерапия ускоряет процесс восстановления легких после сепсиса.