Наука

Профессор Черниговская: люди не поймут момент выхода из-под контроля ИИ

27 ноября 2024, 10:20 — ЭкоПравда

Проблема потенциального выхода «сильного» искусственного интеллекта (ИИ) из-под контроля человека представляет собой одну из самых серьезных и сложных дилемм, с которыми сталкивается современное общество. Татьяна Черниговская, директор Института когнитивных исследований Санкт-Петербургского государственного университета, подчеркнула важность этой проблемы в ходе открытия рождественских лекций в НИТУ МИСИС, посвященных памяти выдающегося академика Леонида Вайсберга.

«Вопрос о том, когда и как мы поймем, что ‘сильный’ ИИ выходит из-под контроля, является крайне актуальным и волнующим,» — отметила Черниговская. «Мы не можем ожидать, что он сам сообщит нам об этом или появится с предупреждением. Этот процесс может начаться незаметно, и именно это делает его особенно тревожным.» Позиция Черниговской отражает мнение многих экспертов, которые признают, что технологическая сингулярность — момент, когда ИИ начинает развиваться самостоятельно и вне контроля — может наступить неожиданно.

Нынешние обсуждения на мировом уровне становятся все более напряженными, и поводом для этого послужили недавние комментарии Илона Маска, который предложил ввести временный мораторий на разработку «сильного» ИИ. Он подчеркнул необходимость осторожного подхода, пока человечество не выработает четкие критерии контроля за этими системами. Тем не менее, среди ученых существуют различные точки зрения: некоторые считают, что любые инициативы по ограничению исследований могут затормозить научный прогресс, тогда как другие акцентируют внимание на рисках, связанных с потенциальной автономией ИИ.

Ключевым моментом в этих дискуссиях остается вопрос о том, что такое сознание и разум, и сколько из этого мы можем перенести на машины. Черниговская подчеркивает, что согласие в этой области маловероятно в обозримом будущем.

«Нам нужно четко понимать, когда и почему мы можем утратить контроль над ИИ — это не просто технический, но и философский вопрос,» — добавила она.

Учитывая предполагаемую способность будущих систем ИИ к самосовершенствованию, эксперты говорят о возможности создания машин, которые будут не только выполнять задачи, но и обучаться на основе собственного опыта. Такой скачок в развитии технологий может привести к взрывообразному росту научно-технического прогресса, что и обозначает концепцию технологической сингулярности. Однако этот процесс может оказаться неконтролируемым, потенциально угрожая человеческому обществу.

Ранее «ЭкоПравда» информировала о том, что в НГУ создан каталог одного из крупнейших собраний средневекового оружия Евразии.

AddThis Website Tools
Елена Мальцева

Поделиться
Опубликовано
Елена Мальцева

Последние статьи

В Москве врачи спасли мужчина с 80% ожога тела из-за борщевика

Специалисты НИИ скорой помощи имени Склифосовского успешно вылечили мужчину с обширными ожогами от борщевика, сообщил…

3 дня назад

В Ростовской области разыскивают кенгуру Сиднея, сбежавшего из глэмпинг-отеля

В Ростовской области развернуты поиски сбежавшего из глэмпинг-отеля кенгуру по кличке Сидней. К операции привлечено…

3 дня назад

За убийство амурского тигра пять жителей Приморья получили уголовный срок

Приморский суд приговорил пятерых местных жителей к 5–5,5 годам колонии за убийство краснокнижного амурского тигра…

3 дня назад

Детеныш редкой островной куфии появился в Московском зоопарке

В Московском зоопарке впервые в этом году родился детеныш редкой островной куфии — ядовитой змеи…

3 дня назад

Роспотребнадзор: отказ от прививок привел к росту кори, краснухи и коклюша

Рост заболеваемости корью, краснухой и коклюшем в России связан с отказом от вакцинации. Такие данные…

3 дня назад

Родина: общество, безопасность, экология

В Московском политехническом университете 4 июня 2025 года подведены итоги первого этапа Международного конкурса научных,…

3 дня назад