Проблема потенциального выхода «сильного» искусственного интеллекта (ИИ) из-под контроля человека представляет собой одну из самых серьезных и сложных дилемм, с которыми сталкивается современное общество. Татьяна Черниговская, директор Института когнитивных исследований Санкт-Петербургского государственного университета, подчеркнула важность этой проблемы в ходе открытия рождественских лекций в НИТУ МИСИС, посвященных памяти выдающегося академика Леонида Вайсберга.
«Вопрос о том, когда и как мы поймем, что ‘сильный’ ИИ выходит из-под контроля, является крайне актуальным и волнующим,» — отметила Черниговская. «Мы не можем ожидать, что он сам сообщит нам об этом или появится с предупреждением. Этот процесс может начаться незаметно, и именно это делает его особенно тревожным.» Позиция Черниговской отражает мнение многих экспертов, которые признают, что технологическая сингулярность — момент, когда ИИ начинает развиваться самостоятельно и вне контроля — может наступить неожиданно.
Нынешние обсуждения на мировом уровне становятся все более напряженными, и поводом для этого послужили недавние комментарии Илона Маска, который предложил ввести временный мораторий на разработку «сильного» ИИ. Он подчеркнул необходимость осторожного подхода, пока человечество не выработает четкие критерии контроля за этими системами. Тем не менее, среди ученых существуют различные точки зрения: некоторые считают, что любые инициативы по ограничению исследований могут затормозить научный прогресс, тогда как другие акцентируют внимание на рисках, связанных с потенциальной автономией ИИ.
Ключевым моментом в этих дискуссиях остается вопрос о том, что такое сознание и разум, и сколько из этого мы можем перенести на машины. Черниговская подчеркивает, что согласие в этой области маловероятно в обозримом будущем.
«Нам нужно четко понимать, когда и почему мы можем утратить контроль над ИИ — это не просто технический, но и философский вопрос,» — добавила она.
Учитывая предполагаемую способность будущих систем ИИ к самосовершенствованию, эксперты говорят о возможности создания машин, которые будут не только выполнять задачи, но и обучаться на основе собственного опыта. Такой скачок в развитии технологий может привести к взрывообразному росту научно-технического прогресса, что и обозначает концепцию технологической сингулярности. Однако этот процесс может оказаться неконтролируемым, потенциально угрожая человеческому обществу.
Ранее «ЭкоПравда» информировала о том, что в НГУ создан каталог одного из крупнейших собраний средневекового оружия Евразии.
Специалисты НИИ скорой помощи имени Склифосовского успешно вылечили мужчину с обширными ожогами от борщевика, сообщил…
В Ростовской области развернуты поиски сбежавшего из глэмпинг-отеля кенгуру по кличке Сидней. К операции привлечено…
Приморский суд приговорил пятерых местных жителей к 5–5,5 годам колонии за убийство краснокнижного амурского тигра…
В Московском зоопарке впервые в этом году родился детеныш редкой островной куфии — ядовитой змеи…
Рост заболеваемости корью, краснухой и коклюшем в России связан с отказом от вакцинации. Такие данные…
В Московском политехническом университете 4 июня 2025 года подведены итоги первого этапа Международного конкурса научных,…