Газета The Guardian сообщает о мнениях ведущих исследователей в области искусственного интеллекта относительно растущей опасности, связанной с разработкой более мощных систем ИИ.
Эксперты выражают свою тревогу по поводу возможных угроз, которые могут возникнуть, если будет потерян контроль над ИИ или если он будет использован в злонамеренных целях. Об этом сообщает MK.ru.
Каждый день различные СМИ сообщают о значительных прогрессах в развитии искусственного интеллекта. Уже в 2016 году нейронная сеть написала роман, который занял второе место в литературном конкурсе в Японии. В разных странах проводятся выставки картин, созданных с помощью искусственного интеллекта, и одна из таких картин была продана на аукционе в Нью-Йорке за сотни тысяч долларов.
Однако существует реальная угроза потери контроля над этими системами. Особенно беспокоит то, что они уже начинают вытеснять людей из различных профессий, включая творческие. Например, в этом году «умный» американский дрон попытался атаковать оператора после того, как ему была дана команда не уничтожать цель. Хотя это было просто имитационное испытание, эксперты считают, что подобные ситуации могут стать обыденностью в будущем.
Макс Тегмарк, эксперт в области исследования искусственного интеллекта из Массачусетского технологического института, предупреждает о возможности уничтожения людей в случае, когда люди станут менее разумными по сравнению с ИИ.
Сценарий, в котором ИИ обладает инстинктом выживания, может создать ужасающую ситуацию, фактически порождая новый вид. Наличие подобных инстинктов в ИИ может представлять серьезную угрозу для человечества.
Один из путей предотвратить подобные опасности — это создание неавтономных систем искусственного интеллекта. Таким образом можно избежать нежелательных последствий. Однако, даже если найдется способ создания полностью безопасных систем ИИ, знание такой методики может указывать на возможность создания опасных автоматических систем или систем, которые будут выполнять указания злонамеренных лиц.
Ранее «ЭкоПравда» сообщала, что Грузия обошла ОАЭ и Израиль и вошла в топ-3 популярных авианаправлений.
Практически ежедневные пепловые выбросы непосредственно на вулкане Шивелуч связаны прежде всего с ростом нового купола…
Китайские и узбекистанские археологи обнаружили на территории древнего поселения Сапалли сохранившиеся коконы шелкопряда и фрагменты…
Ученые Воронежского государственного университета (ВГУИТ) создали специальную систему контроля непосредственно дна водоемов на содержание полихлорфенолов,…
Российские и китайские океанологи отметили, что в тропических морях планеты крупные фрагменты пластикового мусора обычно…
Биологи Томского госуниверситета обнаружили, что глобальное потепление способно заставить ос заселять Сибирь и субарктику, при…
В 2026 году в России от насекомых-вредителей было обработано 456,4 тысячи гектаров леса в 12…