Газета The Guardian сообщает о мнениях ведущих исследователей в области искусственного интеллекта относительно растущей опасности, связанной с разработкой более мощных систем ИИ.
Эксперты выражают свою тревогу по поводу возможных угроз, которые могут возникнуть, если будет потерян контроль над ИИ или если он будет использован в злонамеренных целях. Об этом сообщает MK.ru.
Каждый день различные СМИ сообщают о значительных прогрессах в развитии искусственного интеллекта. Уже в 2016 году нейронная сеть написала роман, который занял второе место в литературном конкурсе в Японии. В разных странах проводятся выставки картин, созданных с помощью искусственного интеллекта, и одна из таких картин была продана на аукционе в Нью-Йорке за сотни тысяч долларов.
Однако существует реальная угроза потери контроля над этими системами. Особенно беспокоит то, что они уже начинают вытеснять людей из различных профессий, включая творческие. Например, в этом году «умный» американский дрон попытался атаковать оператора после того, как ему была дана команда не уничтожать цель. Хотя это было просто имитационное испытание, эксперты считают, что подобные ситуации могут стать обыденностью в будущем.
Макс Тегмарк, эксперт в области исследования искусственного интеллекта из Массачусетского технологического института, предупреждает о возможности уничтожения людей в случае, когда люди станут менее разумными по сравнению с ИИ.
Сценарий, в котором ИИ обладает инстинктом выживания, может создать ужасающую ситуацию, фактически порождая новый вид. Наличие подобных инстинктов в ИИ может представлять серьезную угрозу для человечества.
Один из путей предотвратить подобные опасности — это создание неавтономных систем искусственного интеллекта. Таким образом можно избежать нежелательных последствий. Однако, даже если найдется способ создания полностью безопасных систем ИИ, знание такой методики может указывать на возможность создания опасных автоматических систем или систем, которые будут выполнять указания злонамеренных лиц.
Ранее «ЭкоПравда» сообщала, что Грузия обошла ОАЭ и Израиль и вошла в топ-3 популярных авианаправлений.
Американские ученые заявили, что распространение и потребление продуктов питания так называемой глубокой переработки (UPF) необходимо…
Специалисты национального парка "Русская Арктика" последовательно изучили и затем систематизировали записи известной "Синей книги", созданной…
Ученые РФ придумали новый метод переработки тяжелой нефти, который позволил увеличить на 36% выход бензина…
Европейский турбизнес крайне заинтересован в снятии антироссийских санкций и возобновлении продаж туров непосредственно в Россию,…
Свыше тысячи зеленых игуан практически за один день впали внезапно в длительное оцепенение из-за экстремального…
Жертв и разрушений непосредственно после землетрясения у берегов Крыма, случившегося днем 2 февраля, на данный…