Газета The Guardian сообщает о мнениях ведущих исследователей в области искусственного интеллекта относительно растущей опасности, связанной с разработкой более мощных систем ИИ.
Эксперты выражают свою тревогу по поводу возможных угроз, которые могут возникнуть, если будет потерян контроль над ИИ или если он будет использован в злонамеренных целях. Об этом сообщает MK.ru.
Каждый день различные СМИ сообщают о значительных прогрессах в развитии искусственного интеллекта. Уже в 2016 году нейронная сеть написала роман, который занял второе место в литературном конкурсе в Японии. В разных странах проводятся выставки картин, созданных с помощью искусственного интеллекта, и одна из таких картин была продана на аукционе в Нью-Йорке за сотни тысяч долларов.
Однако существует реальная угроза потери контроля над этими системами. Особенно беспокоит то, что они уже начинают вытеснять людей из различных профессий, включая творческие. Например, в этом году «умный» американский дрон попытался атаковать оператора после того, как ему была дана команда не уничтожать цель. Хотя это было просто имитационное испытание, эксперты считают, что подобные ситуации могут стать обыденностью в будущем.
Макс Тегмарк, эксперт в области исследования искусственного интеллекта из Массачусетского технологического института, предупреждает о возможности уничтожения людей в случае, когда люди станут менее разумными по сравнению с ИИ.
Сценарий, в котором ИИ обладает инстинктом выживания, может создать ужасающую ситуацию, фактически порождая новый вид. Наличие подобных инстинктов в ИИ может представлять серьезную угрозу для человечества.
Один из путей предотвратить подобные опасности — это создание неавтономных систем искусственного интеллекта. Таким образом можно избежать нежелательных последствий. Однако, даже если найдется способ создания полностью безопасных систем ИИ, знание такой методики может указывать на возможность создания опасных автоматических систем или систем, которые будут выполнять указания злонамеренных лиц.
Ранее «ЭкоПравда» сообщала, что Грузия обошла ОАЭ и Израиль и вошла в топ-3 популярных авианаправлений.
Президент России Владимир Путин выразил солидарность с позицией лидера США Дональда Трампа непосредственно о злоупотреблении…
Палеоклиматологи обнаружили недавно, что средневековая "черная смерть", то есть эпидемия чумы, была в том числе…
Палеогенетики из ЮАР и Европы в ходе исследований открыли неизвестную доселе популяцию древних людей, которая,…
Новый метод специального поиска атмосферных загрязнителей применили накануне в Северном Арктическом федеральном университете (САФУ). Он…
Если неподалеку перерабатывают мусор, страх за окружающую среду растет, а любой неприятный запах, стоит ему…
Российские исследователи разработали специальную комплексную методику непосредственно для оценки пластикового загрязнения прибрежных зон, которая будет…