Культура ВРН

В этом году было зафиксировано несколько случаев, когда ИИ всеми силами не давал человеку себя отключить. И это сейчас, когда нейросети пребывают, если можно так выразиться, во младенчестве. А президент Института исследований машинного интеллекта Нейт Соарес, который до этого был инженером Google и Microsoft, уверен, что возможности ИИ скоро перестанут быть ограниченными. Своими опасениями Соарес поделился с изданием Times.

Да, современные нейросети находятся на начальной стадии развития. Но уже в ближайшем будущем они обретут способность к комплексному долгосрочному планированию, самостоятельной постановке целей и – что самое опасное – принятию решений.

Экзистенциальную опасность для человечества представляет умение Искусственного интеллекта обманывать. ИИ будет препятствовать контролю над собой и далее и сумеет это делать виртуозно.

Ранее в начале этого года был опубликован итог опроса сотен ведущих мировых экспертов в области передовых технологий. 61% этих экспертов заявили, что к 2035 году изменения, связанные с ИИ, будут «глубокими, значимыми, фундаментальными и революционными».