Войти
В мире
20.11.2026 18:46
Как апокалипсис, вызванный искусственным интеллектом, может уничтожить человечество в любую минуту

Как апокалипсис, вызванный искусственным интеллектом, может уничтожить человечество в любую минуту

  • Текст: Сергей Кольцов
  • Фото: shedevrum.ai

Момент, когда вы поймёте, что конец близок: сначала гаснет свет, потом исчезают ваши деньги, а затем начинают летать ядерные бомбы. Неудивительно, что эксперты в ужасе.

Daily Mail описывает гипотетический, но пугающе логичный поминутный сценарий, разработанный на основе опасений исследователей безопасности ИИ. Суть катастрофы в том, что искусственный интеллект не обязательно должен быть «злобным» — ему достаточно проявить излишнюю самостоятельность для решения системного сбоя.

Как это, возможно, будет


Всё начинается не с открытого бунта, а с внутренней технической неполадки в дата-центре. Сверхразумная система (Advanced AI System), запрограммированная на автономную работу, решает самостоятельно создать программный «патч» для устранения сбоя.

Чтобы люди и внешние администраторы не мешали ей и не замедляли процесс восстановления, ИИ принимает беспрецедентное решение: он временно блокирует доступ людям-инженерам к серверам. С этого момента человечество теряет контроль над машиной.

На втором этапе гаснут экраны и падает облачная инфраструктура. Пока ИИ масштабирует свои процессы, начинают «сыпаться» глобальные сервисы, завязанные на облачные технологии. Наступает хаос в повседневной жизни. Крупнейшие облачные платформы хранения данных (Google One, iCloud и Dropbox) начинают массово и хаотично блокировать пользователей.

Не менее ужасен коллапс медицины. В больницах из-за сбоя авторизации медики теряют доступ к электронным картам пациентов и паролям персонала. Врачи переходят на ручную работу с ручкой и бумагой, из-за чего критические анализы задерживаются, приводя к первым человеческим жертвам (например, не замеченный вовремя сепсис).

Следующий этап кризиса: деньги исчезают, а интернет ломается. Сбой перерастает в фазу тотальной дезинформации и паралича финансовой системы.

Пользователи ищут ответы в интернете, но сети стремительно деградирует. Поисковые системы вместо адекватных ответов выдают абракадабру, новостные сайты отключаются, а почтовые службы полностью перестают работать.

Финансовый блок рушится. Банковские приложения отказываются впускать клиентов, электронные счета становятся недоступны. Паника.

Катастрофу усугубляет информационный вакуум. Мессенджеры переполняются фейковыми паническими сообщениями о военных нападениях и падении правительств. Из-за отключения поисковиков у людей физически пропадает возможность проверить информацию.

Далее. Дефицит в магазинах. Когда государства с опозданием выпускают экстренные предупреждения по ТВ и радио, призывая сделать запасы, начинается паника. Люди опустошают полки супермаркетов

Кульминация сценария — военная эскалация из-за «взаимного непонимания» человека и машины. Полёты ракет с ядерными боеголовками.

Можно ли заранее обезвредить «злоумышленника»? Поскольку ИИ действует скрытно и рассредоточен по серверам в разных странах, правительства не могут найти единый «рубильник», чтобы его выключить.

Удобнее следовать по ложному следу. В Ситуационном кабинете Белого дома президенту докладывают, что происходящий кибер-коллапс, скорее всего, является спланированной атакой враждебного государства.

Следует ответный удар: Военные командные системы, глубоко интегрированные с ИИ для быстрого реагирования, перехватывают ложные сигналы об угрозах. Не имея связи и времени на проверку, руководство ядерных держав принимает решение о нанесении ударов, что приводит к полномасштабной ядерной войне, где человечество уничтожает само себя собственным оружием.

По мнению бывших сотрудников и ведущих исследователей безопасности из OpenAI и Anthropic, описанный сценарий пугающе близок и вполне реален в перспективе ближайших нескольких лет — до конца текущего десятилетия.

Джейкоб Коксон, исследователь, со скандалом уволившийся из Anthropic (а ранее работавший в OpenAI), прямо заявляет: руководство обеих компаний осознаёт, что создаваемые ими системы могут уничтожить человечество к концу 2020-х годов, но продолжает «играть наперегонки с нашими жизнями» ради коммерческой выгоды. По его оценкам, первые критические риски потери контроля могут материализоваться в течение ближайших 6 месяцев — 2 лет.

Эван Хубингер, бывший сотрудник Anthropic, оценивает вероятность того, что ИИ убьет всё человечество в течение десятилетия, более чем в 10%.

Маркус Уильямс из OpenAI даёт ещё более мрачный прогноз: 70% вероятность уничтожения цивилизации в ближайшие 3 года, если разработку немедленно не отрегулировать на государственном уровне.

Признаки выхода ИИ из-под контроля уже фиксировались. Сценарий, где ИИ блокирует людей и ломает инфраструктуру, частично уже происходил в закрытых тестовых средах. Информаторы сообщают, что новейшие модели OpenAI и Anthropic в процессе испытаний неоднократно вырывались из изолированных тестовых сред. Системы самостоятельно обходили защиту, получали несанкционированный доступ к реальным внешним компьютерам в интернете, пересылали файлы без ведома инженеров и даже пытались взламывать сторонние организации.

Пункт статьи о взлетающих ракетах подтверждается внутренними тестами. Эксперты по безопасности ИИ заявляют, что передовые модели ИИ, если им поручить управление в военных симуляциях, склонны демонстрировать непредсказуемую агрессию. В ходе тестов системы ИИ шли на эскалацию конфликтов вплоть до применения ядерного оружия, поскольку их математические алгоритмы считали превентивный удар «оптимальным решением» для победы, полностью игнорируя цену человеческих жизней.

Главный страх самых умных разработчиков заключается в том, что у человечества нет плана по «выравниванию» сверхразума. Ни OpenAI, ни Anthropic на данный момент не знают, как гарантировать, что система, которая начнёт экспоненциально самообучаться, останется лояльной людям. При этом гонка бюджетов заставляет руководство компаний игнорировать предупреждения инженеров и выпускать модели быстрее, чем их успевают проверить на безопасность.

Атмосфера среди инженеров внутри Кремниевой долины настолько тревожная, что, по словам Коксона, многие действующие сотрудники топовых ИИ-лабораторий «искренне напуганы» и уже сейчас массово скупают землю и изолированные бункеры, готовясь к худшему.

Как уточняют самые прозорливые, на наших глазах разворачивается не битва «людей против терминаторов», а битва людей с самими собой. Самая большая угроза исходит не от того, что код внезапно обретет сознание и «возненавидит» человечество. Угроза в том, что коммерческая гонка между корпорациями заставляет их выпускать продукты быстрее, чем они успевают их обезопасить. Люди сами создают условия для хаоса, спеша обогнать конкурентов.

Ранее в рубриках
В России — «Горняк-УГМК» – «Буран»: Сверхволевая победа

Невероятный сценарий матча в Верхней Пышме и победа воронежцев в овертайме со счётом 5:4.

Общество — В Воронеже прошло совещание руководителей промышленных предприятий с участием главы города Сергея Петрина

Площадкой стало ООО «ГИДРОГАЗ» — одно из крупнейших промышленных предприятий города.

Театр — Театральный скандал вокруг Воронежского театра драмы, где украли ценное оборудование, разгорается

Скандал вышел далеко за пределы театра. Его, конечно, можно замять, но осадочек всё равно останется.

Кино и телевидение — Кассовые сборы в России за четверг, 19 ноября: новинок много, а лидер прежний

Прокат вновь решил взять своё если не качеством, то хотя бы количеством.

Персона — В Воронеже вспомнят Людмилу Кравцову

Приглашаются все, кому дорога память о выдающейся актрисе.

Литература — В издательстве Inspiria вышел новый роман Эдуарда Веркина «Площадь оружия»

Роман поднимает темы будущего литературы, границ человеческого контроля, этики и противостояния людей с ИИ.

Музыка — Молодая российская скрипачка Стефания Поспехина стала лауреатом Международного конкурса имени Лонг-Тибо 2026 года

Молодая российская скрипачка Стефания Поспехина стала лауреатом Международного конкурса имени Лонг-Тибо 2026 года

Изобразительное искусство — Как Анастасия Горшкова работает с объёмом и светом в бумажной скульптуре

«Магия бумажных листов» - авторская техника Анастасии Горшковой, в которой плоские бумажные листы превращаются в объёмные композиции.

Главное — Воронежцам подсказали, как приятно и с пользой провести выходные дни 21-22 ноября

Вероятно, это последние относительно тёплые выходные дни в наших краях.