Может ли ИИ спровоцировать ядерную катастрофу? Разбор экспертов

Дискуссия о том, какие угрозы несет в себе искусственный интеллект, выходит далеко за рамки привычных опасений. В ходе обсуждения эксперты — Брайан Барретт и Зои Шиффер — попытались систематизировать риски и понять, стоит ли нам бояться превращения ИИ в «цифровой курок» для глобальных конфликтов.

Ядерная кнопка: реальная опасность или сюжет из кино?
Один из самых пугающих сценариев — ИИ, запускающий ядерные ракеты, — эксперты склонны считать преувеличенным. Лия Фейгер, задавшая вопрос об этой угрозе, получила однозначный ответ: вероятность того, что нейросеть «по собственной воле» нажмет кнопку или повернет ключ запуска, практически нулевая.

Однако Брайан Барретт предложил взглянуть на ситуацию под другим углом, вспомнив классический фильм «Военные игры». Опасность кроется не в самом нажатии кнопки, а в манипуляции данными. ИИ может сгенерировать настолько убедительный «ложный сигнал» о нападении, что системы раннего оповещения воспримут его как реальную угрозу.

В результате страны могут вступить в конфликт из-за ошибки в интерпретации данных, даже при наличии современных спутниковых систем защиты. Таким образом, главной угрозой становится не автономное решение ИИ, а его способность спровоцировать цепочку катастрофических событий через дезинформацию.

Биологическое оружие: человеческий фактор важнее технологий
В вопросе безопасности эксперты разделили риски на два типа: действия, совершаемые человеком, и полностью автономную активность алгоритмов. Особые опасения вызывает использование ИИ для создания биологического оружия.

Зои Шиффер подчеркивает: наиболее правдоподобный сценарий заключается не в том, что ИИ «решит» создать вирус, а в том, что он предоставит необходимые знания злоумышленникам. Как показывает практика, доступ к информации в интернете уже давно используется деструктивными личностями для совершения опасных действий.

Поэтому главная угроза — это не «восстание машин», а человеческая безответственность и злой умысел, усиленные мощными инструментами искусственного интеллекта.

Итоги обсуждения
Эксперты сходятся во мнении, что сценарии, где роботы под управлением ИИ бродят по миру и творят хаос, пока остаются в разряде научной фантастики. На сегодняшний день главные риски связаны с двумя аспектами:

1. Эрозия реальности: способность ИИ создавать дезинформацию, способную запустить необратимые военные протоколы.
2. Инструментализация: доступ злоумышленников к передовым знаниям, которые ИИ может структурировать и упростить для использования в преступных целях.

Таким образом, главная задача человечества сейчас — не защита от «разумных машин», а создание жестких этических и технологических барьеров, которые не позволят ни людям, ни алгоритмам использовать технологии во вред глобальной безопасности.