Бункер перед AGI: почему сооснователь OpenAI испугался собственного успеха

Летом 2023 года сооснователь и главный научный сотрудник OpenAI Илья Суцкевер в шутку — или всерьёз — заявил: «Мы точно построим бункер, прежде чем создадим AGI». Это стало символичным выражением страхов внутри компании: технология развивается слишком быстро, а последствий никто не может предсказать.

Суцкевер, один из самых преданных идее создания искусственного общего интеллекта (AGI), всё больше задумывался о рисках. По словам его коллег, он воспринимал приближение сверхразума почти как религиозное откровение. Он делил своё время между наукой и вопросами безопасности, а идея о строительстве бункера возникла как способ защитить исследователей от внешнего давления в момент запуска AGI.

Эти настроения отражали и официальную позицию OpenAI. В мае 2023 года гендиректор Сэм Альтман подписал письмо, предупреждающее об угрозе ИИ для человечества. Однако, несмотря на громкие заявления о безопасности, компания стремительно превращалась в высокодоходный бизнес: после запуска ChatGPT OpenAI стала одним из самых обсуждаемых брендов в индустрии.

Внутри компании нарастал конфликт. Суцкевер и технический директор Мира Мурати всё чаще сталкивались с решениями Альтмана, который, по их мнению, ставил скорость и пиар выше принципов. Осенью 2023 года они инициировали его отстранение. Совет директоров поддержал их — Альтман был уволен 17 ноября, что вызвало волну шока в Кремниевой долине.

Но спустя несколько дней, под давлением сотрудников, инвесторов и Microsoft, Альтман вернулся. Совет был расформирован, а позиции его критиков, включая Суцкевера, ослабли. Вскоре Суцкевер ушёл с поста и, по сообщениям инсайдеров, больше не участвует в управлении OpenAI.

Сегодня компания под управлением Альтмана строит новое лицо. В начале 2024 года он объявил о проекте на $500 млрд по созданию ИИ-инфраструктуры в сотрудничестве с администрацией Трампа. Ранее идеалистическая и некоммерческая организация теперь играет на поле глобальной политики и инвестиций.

OpenAI остаётся символом технологического прорыва — и одновременно тревожного вопроса: кто будет контролировать ИИ, способный изменить ход истории?