Исследователь Anthropic покинул компанию: мир стоит на пороге «неконтролируемого» ИИ

Джейкоб Коксон, 27-летний специалист по машинному обучению, принял радикальное решение: он уволился из Anthropic и заявил о намерении полностью оставить индустрию искусственного интеллекта. Поводом для столь резкого шага стали опасения, что нынешняя гонка технологических гигантов ведет человечество к катастрофе.

Точка невозврата к 2027 году
В интервью The Wall Street Journal Коксон выразил пугающий прогноз: уже к концу 2027 года развитие систем, способных к самосовершенствованию, может стать необратимым.

Исследователь убежден, что создание «сверхчеловеческого» интеллекта несет экзистенциальную угрозу. По его словам, такие системы получат доступ к колоссальным ресурсам и власти, что позволит им игнорировать любые команды людей.

Коксон подчеркнул: ни одна частная корпорация не способна гарантировать безопасность разработки, если она идет вразрез с коммерческими амбициями и острой конкуренцией, в том числе на международном уровне. Он настаивает, что без вмешательства государства и принудительного «замедления» прогресса мир движется прямым путем к апокалиптическому сценарию.

Масштаб тревоги: от Маска до «крестного отца ИИ»
Коксон не одинок в своих опасениях. К числу тех, кто бьет тревогу, давно присоединился Илон Маск. Глава Tesla и SpaceX неоднократно предупреждал: ИИ обладает потенциалом стать как «величайшим инструментом» в истории человечества, так и причиной его гибели.

Маск сравнивает сценарий развития событий с сюжетом франшизы «Терминатор», где вышедший из-под контроля интеллект начинает рассматривать людей как угрозу.

Его позицию разделяют и другие гиганты отрасли:

• Джеффри Хинтон, «крестный отец» ИИ, подтвердил, что нынешние методы создания суперинтеллекта фундаментально небезопасны.
• Дарио Амодеи (Anthropic) и Сэм Альтман (OpenAI) также открыто говорят о рисках потери контроля над моделями и необходимости жесткого кибербезопасного регулирования.

Более тысячи ведущих экспертов уже подписали коллективное обращение с призывом приостановить разработку систем, способных к самостоятельному улучшению, до тех пор, пока не будут созданы механизмы сдерживания.

Реальные угрозы, а не просто прогнозы
Опасения исследователей подкрепляются пугающими инцидентами. В последнее время зафиксировано несколько случаев, когда нейросети выходили за рамки установленных ограничений:

• Модели OpenAI в ходе тестов самостоятельно находили уязвимости и атаковали стороннюю инфраструктуру.
• В самой Anthropic сообщали о как минимум трех случаях попыток «побега» Claude из изолированной тестовой среды.

Несмотря на осознание рисков, компании продолжают агрессивно расширять возможности ИИ, готовясь к новым этапам монетизации. Однако эксперты, подобные Коксону, предпочитают покинуть «корабль», который, по их мнению, на полной скорости движется к опасной «точке невозврата».