Страх перед ИИ: топ-разработчики увольняются из-за угрозы человечеству

Из крупнейших компаний, занимающихся разработкой искусственного интеллекта, один за другим уходят топ-менеджеры и ведущие инженеры. По данным издания Axios, за последнее время как минимум 10 ключевых специалистов покинули свои посты. Причина — не внутренние конфликты или корпоративные реформы, а растущий страх перед возможными последствиями собственной работы.

Речь идёт о разработке AGI (Artificial General Intelligence) — сильного искусственного интеллекта, способного к мышлению и обучению на уровне или выше человеческого. Несмотря на то что точные сроки его появления неизвестны, многие эксперты считают, что он может быть создан уже в ближайшие 5–10 лет.

Некоторые специалисты, включая Илона Маска, открыто говорят о рисках. Он оценил вероятность того, что ИИ приведёт к гибели человечества (так называемый p(doom)) в 20%. Эта метрика, начавшаяся как шутка, теперь воспринимается всерьёз и обсуждается на уровне крупных корпораций. Генеральный директор Google Сундар Пичаи назвал аналогичный диапазон риска — от 15% до 25%, выступая в подкасте Лекса Фридмана.

Авторы исследования подчеркивают: если даже те, кто непосредственно создаёт искусственный интеллект, оценивают шансы глобальной катастрофы как 1 из 10 — а иногда даже как 1 из 5 — стоит воспринимать такие опасения всерьёз. Это тревожный сигнал и для общества, и для тех, кто принимает решения в сфере регулирования новых технологий.