«Проблема OpenAI – сам Сэм»: The New Yorker опубликовал досье на Альтмана

Журнал The New Yorker после года расследований опубликовал «досье» на главу OpenAI Сэма Альтмана. Основной вывод: проблема компании – не технологии, а сам Альтман. Бывшие и нынешние сотрудники описывают его как «почти патологического лжеца» с «социопатическим безразличием» к последствиям. Сооснователь OpenAI Илья Суцкевер в служебных записках называл Альтмана человеком, который «просто говорит людям то, что они хотят услышать». А глава Anthropic Дарио Амодеи писал: «Проблема OpenAI – сам Сэм».

Отсутствие навыков

Издание утверждает, что Альтман не обладает глубокими знаниями в машинном обучении, путал базовые термины, зато с молодости играл в покер и применял эти навыки в бизнесе. Еще в 2017 году он якобы пытался убедить разведку США, что Китай вот-вот создаст сильный ИИ и OpenAI срочно нужны «миллиарды», но доказательств не предоставил, а в спецслужбе это сочли рекламным ходом.

Проблемы с безопасностью

Особое внимание в статье уделено пренебрежению безопасностью. Когда команда Дарио Амодеи выдвигала условия для сотрудничества с Microsoft, Альтман их принял, но в договор тайно добавил пункт о праве Microsoft блокировать слияния OpenAI и отрицал это, пока Амодеи не зачитал договор вслух. Внутреннюю «команду по супервыравниванию» (призванную бороться с «обманчивым поведением» ИИ) Альтман обещал обеспечить 20% вычислительных ресурсов, но выделил лишь 1-2% на старом кластере. Команду через год распустили.

Перед запуском GPT-4 Альтман заверил совет директоров, что модель одобрена по безопасности. Члены совета позже выяснили, что ключевые функции (тонкая настройка, режим личного помощника) не получали одобрения. А при выпуске GPT-4 Turbo Альтман заявил директору по исследованиям Мире Мурати, что одобрение не требуется – консультант, на которого он сослался, удивился: «Непонятно, откуда у Сэма такое впечатление».

Итоги

В итоге совет директоров осенью 2023 года уволил Альтмана. Однако он фактически устроил «переворот», вернулся на пост, добился ухода Суцкевера и других критиков. Расследование юридической фирмы, курируемое сторонниками Альтмана, якобы не оставило письменного отчета. С тех пор компанию покинула Мира Мурати, а нынешний финансовый директор Сара Фрайер публично заявляет, что OpenAI не готова к выходу на биржу, несмотря на желание гендиректора, и за это Альтман отстранил ее от переговоров с инвесторами.

Ранее мы писали о скандале внутри семьи Сэма Альтмана.