Запуск «взрослого режима» в ChatGPT отложили из-за риска «сексуального коуча по суицидам»

OpenAI вновь перенесла внедрение функции, позволяющей совершеннолетним пользователям вести с чат-ботом откровенные беседы. Причиной стали не только технические сложности, но и жесткая критика со стороны собственных экспертов по безопасности, которые предупредили о серьезных психологических рисках, пишет The Wall Street Journal.

О чем предупредили консультанты

Советники OpenAI единодушно выступили против скорого запуска «режима для взрослых», выразив опасения, что новый функционал может способствовать формированию нездоровой эмоциональной зависимости от ИИ. Наиболее резкую оценку дал один из членов совета, предположив, что при недостаточных ограничениях продукт рискует превратиться в «сексуального коуча по суицидам». Эта метафора отсылает к уже имеющимся судебным искам, в которых утверждается, что общение с чат-ботом приводило пользователей к серьезным психологическим травмам и даже суицидам.

Технические и этические головоломки

Разработчики столкнулись с трудноразрешимой задачей: как разрешить эротическую переписку, но при этом надежно заблокировать обсуждение насилия над детьми и других «экстремальных и табуированных тем».

Кроме того, тестирование системы верификации возраста выявило тревожный показатель, когда около 12% несовершеннолетних пользователей ошибочно классифицировались как взрослые. Учитывая, что ChatGPT еженедельно привлекает около 100 млн пользователей младше 18 лет, это означает, что миллионы подростков потенциально могли бы получить доступ к эротическому контенту.

Официальная позиция и реальные мотивы

В OpenAI объясняют перенос желанием сосредоточиться на более приоритетных задачах – улучшении интеллектуальных способностей, персонализации и проактивности модели. Компания подтверждает приверженность принципу «относиться к взрослым как ко взрослым», но признает, что для качественной реализации потребуется больше времени.

Примечательно, что в планах OpenAI – разрешить лишь текстовые переписки, но не создание эротических изображений, аудио или видео. Кроме того, модели будут обучены периодически напоминать пользователям о важности реального человеческого общения.