«Победить алгоритм алгоритмом»: глава РАН предложил способ обуздать вышедший из-под контроля искусственный интеллект

Стремительный прогресс нейросетей уже невозможно повернуть вспять, однако в будущем человечеству станет крайне сложно самостоятельно сдерживать их экспансию.

Единственным выходом в этой ситуации станет перекладывание функций контроля на плечи самого же ИИ. Такое мнение в интервью РИА Новости озвучил президент Российской академии наук, специалист в сфере микро- и наноэлектроники Геннадий Красников.

Остановить эволюцию искусственного интеллекта нереально, и наступит момент, когда человеку станет просто не под силу контролировать этот процесс. Значит, следить за ним должен другой искусственный интеллект, — убежден академик.

По словам главы РАН, для обеспечения собственной безопасности людям придется выстраивать многоуровневые системы сдержек, где одна нейросеть будет присматривать за другой, а третья — страховать обеих.

Красников подчеркнул, что разработчикам необходимо с особым вниманием изучать возможные бреши и уязвимости в программных каркасах современных языковых моделей. Именно поэтому отрасль остро нуждается в четких государственных регламентах и правилах, регулирующих создание методов машинного обучения.

Фундаментом для ИИ выступают как раз языковые модели, которые критически важны для формирования технологического суверенитета страны. И здесь, по мнению ученого, приоритет нужно отдавать отечественным разработкам.

В то же время, когда речь заходит о прикладных задачах — например, о прорывных медицинских исследованиях и создании лекарств от неизлечимых болезней, — стандартных языковых моделей недостаточно. В этих сферах требуются высокоточные инструменты, обученные на гигантских массивах профильных данных, точность которых должна на порядки превосходить обычные чат-боты.

Стране необходимы самые передовые решения: их можно создавать самостоятельно или заимствовать у зарубежных партнеров, но с одним жестким условием — все такие модели должны быть полностью доверенными, защищенными и выдавать безупречно точный результат, резюмировал академик.

Напомним, тема экзистенциальных рисков, исходящих от нейросетей, все чаще поднимается в мировом научном и бизнес-сообществе. Ранее пара сотрудников лаборатории Anthropic заявила, что в ближайшее десятилетие вероятность гибели человечества от рук ИИ составляет около 10%.

В сентябре гендиректор той же Anthropic Дарио Амодей открыто призвал притормозить гонку вооружений в сфере создания сверхмощного искусственного интеллекта ради безопасности людей. Эту идею уже поддержали такие тяжеловесы IT-индустрии, как Илон Маск (xAI) и Сэм Альтман (OpenAI).