Илон Маск и более тысячи экспертов призвали остановить обучение нейросетей

Более тысячи специалистов, в том числе американский миллиардер Илон Маск, призвали остановить исследование мощных систем искусственного интеллекта.

Они написали открытое письмо с соответствующим призывом. Текст появился на сайте организации Future of Life.

«Мы призываем все лаборатории, исследующие искусственный интеллект, немедленно прекратить хотя бы на шесть месяцев тренировки систем мощнее GPT-4», – звучит текст письма.

Авторы письма считают, что пауза в исследовании искусственного интеллекта должна быть публичной и реальной. На их взгляд, если сами компании не могут оставить обучение нейросетей быстро, то в ситуацию должно вмешаться правительство и ввести мораторий на такие операции.

Дело в том, что системы искусственного интеллекта, сопоставимые с человеческим разумом, могут представлять опасность для общества. По словам авторов письма, это следует из результатов крупных исследований.

«Нам следует спросить себя: должны ли мы позволить машинам наводнить наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать всю работу, включая ту, которая приносит удовлетворение? Должны ли мы развивать нечеловеческие разумы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией?» – говорится в письме.

В письме указывается, что перерыв в развитии ИИ нужно сделать обязательно, чтобы создать и внедрить набор протоколов безопасности для более мощных систем.

Также авторы текста призывают разработчиков наладить сотрудничество с политиками для создания системы управления в этой области. Например, организации новых регулирующих органов, надежной проверки и сертификации, а также системы контроля.

Свои подписи под открытым письмом оставили не только Илон Маск, но и другие известные личности, в том числе сооснователь Apple Стив Возняк и сооснователь Pinterest Эван Шарп.

Ранее сообщалось, что нейросети могут лишить работы 300 миллионов человек.