Илон Маск объясняет, какой риск таит в себе нерегулируемое развитие ИИ

На протяжении всей истории человечества, люди были самыми умными существами на планете. Теперь они создали нечто, что немного умнее их, и последствия этого невозможно предсказать.

«Искусственный интеллект теперь повсюду. Люди, которые совсем недавно не совсем понимали, что это такое, теперь играют с ним в своих телефонах. Хорошо это или плохо? Я думал об искусственном интеллекте очень долго, еще со времен учебы в колледже. Это была одна из тех 4 или 5 вещей, которые, как я думал, действительно сильно повлияют на будущее. Самые умные существа на этой земле – это люди, ум –  наша определяющая характеристика. Мы явно слабее, чем, скажем, шимпанзе, и менее проворны, но мы умнее. Что же происходит, когда проявляется нечто гораздо более умное, чем самый умный человек?»

За ИИ нужен государственный надзор

«Это называется сингулярностью.  Это как черная дыра, потому что вы не знаете, что будет после неё. Это трудно предсказать. Потому я думаю, что мы должны быть осторожны с   ИИ. Я думаю, что должен быть какой-то государственный надзор. Когда у вас есть вещи, представляющие опасность для общества, например, продукты и лекарства, подключается Управление по контролю за продуктами и лекарствами. У нас есть такие агентства, которые осуществляют надзор за тем, что может принести вред обществу.  Вот почему я долгое время был убежденным сторонником регулирования ИИ».

Надзор – это невесело, но необходимо

«Знаете, быть регулируемым не очень весело. У меня большой опыт работы с регулируемыми отраслями: автомобильная промышленность является высокорегулируемой. В Европе, Китае и других странах мира действует совершенно разные нормативные акты, мы очень хорошо знакомы с тем, как работают регулирующие органы. То же  самое можно сказать и о ракетах. Вы не можете просто так пускать ракеты, потому что за этим следит FAA. И даже для того, чтобы получить лицензию  на запуск, необходимо одобрение полудюжины или более федеральных агентств, плюс агентства штатов. Я прошел через множество ситуаций, связанных с регулированием. Это безумие. Иногда  люди думают, что я маньяк, который регулярно бросает вызов регуляторам, но на самом деле это не так. В редких случаях я не соглашаюсь с  регуляторами, но в подавляющем большинстве случаев мои компании играют по их правилам  и соблюдают их. Так или иначе, я считаю, что мы должны отнестись к этому серьезно, и у нас должен быть регулирующий орган.

Я думаю, что это должно начинаться с группы, которая сначала изучит ИИ, затем изучит мнение индустрии, а затем предложит правила».

В чем опасность ИИ?

«ИИ, возможно, опаснее, чем  неправильное проектирование самолета, или некачественное производство автомобиля. В том смысле, что у него есть потенциал для уничтожения цивилизации. Это даже не будет похоже на фильм «Терминатор», потому что интеллект будет находиться в центрах обработки данных.  Роботы – лишь конечные исполнители.

Если это касается ИИ и мы вводим правила только после того, как произошло что-то ужасное, то может оказаться слишком. ИИ может контролировать ситуацию в этот момент. Вполне возможно, что вы не сможете его отключить, и он будет принимать решение за людей. Я имею в виду, такие вещи, как CHATGPT4 от компании OpenAI, в создании которой я, к сожалению, сыграл решающую роль.  Да, мы с Ларри Пейджем    были близкими друзьями.  Я останавливался у него дома в Пало-Альто и разговаривал с ним до поздней ночи о безопасности ИИ. И, по крайней мере, мне казалось, что Ларри недостаточно серьезно относится к безопасности ИИ.

Он, казалось, хотел создать что-то вроде цифрового сверхразума. По сути, цифрового бога, если хотите. Чем быстрее, тем лучше. На протяжении многих лет он делал публичные заявления о том, что целью Google является так называемый AGI, или сверхинтеллект».

ИИ – это и хорошо, и плохо

«Если у вас есть радикально новая технология, вы должны предложить алгоритм, который, максимизирует вероятность того, что технология принесет пользу, и минимизирует вероятность того, что она принесет вред. Нельзя просто идти и надеяться на лучшее. В какой-то момент я сказал Ларри: ну, а как насчет того, чтобы убедиться, что с человечеством будет все в порядке? А  он назвал меня видовым дискриминатором. В  тот момент Google приобрела Deepmind. И у них суммарно было около трех четвертей всех специалистов в области ИИ в мире. У них очевидно, было огромное количество денег и больше компьютеров, чем у кого-либо еще. Я подумал: ок, у нас тут однополярный мир, где есть только одна компания, у которой практически есть полная монополия на  ИИ. А человек, который всё это затеял, похоже, не заботится о безопасности. Это нехорошо. Вот почему OpenAI базируется на открытом исходном коде, чтобы люди знали, что происходит. Вы знаете, я только за прибыль. Но мы не хотим, чтобы это было что-то вроде демона из ада, максимизирующего прибыль.

Как там в старой пословице? Перо могущественнее меча. Так что если у вас сверхинтеллектульный ИИ, который способен писать невероятно хорошо, он потенциально сможет манипулировать  общественным мнением, это будет плохо».