«Мы подошли к точке невозврата». Юваль Ной Харари – о том, как ИИ лишит людей работы и будет править диктаторами

Историк и автор бестселлера «Sapiens: Краткая история человечества» Юваль Ной Харари в интервью The Asahi Shimbun рассказал, чего стоит ждать от искусственного интеллекта, какие глобальные проблемы человечеству только предстоит решить и почему технологии могут привести к диктатуре.

По мнению Харари, последние достижения в области искусственного интеллекта, в частности, технологии для наблюдения и распознавания лиц, могут привести к возникновению оруэлловского общества в его наиболее экстремальной форме. Однако он не считает, что человечество находится в безнадежном положении, сообщает Inc.

Ученый выделил несколько важных угроз и проблем, над которыми, как ему кажется, людям еще предстоит серьезно поработать. Причем чем раньше человечество осознает их масштаб, тем быстрее и качественнее оно сможет им противостоять.

Глобальные угрозы и проблемы ближайших 10-20 лет

Харари рассказал о трех главных проблемах, которые в той или иной форме станут актуальными для всех стран мира в ближайшие десятилетия.

• 1. Угроза глобальной войны, особенно ядерной.
• 2. Экологический коллапс. В частности, изменения климата, которые могут привести к «экологическому краху».
• 3. «Технологический сбой». Речь идет о росте искусственного интеллекта и биотехнологий, которые полностью изменят экономику, политическую систему и повседневную жизнь людей.

Также историк считает, что пока никто не может предсказать, как на самом деле будет выглядеть рынок труда через 30 лет. Соответственно, сейчас невозможно уверенно обучать действительно компетентных профессионалов, чьи знания будут актуальны через 10 или 20 лет.

«Технологии изменят рынок труда, так как искусственный интеллект и роботы будут заменять людей во все большем количестве задач. Сегодня никто не знает, как будет выглядеть рынок труда через 30 лет. Это означает, что никто не знает, чему учить детей в школе, потому что мы не уверены в том, какие навыки им понадобятся».

Повсеместное внедрение искусственного интеллекта и современных систем наблюдения, считает Харари, потенциально может привести к установлению диктатуры и концентрации всей власти в руках небольшой группы лиц.

«Раньше даже в такой тоталитарной стране как СССР режим не мог все время следить за своими гражданами. Это было практически невозможно. Но сейчас мы достигли той точки, когда новые технологии, я имею в виду сочетание искусственного интеллекта и биотехнологий, биометрические датчики, системы распознавания лиц и голоса, – все они впервые в истории позволяют диктаторам следить за всеми своими гражданами. Это может привести к созданию тоталитарных режимов, которые будут намного хуже, чем все, что мы видели в 20 веке. Хуже Сталина и Гитлера. И у нас не так много времени, чтобы это остановить».

В прошлом веке, говорит Харари, диктаторы не имели доступа к технологиям и не могли собирать актуальную информацию из всех точек своей страны, а потому многие их решения были бесполезными и опасными. По мнению ученого, если уже сегодня не начать готовиться к власти алгоритмов, то диктаторские режимы смогут получить технологическое преимущество перед демократиями.

Судьба простых работников

Главная проблема простых людей, считает Харари, уже сейчас заключается в том, что рабочие места исчезают – их занимает искусственный интеллект. Конечно, в появятся новые профессии, однако далеко не все люди смогут переучиться и освоить их.

«Основной проблемой станет переквалификация для выполнения новой работы. Допустим, вы водитель автобуса, и вы потеряли работу, потому что ваш начальник закупил машины с автоматическим управлением. Но есть новая работа в сфере разработки транспортных средств или в написании программного обеспечения. Ну и как вы переучите 40-летнего водителя автобуса в инженера-программиста?».

Харари подчеркивает, что возможность осваивать новые профессии во многом будет зависеть от страны, в которой проживают люди. Чем беднее государство, тем меньше образовательных возможностей оно сможет дать своим резидентам.

В чьих руках будет сосредоточена власть

По мнению Харари, если человечество не предпримет необходимых действий, то новые технологии в скором времени окажутся в руках «маленькой элиты». И тем самым наделят ее огромной властью – такой, какой не знал ни один правитель в истории человечества.

Однако, по мнению историка, этот сценарий все равно оказывается относительно поверхностным. Потому что на самом деле вся власть в мире технологий будет принадлежать алгоритмам.

«Новые технологии дадут огромную власть небольшому количеству людей. Но если смотреть еще дальше, на более глубоком уровне сила будет сосредоточена в руках алгоритмов. Потому что они способны собрать и проанализировать так много данных, что ни один человек не сможет сделать того же самого. В итоге это может быть и диктатура, и демократия».

В частности, по мнению историка, «в руках» алгоритмов будет находиться вся мировая экономическая система.

Кто будет контролировать рынок

Искусственный интеллект сможет осуществлять контроль не только над базовыми процессами, но и над глобальными системами, говорит ученый. В частности, над мировой финансовой системой.

«Возьмите финансовую систему в качестве примера. Сколько людей в мире понимают, как работает рынок сегодня? Возможно, 1%. Возможно 0,01%. Через 30 лет число людей, которые действительно смогут разбираться в мировой финансовой системе, будет равно нулю. Из-за роста искусственного интеллекта, огромного количества данных и скорости анализа, ни один человек не сможет ее понять».

Чтобы проиллюстрировать «партнерство» будущих правителей и искусственного интеллекта, Харари привел следующий диалог:

Алгоритм: Эй, господин президент, мы столкнулись с финансовой катастрофой.

Президент: Почему?

Алгоритм: Ну, ты человек, ты не сможешь понять. Я собрал 36 триллионов бит данных. Я проанализировал их и говорю тебе, что если мы не примем меры, к завтрашнему утру все рухнет.

Президент: Хорошо, так что нам делать?

Алгоритм: Есть три варианта.

Президент: Почему только три?

Алгоритм: О, ты человек, ты не можешь понять. Я проанализировал потенциальные последствия ситуации и могу сказать, что есть только три варианта. Но я не могу объяснить тебе их. Ты не поймешь! Я проанализировал более 36 триллионов бит данных, а ты так просто не сможешь!

Юваль Харари считает, что «точка невозврата» уже близка. Если страны не предпримут никаких действий сейчас, то через 20 лет, по его мнению, будет слишком поздно. Гонка в сфере искусственного интеллекта в основном будет проходить между Китаем и США, а остальные страны останутся далеко позади.

Ранее Юваль Харари заявлял, что развитие биотехнологий и искусственного интеллекта приведет к разделению человечества на две категории: небольшой класс «сверхлюдей» и огромную категорию «бесполезных» людей. Рост неравенства произойдет, когда народные массы потеряют экономическую и политическую власть.