ИИ – это атака на нашу цивилизацию

Нейролингвист, профессор Санкт-Петербургского государственного университета Татьяна Черниговская рассказала о том, как искусственный интеллект обретает интуицию, почему этические нормы и законы рухнули и чем чревата работа с геномом для нас.

О сосуществовании искусственного и естественного интеллектов

Искусственный интеллект набирает силу — это свершившийся факт. Это можно воспринимать, как кухонный разговор между котлетой и борщом: «Поговорим о том, есть ли у нас искусственный интеллект». То, что я сейчас говорю — это опасения не кумушек с кухни, а самих профессионалов. Наиболее смелые из них говорят страшное слово — «сингулярность». Они отмечают, что искусственный разум становится умнее и может наступить момент, когда он вырвется. Но это не восстание машин, о чем писали все фантасты давным-давно. Если эта штука обретет «я» и станет личностью, у нее будут собственные планы и мотивы, куда мы не входим. Люди, которых это не пугает, говорят, что они смогут выключить их, и все на этом закончится. Но это разговор для детского сада! Если системы разовьются до такой высоты, о которой мы сейчас говорим — они нас вырубят, а не мы их. Мы должны либо поймать это до того, как все успеет заработать, либо наступит другая цивилизация, где мы — неизвестно кто.

Все сложности, о которых я говорила и еще скажу, нельзя успокоить словами: «Сейчас не знаем, а потом узнаем». Нет! Мои коллеги говорят: «Сейчас у нас томографы будут такие, а потом будут этакие. Техника растет быстрыми темпами. Скоро сможем увидеть каждый нейрон». А на кой черт мне видеть каждый нейрон? Что я буду делать с этой информацией? Здесь должен быть совершенно иной подход. У нас нет такой математики, мы не знаем, как с этим сравнивать. Это все равно, что предложить муравью читать «Критику чистого разума» Канта.

О противостоянии человека и искусственного интеллекта

В 1997 году был нанесен первый удар по нашему интеллекту (в простом смысле этого слова), когда программа Deep Blue (шахматный суперкомпьютер — Прим. ред.) уложила лучшего шахматиста планеты Гарри Каспарова. Все в ужасе! Я тогда говорила: «А почему вы не страдаете, когда входите на территорию порта, там кран поднимает три вагона, а вы не можете поднять? Каждый делает свое дело. Но это нечестная игра, потому что искусственный интеллект не устает, не нервничает, не влюбляется, у него не болит голова, есть бесконечная память. Тогда придумали проверить его в игре го, где более сложные операции. Все ходили довольные, пока система не уложила профессионала Ли Седоля в 2016 году.

Во время шахматного турнира между программами в 2018 году AlphaZero разгромила Stockfish. Нейросети сыграли миллион партий, обучаясь в процессе игры. AlphaZero перебирала всего 80 тысяч операций в секунду, а Stockfish — 70 миллионов. Зараза меньшей силы выигрывала, поскольку использовала другую стратегию — придумала себе «искусственную интуицию». Профессионалы сказали, что это инопланетная игра, потому что так никто и никогда не играл в шахматы. Это похоже на когнитивную атаку на нашу цивилизацию!

Многие продолжают говорить о том, что искусственный интеллект умеет ровно то, чему мы его научили, но я в этом не уверена. Однажды выступала в одной из компаний, которая занимается системами искусственного интеллекта. Специалисты рассказали, что у них две программы друг с другом коммуницировали и выработали собственный язык, который человек не мог понять. Разработчики испугались и отключили рубильник.

О техническом прогрессе

Если раньше на овладение чем-то уходили тысячи лет, потом сотни, десятки, годы, то сейчас — дни. Разве вам не приходит информация, что если вы не поменяете iPhone на новый, то жить не сможете? Да в гробу я видела это! Не хочу его менять. Я хочу, чтобы телефон был телефоном. Мне не нужно, чтобы он пек блины, летал на Марс.

Прогресс происходит очень быстро и унизительно. Техника настолько мощная, что создает подделки лучше, чем оригиналы. Однажды мне позвонили и сказали, что есть видео, где я читаю лекцию «Чем мозг миллиардера отличается от мозга миллионера». Это такой вселенский позор был. Даже писала, что не имею никакого к этому отношения. Если бы такую лекцию прочла, то утопилась бы в Фонтанке через три минуты.

Об этических и юридических нормах

Мы можем еще пять ООН придумать, Совет прав дельфинов и мышек-норушек — это все не действует. Рухнули главные цивилизационные вещи. Искусственный интеллект в том виде, котором есть сейчас, требует другой юриспруденции. Абсолютно примитивный пример: беспилотная машина во Флориде задавила человека. Кто виноват? Программист? Владелец автомобиля или производитель?

О геноме

Мы находимся в условиях, когда новые технические умения несут опасность. Сейчас реально вставить чип в голову. Можно сказать, что с помощью него мы помогаем парализованному человеку поддерживать коммуникацию с миром. Гениальные слова, верно? Но это, как ножик, которым можно и сыр порезать, а можно — соседа.

Вы скажете: нам запрещено людей клонировать. Запретить можно, но это никто не выполняет. Конечно, мы подкрутим хромосомки, чтобы у человека не было болезни Альцгеймера. Но вы уверены, что не поломаете другие? С чего эта гордыня? Работа с геномом — опасное дело.

О человечности

Нам не нужен учитель, который будет объяснять, что стол — это стол, а стул — это стул. Такой преподаватель у нас в кармане лежит. А какой нужен? Или отправим детей железякам, пусть они учат? Ну тогда вообще всех поздравляю от всего сердца! Может, нужно учить мета-вещам: как искать информацию, в которую мы все-таки верим? Мы в университете студентов учим. А то, что в «Википедии», будете тетушкам показывать. Как с этим быть? Как не потерять человека в человеке, который будет состязаться (и проиграет, разумеется!) с компьютером в алгоритмическом смысле?

Нам нужно сесть и подумать: как жить на этой планете, какие правила изобрести, чтобы не сойти с ума? Этот мир психическому здоровью не способствует.

Источник: sobaka.ru