Как дроны-убийцы с искусственными интеллектом смогут уничтожить человечество

Видео «Slaughterbots» изображает антиутопическое будущее автономных дронов-убийц.

Ролик 2017 года изображает очень страшное будущее, в котором полчища микродронов-убийц отправляются убивать политических активистов и законодателей США. Вооруженные зарядами взрывчатки, квадрокоптеры размером с ладонь используют интеллектуальный анализ данных в режиме реального времени и искусственный интеллект, чтобы находить и уничтожать свои цели.

Создатели короткометражного фильма под названием «Убийцы-боты» надеются, что эта инсценировка привлечет внимание к тому, что они считают надвигающимся кризисом – разработке смертоносного автономного оружия, которое сможет самостоятельно выбирать и стрелять по людям без участия человека.

Фильм заказала некоммерческая организация Future of Life Institute, занимающаяся снижением экзистенциальных рисков, связанных с передовыми технологиями, включая искусственный интеллект. Институт, основанный группой ученых и бизнес-лидеров, поддерживался, в частности, скептиками в области искусственного интеллекта Илоном Маском и Стивеном Хокингом.

Институт также стоит за Кампанией по борьбе с роботами-убийцами, коалицией НПО, которые объединились, чтобы призвать к превентивному запрету смертоносного автономного оружия.

Фильм показали в Организации Объединенных Наций в Женеве во время заседания Конвенции о конкретных видах обычного оружия. Конвенция, созданная в 1980 году, представляет собой серию договоров, запрещающих или ограничивающих использование оружия, которое считается причиняющим ненужные или неоправданные страдания. Например, конвенция ввела в действие протокол 1995 года, запрещающий оружие, такое как лазеры, специально предназначенные для слепоты.

По состоянию на 2017 год 125 стран обязались соблюдать резолюции конвенции, в том числе все пять постоянных членов Совета Безопасности ООН – Китай, Франция, Россия, Великобритания и США.

Кампания по борьбе с роботами-убийцами проводит серию встреч на мероприятии этого года, чтобы предложить всемирный запрет на смертоносное автономное оружие, которое потенциально может быть разработано в виде летающих дронов, самоходных танков или автоматических турелей. Хотя ни одна страна или государство открыто не развертывает такое оружие, широко распространено мнение, что различные военные группировки по всему миру разрабатывают смертоносное оружие, работающее на основе искусственного интеллекта.

Сторонники запрета смертоносного автономного оружия утверждают, что существует четкий моральный императив: машины никогда не должны решать, жить человеку или умереть.

Технологии, показанные в короткометражном фильме, основаны на жизнеспособных системах, работающих сегодня, таких как распознавание лиц, автоматическое наведение на цель и боевые дроны.

«Этот короткометражный фильм – больше, чем просто предположение, – сказал Стюарт Рассел, профессор компьютерных наук Калифорнийского университета в Беркли и пионер в области искусственного интеллекта. «Он показывает результаты интеграции и миниатюризации технологий, которые у нас уже есть».

Вы можете включить субтитры на русском, нажав на соответствующую кнопку в правом нижнем углу плеера. 

«Позволение машинам убивать людей будет разрушительным для нашей безопасности и нашей свободы», – говорит Рассел в коротком комментарии в конце видео. «Тысячи моих коллег-исследователей согласны с этим. У нас есть возможность предотвратить будущее, которое вы только что видели, но возможность действовать быстро закрывается».