Если ООН не запретит роботов-убийц, они начнут войну против людей

Организации Объединённых Наций следует как можно скорее ввести запрет на боевых роботов, считает профессор Университета Нового Южного Уэльса и эксперт по искусственному интеллекту Тоби Уолш. Иначе в скором времени развернётся гонка вооружений, роботы-убийцы попадут в руки террористов и начнут безжалостную войну против людей.

После трёх лет неофициальных дискуссий о боевых роботах страны-участницы ООН в рамках конференции по разоружению наконец примут решение о том, стоит ли начать официальное обсуждение запрета на летальное автономное оружие.

В июле прошлого года тысячи исследователей и экспертов в области робототехники и искусственного интеллекта выступили с открытым письмом, призывая к немедленному запрету такого оружия. Одним из организаторов этого письма стал Тоби Уолш, который уже третий раз выступает на заседании ООН с аналогичным призывом.

Профессор считает, что если запрета не будет, то неизбежно начнётся гонка вооружений. И зловещим итогом этой гонки станет то самое мрачное будущее, которое предсказывают нам фантастические фильмы вроде «Терминатора». Но ещё до осуществления этого сценария оружие попадёт в руки террористов и будет использовано против мирных людей. Это не будет война роботов с роботами – это будет война роботов с людьми.

Ранее на этой неделе международная организация IEEE – Институт инженеров электротехники и электроники – объявила об инициативе по созданию этических стандартов для разработчиков автономных систем. Согласно отчёту IEEE, автономное оружие дестабилизирует систему международной безопасности, может привести к непреднамеренной военной эскалации и даже войне. А потому необходимо установить жёсткий контроль над таким оружием.

Многие поддерживают запрет летального автономного оружия. Уже девять членов Конгресса США высказались в пользу этой инициативы. Однако есть немало экспертов, не разделяющих опасений Тоби Уолша.

Джинни Рометти, гендиректор IBM, полагает, что человечеству можно не бояться восстания машин. Дело в том, что под термином «искусственный интеллект» мы сейчас понимаем не совсем то, что есть на самом деле. Это не интеллект как таковой, а когнитивные системы, которые не являются ни автономными, ни разумными. Поэтому они никак не смогут восстать.

Источник: https://hightech.fm/