Эксперты предупреждают: человечество рискует потерять контроль над ИИ уже через пять лет

Развитие искусственного интеллекта перешло в фазу столь стремительного прогресса, что уже в ближайшей пятилетке мы можем столкнуться с полной потерей контроля над цифровыми системами. К такому выводу пришли специалисты британского Института Алана Тьюринга в своем последнем докладе.

Исследователи подчеркивают: появление «суперумного» ИИ, способного превзойти человеческий интеллект практически в любой когнитивной области, перестало быть сюжетом научной фантастики и стало вполне осязаемой угрозой. Главная опасность заключается не только в вычислительной мощности машин, но и в нашей растущей зависимости от них. Люди всё чаще передают алгоритмам полномочия по принятию критически важных решений, делегируя им ответственность за сложные процессы.

Основная точка невозврата, по мнению авторов отчета, наступит тогда, когда темпы генерации решений искусственным интеллектом превысят способности человека к их анализу и проверке. Если ИИ начнет действовать быстрее, чем люди успеют осознать и оценить последствия его выводов, реальные рычаги управления процессами окончательно перейдут к технологиям.

Стоит отметить, что вопрос безопасности ИИ уже давно вышел за рамки академических дискуссий. Ранее с призывом замедлить «гонку вооружений» в сфере разработки сверхмощных моделей выступали ключевые фигуры индустрии: основатель Anthropic Дарио Амодей, глава OpenAI Сэм Альтман, а также Илон Маск. Лидеры технологического сектора опасаются, что бесконтрольное создание ИИ нового поколения может обернуться непредсказуемыми последствиями для всей цивилизации.