Предсказал будущее интернета в 90-х и пропал, когда прогнозы сбылись: история Филипа Агре

Исследователь рассказал об опасности сбора данных ещё до запуска Google и Amazon, поставил под сомнение этичность работы над искусственным интеллектом и предсказал китайскую систему рейтинга.

Детство и образование

Год рождения Агре неизвестен. Он писал, что его детство прошло в штате Мэриленд на востоке США, где местный психолог «превратил его в математического вундеркинда».

Родители рано отправили его в колледж, из-за чего отношения с ними испортились, рассказал один из его друзей. Как говорил Агре, он изучал математику, но перешёл на компьютерные науки: они были интереснее и помогали зарабатывать, чтобы оплатить кредит за учёбу.

В колледже от него не требовали посещать гуманитарные курсы. Но когда будущий учёный поступил в аспирантуру MIT, понял, что у него есть знания только по техническим дисциплинам. Чтобы исправить это, Агре ушёл на год в академический отпуск.

Я потратил год на путешествия и чтение, пытаясь самостоятельно стать образованным человеком, - говорит Филип Агре.

В отпуске ему захотелось взглянуть на развитие технологий с точки зрения философии, социологии и других гуманитарных наук. Он начал «бунтовать против своей профессии».

Филип Агре Interaction Design Foundation

В 1989 году Агре получил степень доктора компьютерных наук в MIT за диссертацию в области ИИ. Он преподавал в Чикагском университете, Университете Сассекса, а с 1998 года работал в Калифорнийском университете в Лос-Анджелесе.

Работы и прогнозы

В библиографии исследователя как минимум 32 публикации, которые он выпускал в период с 1982 по 2004 год. В середине 1990-х Агре был автором почтовой рассылки Red Rock Eaters News Service в формате, схожем с блогом. Он обозревал новости интернета, отправлял подписчикам свои статьи и отрывки из книг. Блог читали 4000 человек в 60 странах.

В своих работах учёный анализировал, как технологии повлияют на общество. Некоторые его идеи стали реальностью.

Корпорации и сбор данных

В 1994 году Агре опубликовал статью «Наблюдение и захват» про проблему конфиденциальности при развитии технологий. Ещё до запуска Amazon, Google и Facebook исследователь предсказал, что в будущем компьютеры будут собирать данные обо всём в обществе, но люди проигнорируют это.

Он считал, что в мире не появится единый «большой брат», который будет контролировать всю информацию. Вместо этого массовым сбором данных займётся множество организаций, и у каждой будут свои цели: они будут оценивать активность людей, их предпочтения и прочее.

Критика ИИ

В статье «К критической технической практике: Уроки, извлечённые при попытке реформировать ИИ» 1997 года Агре указал на одну из главных проблем области ИИ — учёные не хотят прислушиваться к критике их деятельности со стороны.

Он писал, что учёные работают над технической частью и забывают про всё остальное. По его мнению, ИИ — не самостоятельная дисциплина, её нельзя изучить в отрыве от окружающего мира, а также этики, философии, социологии и других наук.

То, о чём говорил Агре ещё в 1997 году, актуально для индустрии спустя более чем 20 лет. В декабре 2020 года Google уволила специалиста в области ИИ Тимнит Гебру после статьи с критикой технологии. Позже штатные учёные компании заявили, что Google попросила их писать об ИИ в «позитивном ключе».

Тимнит Гебру потеряла работу из-за вопросов, которые поднял Агре ещё в 1997 году NDTV Gadgets 360

Распознавание лиц и тоталитаризм

В 2001 году Агре выпустил статью под названием «Твоё лицо — это не штрих-код: Аргументы против автоматического распознавания лиц в общественных местах». Он критиковал развитие технологий наблюдения на Западе и спрогнозировал, что в будущем они появятся также и в тоталитарных и авторитарных странах.

Агре аргументировал свою позицию так:

• Технологию можно использовать для отслеживания людей в любом месте. Эти данные могут попасть в руки преступников или применяться для ужесточения государственного контроля.
• Данные с камер можно объединить с другой информацией, например, отпечатками пальцев.
• Без высококачественных фотографий поиск террористов и преступников по камерам с помощью ИИ малоэффективен.
• Коммерческие организации смогут узнавать граждан по лицам и получат доступ к данным об их финансах и социальном положении.
• Наблюдение будет не добровольным: граждане не будут знать о нём и не смогут отказаться, так как камеры появятся в госучреждениях и общественных местах.

«Если технологии распознавания лиц внедрят в странах, где гражданские свободы относительно сильны, их позже будут применять в странах, где они практически отсутствуют. Через 20 лет китайское правительство сможет использовать распознавание лиц для слежки за людьми в общественных местах», – говорил Агре.

С 2016 года в Китае запустили тотальную систему распознавания лиц. В ней данные со всех камер наблюдений анализирует ИИ, а потом составляет систему социального рейтинга. Людям с низким рейтингом нельзя, например, устраиваться на работу в госучреждения или покупать билеты на самолёт.

Спустя почти 20 лет после прогноза Агре технологию распознавания лиц внедрили в Китае

Уход из публичного поля

В период, когда Агре писал статьи, его прогнозы не были популярными, говорят друзья и коллеги учёного. Интерес к работам исследователя появился, когда описанные им идеи стали претворяться в реальность. К тому моменту он уже успел разочароваться в своей деятельности.

«Мы живём в мире, который сформировался из-за игнорирования таких людей, как Фил», – говорил Марк Ротенберг, основатель Center for AI and Digital Policy, бывший коллега Агре.

Последней опубликованной научной работой Агре стала вышедшая в 2004 году глава «Социальные навыки и развитие гражданской позиции» в книге Эндрю Финберга и Дарина Барни «Сообщество в цифровую эпоху».

В 2009 году Филип Агре без предупреждения перестал ходить на работу в университет и с тех пор не появлялся у себя в квартире. Сестра Агре потеряла связь с ним в декабре 2008 года. По её словам, у учёного было биполярное расстройство.

Одна из фотографий Агре, которую использовали при его поисках TeleRead

Друзья, коллеги и родственники объявили его пропавшим без вести и подали заявление в полицию в октябре 2009 года. Они также создали сайт, на котором опубликовали обращённые к нему письма благодарности и просьбы выйти на связь.

В январе 2010 года полиция Лос-Анджелеса сообщила, что нашла Агре в адекватном состоянии. О том, где он был несколько месяцев и что делал, правоохранители не сообщили. С тех пор исследователь ни разу не появлялся на публике.

Друзья и коллеги Агре рассказывали, что его последним проектом должна была стать «Библия интернета» — история сети с самого начала. Исследователь так и не завершил эту работу. После исчезновения Агре его коллеги хотели собрать коллекцию его статей, но он связался с ними и попросил этого не делать.

«То, о чём Фил писал в 1990-х, сегодня обсуждается так, как будто это новые идеи... Он, конечно, был разочарован, что не встретил понимания. Но такова судьба людей, которые на поколение опережают самих себя», — сказала профессор Калифорнийского университета и коллега Агре Кристин Боргман.

«По-настоящему тревожные события могут показаться не такими уж плохими только потому, что они лучше ужасов антиутопий Оруэлла», – заявлял Филип Агре.