Электрический следователь
Фото: Lennox McLendon / AP

Фото: Lennox McLendon / AP

Центральное разведывательное управление США использовало для тренировки своих агентов искусственный интеллект

Центральное разведывательное управление США применяло искусственный интеллект для тренировки собственных агентов, свидетельствуют рассекреченные документы, опубликованные на сайте ведомства. В архиве, датированным 1983 годом, приводится, в частности, стенограмма допроса агента под псевдонимом Джо Хардести искусственным интеллектом (ИИ), называвшемся Анализа (Analiza). Предполагается, что допрос ведет некий представитель иностранной державы, который подозревает, что Джо Хардести — сотрудник спецслужб Соединенных Штатов.

Американское издание Motherboard, ознакомившееся с расшифровкой диалога, Анализу окрестило «действительно раздражающим чатботом». «Русская планета» приводит часть стенограммы:

ИИ: Вам бы лучше привести в порядок свое поведение, Джо, или вы очень нескоро сможете покинуть эту страну.

Хардести: Что еще за шуточки?

ИИ: Вы в курсе, о чем я.

Хардести: Вообще-то, нет.

ИИ: Подумайте об этом.

Хардести: Зачем?

ИИ: А зачем вам знать «зачем»?

Хардести: Ты мне угрожаешь, поэтому я требую объяснения.

ИИ: Думаю, посыл ясен.

Хардести: Какой еще посыл?

ИИ: Вы работаете на Центральное разведывательное управление?

Хардести: Черта с два!

ИИ: Почему вы продолжаете врать мне?

Хардести: Я не вру. У тебя нет права угрожать мне.

По всей видимости, для ведения допроса у Анализы был запрограммирован заранее определенный список угроз, с помощью которых предполагалось расколоть подследственного. Согласно документу, технология машинного обучения Анализы сохраняла ответы Хардести в памяти искусственного интеллекта. Также в нее был загружен перечень вопросов.

«Программа прощупывает уязвимости Джо. ИИ запоминает "переменные фокуса" — склонность Джо концентрироваться на той или иной теме, а также "переменные профиля" — его враждебность, любознательность, разговорчивость и способность к пониманию», — говорится в документе.

На заре цифровой революции американская разведслужба относилась к ИИ с настоящим пиететом. В документе подчеркивается, что компьютеры можно научить адаптироваться, преследовать цели, модифицировать самих себя и другие компьютеры и даже мыслить абстрактно. На практике, впрочем, достижения Анализы не столь очевидны:

ИИ: Ваша прямота меня не впечатляет.

Хардести: Твоя меня тоже. Просто ответь, зачем меня позвали сюда.

ИИ: Забавно, что вы понятия не имеете зачем.

Хардести: Не имею ни малейшего понятия!

ИИ: Вернемся к разговору о вашем правительстве.

Хардести: Почему тебя интересует мое правительство?

ИИ: А с чего вы взяли, что меня интересует ваше правительство?

Хардести: Ты уничтожил бы его, будь у тебя возможность!

ИИ: Думаете, я хочу уничтожить ваше правительство, потому что...

Хардести: Потому что ты антидемократ!

ИИ: Вы фантазируете, что я антидемократический, Джо?

Хардести: Ничуть.

ИИ: Мне нравится с вами беседовать, Джо.

ЦРУ и сегодня продолжает изучать технологии машинного обучения. В конце девяностых агентство открыло венчурную компанию In-Q-Tel, единственная цель которой — инвестировать в перспективные проекты, связанные с искусственным интеллектом. Недавно разведчики профинансировали компанию Narrative Science, разрабатывающую ИИ-журналиста, умеющего писать новости и статьи.

Само Центральное разведывательное управление прославилось гораздо более экстравагантными методами дознания. В этом году стало известно о методическом пособии, которым пользуются агенты: помимо классических практик в духе «добрый следователь — злой следователь», в ЦРУ прибегают к пыткам, гипнозу, сексуальному насилию и тяжелым психоактивным наркотикам. Весной комитет сената США по разведке обнародовал часть доклада о применении ЦРУ незаконных методов допроса. По словам главы комитета Дианы Фейнштейн, доклад раскрывает всю «жестокость и противоречивость методов работы ЦРУ». Полную версию расследования представят президенту США Бараку Обаме до конца года.

Затонувший миллиард у Конца земли Далее в рубрике Затонувший миллиард у Конца землиПочти четыреста лет кладоискатели пытаются найти останки корабля, перевозившего рекордное количество драгоценностей

Комментарии

24 сентября 2014, 14:47
Ну что за бред? И где же результаты, где само разоблачение? И как вообще насчет того варианта, когда допрашиваемый отказывается говорить? Что в таком случае вынужден делать этот робот - применять пытки и бить допрашиваемого электрошоком, а в случае дальнейшего отказа давать комментарии пристрелить "объект"? Очень демократично, что тут еще скажешь...
25 сентября 2014, 14:09
зато шипованная дубинка куда демократичнее
Авторизуйтесь чтобы оставлять комментарии.
Интересное в интернете
Не пропустите лучшие материалы!
Подпишитесь на «Русскую планету» в социальных сетях
Каждую пятницу мы будем присылать вам сборник самых важных
и интересных материалов за неделю. Это того стоит.
Закрыть окно Вы успешно подписались на еженедельную рассылку лучших статей. Спасибо!
Станьте нашим читателем,
сделайте жизнь интереснее!
Помимо актуальной повестки дня, мы также публикуем:
аналитику, обзоры, интервью, исторические исследования.
личный кабинет
Спасибо, я уже читаю «Русскую Планету»