Бывший генерал США заявил, что искусственный интеллект будет принимать смертельные решения
Главный офицер по разработке программного обеспечения в Пентагоне Николас Чайлан внезапно уволился в прошлом месяце из-за опасений, что американская армия упала на 15-20 лет отставая от Китая в кибер-войне и искусственном интеллекте, - сказал он The Financial Times.
Предупреждения ознаменуют последний признак разногласий внутри вооруженных сил США по поводу того, как подготовиться к тому, что бывший исполнитель Google Кай-Фу Ли называет третьей революцией в войне после пороха и ядерного оружия.
В новом интервью, бывший генерал Стэнли Маккристаль, возглавлявший коалиционные силы в Афганистане на протяжении двух лет, а теперь возглавлявший консалтинговую фирму под названием McCrystal Group, утверждает, что искусственный интеллект неизбежно придет для принятия смертельных решений на поле боя. Однако он признал потенциальный риск потенциального сбоя или ошибки.
Люди говорят : « Мы никогда не дадим контроля над искусственной атакой разведслужбам, - говорит Маккристаль, которая недавно была соавтором книги под названием « Риск : руководство для акционеров ». Мы обязательно это сделаем. Потому что в определенный момент вы не можете ответить достаточно быстро, если вы не сделаете это, добавил он. Ракета гипершаррафа, сверхзвуковая ракета, находящаяся на авианосце Соединенных Штатов, у вас нет времени на то, чтобы старшеклассники отследили это, у вас нет времени на то, чтобы высокопоставленные руководители оказались в петле принятия решений, или вы не сможете напасть на ракету. Запрет на автономное оружие получил поддержку 30 стран, хотя в углубленном докладе, подготовленном по заказу Конгресса, конгресс посоветовал Соединенным Штатам выступить против запрета, поскольку он может остановить использование государством существующего оружия, которое у него есть,
В 2015 году видные деятели в области технологий, такие как генеральный директор Tesla Стив Возньяк и генеральный директор Apple Элон Маск и соучредитель Apple AAPL Бен Франклин подписали открытое письмо с призывом запретить такое оружие.
Президент Джо Байден, выступая на саммите американских и европейских лидеров в феврале, призвал к международному сотрудничеству, чтобы сформировать правила, которые будут регулировать развитие технологий и нормы поведения в киберпространстве, искусственном интеллекте, биотехнологиях, так, чтобы они использовались для поднятия людей, а не для их По словам Маккристала, более инновационный характер войны потребует, чтобы американские военные уступили полномочия по принятию решений перед искусственным интеллектом. Но он отметил, что это приводит к рискам.
Вы создали технологию, вы вложили в нее процессы, чтобы функционировать, а затем, чтобы действовать со скоростью войны, вы, по сути, включаете ее и доверяете ей, - говорит он.
Он добавляет, что это может быть довольно пугающим, особенно если существует потенциал сбоев или спекуляций, или что-то из того, что связано с этим.
Маккристаль, выпускник военной академии США в 1976 году в Уэст-Пойнте, прослужил 34-летнюю военную карьеру, включавшую стад в качестве командующего спецназом США и, в конечном счете, двухлетнего срока пребывания на посту главы коалиционных сил в Афганистане в 2010 году.
После ухода в отставку тогдашнего президента Барака Обамы Маккристал спустя несколько дней после того, как статья Rolling Stone, критикующая высших административных чиновников, приняла позицию Маккристалла.
Почему McCrystal обсуждал Yahoo Finance в интервью с Yahoo Finance.com, в то время, он в целом предупредил о власти, захваченной системами ИИ, когда организации не полностью понимают их возможности.
Трудно понять, какие решения сейчас принимаются в современной организации, когда люди действительно принимают решения, - говорит он.
Он добавил, что когда у вас нет этого, я бы сказал, что у вас есть риск того, что вы больше не будете иметь реального понимания контроля над вашими организациями.
Кого беспокоит Майкл Делл по поводу возможности для всех в условиях автоматизации против автоматизации?