Anthropic отклоняет новые условия Пентагона, оставаясь на позициях по летальному автономному оружию и массовой слежке

США - Информационное агентство Эхбари

Anthropic отклоняет новые условия Пентагона, оставаясь на позициях по летальному автономному оружию и массовой слежке

Компания Anthropic, ведущий разработчик искусственного интеллекта, публично отказалась от новых условий, предложенных Министерством обороны США (Пентагоном). Этот отказ произошел менее чем за 24 часа до критического срока, установленного Пентагоном, что подчеркивает значительное расхождение во взглядах на этическое и оперативное развертывание передовых технологий искусственного интеллекта в военных целях.

Пентагон стремился пересмотреть существующие контракты с разработчиками ИИ, включая Anthropic, требуя неограниченного доступа к их моделям и возможностям. Это требование привело к резкому обмену публичными заявлениями, сообщениями в социальных сетях и, возможно, напряженным закулисным переговорам. Суть спора заключается в твердом отказе Anthropic отказаться от двух фундаментальных «красных линий»: запрет на использование ее технологий для массовой слежки за гражданами США и отказ от разработки или предоставления летального автономного оружия (ЛАО) – систем, способных идентифицировать и поражать цели без человеческого контроля.

Это противостояние происходит в критический момент, когда Соединенные Штаты и их союзники сталкиваются с меняющимися геополитическими вызовами, требующими использования передовых технологий для обеспечения национальной безопасности. По сообщениям, другие крупные игроки в сфере ИИ, такие как OpenAI и xAI, якобы согласились с пересмотренными условиями Пентагона. Этот контраст подчеркивает различные этические принципы и стратегические соображения, которыми руководствуются компании, занимающиеся разработкой ИИ, при взаимодействии с оборонными инициативами.

Отказ Anthropic привел к вызову ее генерального директора Дарио Амодеи в Белый дом на встречу с министром обороны Питом Буттиджиджем. Источники сообщают, что министр Буттиджидж выдвинул Амодеи ультиматум, потребовав, чтобы компания отказалась от своей позиции к концу рабочего дня в пятницу, иначе ей грозят неизвестные последствия.

В заявлении, опубликованном в четверг вечером, Амодеи изложил свою глубокую убежденность в "экзистенциальной важности использования ИИ для защиты Соединенных Штатов и других демократий, а также для победы над нашими автократическими противниками". Он подтвердил проактивное участие Anthropic в развертывании своих моделей для Министерства обороны и разведывательного сообщества. Амодеи уточнил, что Anthropic "никогда не возражала против конкретных военных операций и не пыталась ограничивать использование наших технологий в каждом отдельном случае". Однако он подчеркнул, что "в узком наборе случаев мы считаем, что ИИ может подорвать, а не защитить, демократические ценности", особо выделив массовую внутреннюю слежку и полностью автономное оружие как критические проблемы.

Амодеи далее уточнил нюансы автономных систем. Он признал, что "частично автономное оружие... жизненно важно для обороны демократии", и что полностью автономное оружие в конечном итоге может "оказаться решающим для нашей национальной обороны". Важно отметить, что он добавил: "сегодня передовые системы ИИ просто недостаточно надежны, чтобы питать полностью автономное оружие". Хотя он не полностью исключил будущее сотрудничество по таким системам, он подчеркнул, что нынешние передовые ИИ-системы еще недостаточно зрелые или надежные для таких ответственных применений.

Пентагон, по сообщениям, уже предпринимал шаги для оказания давления на Anthropic. Ранее он просил крупных оборонных подрядчиков оценить их зависимость от ИИ Claude от Anthropic, что рассматривалось как возможный первый шаг к признанию компании "риском для цепочки поставок" – классификацией, которая обычно применяется к угрозам национальной безопасности. Кроме того, поступали сообщения о том, что Пентагон рассматривает возможность применения Закона о производстве оборонной продукции, меры, которая могла бы заставить компании соблюдать потребности национальной обороны.

Подтверждая решимость компании, Амодеи заявил в своем заявлении: "Угрозы Пентагона не меняют нашей позиции: мы не можем по совести удовлетворить их просьбу". Он также заблаговременно коснулся потенциальных последствий, отметив: "Если Министерство решит отказаться от услуг Anthropic, мы будем работать над обеспечением плавной передачи другому поставщику, избегая каких-либо сбоев в текущем военном планировании, операциях или других критически важных миссиях. Наши модели будут доступны на предлагаемых нами расширенных условиях в течение необходимого времени". Это заявление свидетельствует о приверженности Anthropic своим принципам, а также о стремлении смягчить возможные сбои в оборонных операциях в случае ухудшения отношений.

Информационное агентство Эхбари