Ценности против контракта: как Anthropic попала в ловушку Пентагона
Компания Anthropic оказалась в сложнейшей ситуации. До вечера пятницы у неё есть время, чтобы принять судьбоносное решение: разрешить Министерству обороны США использовать свои модели искусственного интеллекта без каких-либо ограничений или отказаться. В случае отказа глава Пентагона Пит Хегсет пригрозил признать стартап «риском для цепочки поставок» или заставить его подчиниться, применив закон об оборонном производстве.
В июле Anthropic подписала с военным ведомством контракт на 200 миллионов долларов, став первой ИИ-лабораторией, чьи модели начали работать в закрытых сетях Пентагона. Однако компания настаивала на гарантиях: её технологии не должны применяться для создания полностью автономного оружия или массовой слежки за американцами. «В ряде случаев ИИ может подрывать, а не защищать демократические ценности», — заявил в четверг генеральный директор Anthropic Дарио Амодеи.
Переговоры зашли в тупик, поставив под удар репутацию Anthropic как «ответственного» игрока на фоне конкурентов вроде OpenAI, Google и xAI, которые уже сотрудничают с Пентагоном. Отказ от требований военных грозит компании потерей крупного контракта и доступа к госзаказам в будущем. Согласие — ударит по имиджу и может вызвать отток сотрудников и клиентов.
«В этой ситуации нет победителей, — считает Лорен Кан, аналитик Джорджтаунского центра безопасности и новых технологий. — У всех останется неприятный осадок». В Пентагоне, однако, настаивают на своём. Официальный представитель Шон Парнелл заявил, что ведомство не заинтересовано в запрещённых законом применениях ИИ, но требует доступа к технологиям для «всех законных целей». В социальных сетях высокопоставленный чиновник Минобороны и вовсе обвинил Амодеи в «комплексе бога» и желании «контролировать армию США».
Конфликт привлёк внимание всей отрасли. Более 330 сотрудников Google и OpenAI подписали открытое письмо с призывом к солидарности и отказу от требований Пентагона. Глава OpenAI Сэм Альтман, хотя и не во всём согласен с Anthropic, заявил, что не поддерживает давление на компании со стороны военных.
Амодеи пока держится твёрдо, заявляя, что угрозы не заставят его изменить позицию. Но он также подчеркнул, что компания предпочла бы продолжить работу с Пентагоном во имя национальной безопасности США. Исход этого противостояния может задать тон для всего сектора, определяя, насколько близко технологические компании готовы подойти к военному заказчику.