OpenAI и Пентагон нашли компромисс: ИИ для обороны, но с «техническими гарантиями»

Генеральный директор OpenAI Сэм Альтман объявил в пятницу о заключении соглашения с Министерством обороны США. Документ разрешает военному ведомству использовать модели искусственного интеллекта компании в своих засекреченных сетях.

Это событие стало развязкой острого противостояния между Пентагоном и конкурентом OpenAI — компанией Anthropic. Военные настаивали, чтобы разработчики ИИ разрешили применять их технологии для «всех законных целей». Руководство Anthropic, в свою очередь, пыталось очертить красные линии, запретив массовую слежку за гражданами и создание полностью автономного оружия.

Глава Anthropic Дарио Амодеи в своём заявлении подчеркнул, что компания не выступает против конкретных военных операций, но убеждена: в ряде случаев ИИ может подрывать, а не защищать демократические ценности. Его позицию поддержали более 60 сотрудников OpenAI и 300 работников Google, подписавших открытое письмо.

После срыва переговоров с Anthropic, министр обороны Пит Хегсет заявил, что компания пытается «узурпировать право вето на оперативные решения американской армии». Он объявил Anthropic риском для цепочки поставок, запретив контрагентам Пентагона работать с ней. В ответ компания пообещала оспорить это решение в суде.

На этом фоне заявление Сэма Альтмана прозвучало неожиданно. Он сообщил в социальной сети, что новый контракт OpenAI с оборонным ведомством включает технические гарантии, как раз по тем спорным пунктам, из-за которых Anthropic пошла на конфликт.

«Два наших ключевых принципа безопасности — это запрет на массовую слежку внутри страны и сохранение человеческой ответственности за применение силы, включая автономные системы вооружения, — написал Альтман. — Пентагон согласен с этими принципами, они отражены в нашем соглашении».

По его словам, OpenAI создаст специальные технические safeguards, чтобы модели вели себя предсказуемо, а также направит своих инженеров для работы с военными, чтобы обеспечить безопасность систем. Альтман призвал Пентагон предложить аналогичные условия всем компаниям в сфере ИИ, выразив надежду на деэскалацию конфликта.

Как сообщает Fortune, на внутренней встрече с сотрудниками Альтман уточнил: правительство разрешит компании построить собственную «систему безопасности» для предотвращения злоупотреблений. Если модель откажется выполнять задачу, Пентагон не будет принуждать OpenAI заставить её это сделать.

Объявление OpenAI прозвучало на фоне обострения международной обстановки, однако компания настаивает, что её соглашение с военными — это шаг к ответственному и контролируемому использованию передовых технологий.