Глава Anthropic раскритиковал запрет Пентагона на использование продуктов компании военными подрядчиками
Генеральный директор ИИ-компании Anthropic Дарио Амодеи прокомментировал распоряжение Министерства обороны США и Белого дома, согласно которому оборонным подрядчикам, работающим с Пентагоном, предписано прекратить использование продуктов Anthropic.
По словам Амодеи, компания выступает против применения своих ИИ-моделей для массовой внутренней слежки и полностью автономных систем вооружений, способных открывать огонь без участия человека, заявил он в интервью CBS в субботу.
Он уточнил, что Anthropic в целом устраивают предлагаемые государством сценарии использования ее моделей, за исключением слежки и полностью автономных оружейных платформ.
«Это вещи, которые фундаментальны для американцев: право не быть объектом слежки со стороны государства и право, чтобы решения о войне принимали наши военные офицеры, а не чтобы их полностью передавали машине».
Решение Пентагона отнести Anthropic к «рискам для цепочки поставок» — то есть фактически запретить подрядчикам использовать продукты компании в рамках оборонных контрактов — Амодеи назвал беспрецедентным и карательным.
Позже он добавил, что не исключает разработку полностью автоматизированного оружия, если к этому начнут прибегать иностранные армии, однако, по его оценке, нынешние ИИ-системы пока недостаточно надежны, чтобы автономно работать в военной среде.
Амодеи также заявил, что законодательство не успевает за темпами развития ИИ, и призвал Конгресс США принять «ограничители», которые не допустят использования ИИ в программах массовой внутренней слежки.
На фоне ограничений для Anthropic OpenAI получает оборонный контракт
В пятницу «секретарь войны» США Пит Хегсет объявил, что Anthropic представляет «риск для цепочки поставок в сфере национальной безопасности».
«Немедленно ни один подрядчик, поставщик или партнер, ведущий дела с вооруженными силами США, не может осуществлять какую-либо коммерческую деятельность с Anthropic», — заявил он.
Спустя несколько часов конкурирующая компания OpenAI, как сообщается, приняла контракт с Министерством обороны США на развертывание своих ИИ-моделей в военных сетях.
Заявление о сделке, сделанное гендиректором OpenAI Сэмом Альтманом, вызвало критику в сети: оппоненты указали, что использование ИИ для массовой внутренней слежки и подрыв приватности является недопустимой чертой.