Anthropic ограничила доступ к новой ИИ-модели из-за риска будущих кибератак

Компания Anthropic сообщила, что будет предоставлять доступ к своей ИИ-модели Claude Mythos Preview только ограниченному кругу компаний. Причина — во время тестирования модель обнаружила тысячи критических уязвимостей в операционных системах, веб-браузерах и другом программном обеспечении.

По данным Anthropic, модель выявила серьезные проблемы безопасности во всех основных ОС и браузерах.

«С учетом темпов прогресса ИИ пройдет немного времени, прежде чем такие возможности распространятся — потенциально и за пределы тех, кто намерен применять их безопасно».

ИИ уже используется злоумышленниками в кибератаках: число атак с применением ИИ выросло на 72% год к году, а 87% организаций по всему миру столкнулись с ИИ-атаками в 2025 году, согласно AllAboutAI.

В Anthropic выразили обеспокоенность тем, что будет, если аналогичные возможности попадут в руки злоумышленников.

Чтобы снизить риски, компания объявила о запуске Project Glasswing — инициативы, объединяющей более 40 организаций, включая Amazon Web Services, Apple, Cisco, Google, JPMorgan, Linux Foundation, Microsoft и Nvidia.

Проект предполагает использование Claude Mythos Preview в оборонительных целях: для поиска уязвимостей, обмена данными с партнерами и ускоренного закрытия критических проблем до того, как ими смогут воспользоваться атакующие.

Находят ошибки, которым десятки лет

Уязвимость нулевого дня — это ошибка в ПО, которую могут эксплуатировать еще до того, как специалисты, способные ее исправить, узнают о ее существовании. Исторически их поиск и устранение требовали редкой и дорогой экспертизы, но ИИ может резко увеличить масштаб и скорость обнаружения.

Anthropic отмечает, что обнаруживаемые ею уязвимости «часто являются скрытыми или трудно выявляемыми».

Многие найденные проблемы существуют 10–20 лет. Самая старая из обнаруженных на данный момент — уже исправленная 27-летняя уязвимость в OpenBSD, системе, известной своим фокусом на безопасности.

Также сообщается о 16-летней ошибке в библиотеке обработки медиа FFmpeg, 17-летней уязвимости удаленного выполнения кода в FreeBSD и многочисленных проблемах в ядре Linux.

Mythos Preview выявила слабые места и в популярных криптографических библиотеках, алгоритмах и протоколах, включая TLS, AES-GCM и SSH.

Отдельно подчеркивается, что веб-приложения «содержат множество уязвимостей» — от XSS и SQL-инъекций до специфических проблем вроде CSRF, которые часто применяются в фишинговых атаках.

Anthropic утверждает, что 99% найденных ею уязвимостей пока не исправлены, поэтому компания считает «безответственным раскрывать подробности» о них.

ПО станет безопаснее, но не сразу

В Anthropic считают, что это лишь начало тенденции, и «защита мировой киберинфраструктуры может занять годы», однако ИИ должен помочь укрепить программное обеспечение и системы.

«В долгосрочной перспективе мы ожидаем, что оборонительные возможности будут доминировать: мир станет более безопасным, а программное обеспечение — лучше укрепленным, во многом благодаря коду, написанному этими моделями. Но переходный период будет непростым».

Источник: AllAboutAI, PhoenixNAP.