В конце прошлой недели компания Anthropic была вынуждена прекратить доступ к своим недавно выпущенным моделям искусственного интеллекта Fable 5 и Mythos 5. Решение было принято после введения администрацией Трампа экспортного контроля, в рамках которого передовые алгоритмы фактически приравняли к вооружению. Поводом для блокировки послужил отчет об обнаружении уязвимости, предоставленный правительству корпорацией Amazon, которая является одним из крупнейших инвесторов Anthropic.
Особенности моделей Mythos и Fable
Модели класса Mythos позиционируются как инструменты с высокими возможностями в области кибербезопасности. Первоначально они были доступны только ограниченному кругу проверенных организаций для поиска и устранения уязвимостей в ПО. Позже компания представила Fable 5 — версию для широкой аудитории, которая обладала дополнительными барьерами безопасности («гардрейлами»). Если система определяла риск вредоносного использования, она автоматически переключала пользователя на менее мощную модель Opus 4.8.
Несмотря на высокую эффективность в задачах кодирования, модели вызвали вопросы у корпоративного сектора. Основные претензии касались новой политики хранения данных: Anthropic требовала удерживать информацию пользователей в течение 30 дней для аудита безопасности. Это решение отпугнуло ряд крупных предприятий, опасающихся за сохранность своего исходного кода.
Причины и последствия правительственного вмешательства
Блокировка доступа произошла без предварительного судебного разбирательства. Официальной причиной названы интересы национальной безопасности. Власти США заявили, что иностранные граждане, включая сотрудников самой Anthropic, не должны иметь доступа к данным моделям. Поскольку компания не располагает механизмами для мгновенной идентификации гражданства каждого пользователя, доступ к сервисам пришлось закрыть полностью для всех категорий клиентов.
Эксперты в области кибербезопасности ставят под сомнение обоснованность таких мер. Кэти Муссурис, исполнительный директор компании Luta Security, отметила, что обнаруженный «джейлбрейк» (метод обхода ограничений ИИ) позволял выявлять лишь незначительные уязвимости. По ее словам, информация, которую выдавала модель, была бы полезнее защитникам сетей, чем атакующим. Блокировка выглядит как избыточная реакция на стандартные процедуры тестирования систем безопасности.
Реакция технологического сообщества и инвесторов
Ситуация вызвала активные дискуссии в Кремниевой долине. Ранее многие крупные венчурные капиталисты поддерживали Дональда Трампа, критикуя администрацию Байдена за попытки регулирования ИИ, которые, по их мнению, могли задушить американские инновации. Однако текущие действия правительства по полной блокировке моделей встретили неоднозначную реакцию.
- Некоторые сторонники администрации, такие как Дэвид Сакс, оправдали закрытие доступа соображениями «безопасности», хотя ранее они выступали против гораздо более мягких регуляторных указов.
- Обозреватели указывают на опасный прецедент: правительство получило возможность блокировать любую технологию, ссылаясь на национальную безопасность без предоставления публичных доказательств.
- Случай с Anthropic подчеркивает растущее стремление властей установить контроль над централизованными узлами технологического развития.
Происходящее также связывают с затянувшимся конфликтом между Anthropic и Министерством обороны США. Компания пыталась сохранить в контрактах определенные ограничения на использование своих моделей в военных целях, что вызвало резкое недовольство со стороны представителей администрации. В итоге ситуация привела к фактическому запрету флагманских разработок компании в их нынешнем виде.
