Технологическая коалиция, в которую вошли крупнейшие игроки рынка — Amazon, Apple, Google, Microsoft и Cisco, представила результаты работы инициативы Project Glasswing. Проект базируется на возможностях специализированной нейросети Claude Mythos Preview от компании Anthropic. Основная цель разработки заключается в автоматическом поиске и исправлении критических ошибок в программном обеспечении до того, как их смогут использовать злоумышленники.
В ходе тестирования Mythos проанализировал код популярных операционных систем и браузеров. Результаты показали, что ИИ способен находить уязвимости на таком уровне глубины, который недоступен при ручном аудите или фаззинге — методе автоматизированного тестирования ПО путем ввода некорректных или случайных данных. В частности, нейросеть обнаружила ошибку в коде OpenBSD, которая оставалась незамеченной на протяжении 27 лет. Несмотря на то что этот код десятилетиями проверялся ведущими экспертами мирового уровня, ИИ смог выявить эксплуатируемую брешь.
Крах традиционной модели защиты
По мнению технических экспертов, появление подобных инструментов полностью меняет подход к обеспечению кибербезопасности. Традиционная модель предполагает, что у специалистов есть запас времени на обнаружение ошибки, создание «заплатки» (патча) и ее внедрение. Использование ИИ сокращает это «окно реагирования» до минимума, так как нейросети находят уязвимости быстрее, чем люди успевают их устранять.
Ситуация осложняется следующими факторами:
- По данным Anthropic, более 99% уязвимостей, найденных моделью Mythos, на данный момент остаются неисправленными.
- Для устранения и проверки всех ошибок, выявленных в ходе одного исследовательского этапа, потребовались бы тысячи человеко-лет работы программистов во всех затронутых организациях.
- Те же возможности ИИ, которые помогают защитникам, могут быть использованы хакерами для генерации рабочих эксплойтов — программ для проведения атак.
Безопасность работы с памятью как критическая точка
Особое внимание в отчете уделяется ошибкам безопасности памяти. Это распространенные проблемы в старом коде, которые позволяют хакерам перехватывать управление системой. К ним относятся переполнения буфера и ошибки использования памяти после ее освобождения. Такие уязвимости критичны для инфраструктуры энергосетей, оборонных систем и транспорта.
Модель Mythos Preview не только нашла 17-летнюю уязвимость удаленного выполнения кода в FreeBSD, но и выявила аналогичные недостатки в ядре Linux и ряде крупных веб-приложений. Эксперты отмечают, что одних только исправлений кода уже недостаточно, так как поток новых уязвимостей «нулевого дня» (о которых еще не знает разработчик) становится непрерывным.
Новые стратегии обеспечения устойчивости
В условиях, когда количество багов растет экспоненциально, организациям рекомендуют сместить фокус с простого устранения ошибок на создание общей устойчивости систем. Обозреватели выделяют несколько ключевых направлений для адаптации к новым угрозам:
- Внедрение средств защиты среды выполнения, которые блокируют попытки эксплуатации даже при наличии ошибки в коде.
- Усиление защиты программ на бинарном уровне, что лишает атакующих возможности закрепиться в системе.
- Приоритизация исправления тех компонентов, которые напрямую связаны с обработкой внешних данных или работой в сети.
В обзоре подчеркивается, что наличие неисправленной ошибки не всегда означает неминуемый взлом, если система защищена на уровне архитектуры. Project Glasswing дает защитникам фору, однако компаниям необходимо уже сейчас пересматривать свои рабочие процессы. По мере развития ИИ-инструментов, преимущество получат те организации, которые внедрят автоматизированные методы защиты и укрепления кода в свои стандартные циклы разработки.
