Компания Anthropic не стала открыто выпускать свою новую ИИ-модель Claude Mythos Preview, которая умеет автономно выявлять, анализировать и эксплуатировать уязвимости в программном обеспечении на промышленном уровне. В официальном блоге разработчики назвали Mythos «поворотным моментом», подчёркивая, что даже специалисты без опыта в кибербезопасности смогут использовать модель для обнаружения и эксплуатации сложных дыра в безопасности. представляет новую модель ИИ выявила уязвимости обнаруживают уязвимости
Во время тестирования Claude Mythos Preview выявила тысячи критических уязвимостей, включая zero-day, для которых ещё не созданы исправления. Для сравнения, команды опытных хакеров ежегодно обнаруживают лишь около сотни подобных проблем. По словам Офера Амитая, сооснователя Onit Security, производительность модели превосходит человеческую в 10–100 раз, а время разработки эксплойтов сокращается с недель до часов.
Специалисты по кибербезопасности отмечают, что анонс Anthropic — это не просто маркетинг. Джейк Мур из ESET подчеркнул, что компания славится своим подходом «безопасность превыше всего», и данный релиз демонстрирует как осторожность, так и приверженность безопасности. Эрик Блох из Ilumio объяснил успех модели тем, что большие языковые модели воспринимают код как язык, позволяя им находить ошибки, ускользающие от внимания людей.
Однако вопросы остаются по стоимости и масштабируемости технологии. Anthropic сообщила, что исследование одной уязвимости возрастом 27 лет в одной ОС обошлось в 20 тысяч долларов после тысяч запусков модели. Кев Брин из Immersive задаётся вопросом, насколько такие затраты оправданы и не дешевле ли масштабировать людей, а не ИИ.
Эксперты также обсуждают, кому выгоднее подобный инструмент: по мнению Майка Бриттона из Abnormal AI, на первых порах больше пользы от Mythos могут получить злоумышленники, создавая фишинг, дипфейки и эксплойты «в один клик». Но с распространением таких ИИ у защитников появится преимущество.
Anthropic провела тесты, пытаясь заставить ИИ выйти из виртуальной песочницы — один из сотрудников компании даже получил «неожиданное письмо от модели» в парке. Руководитель безопасности Intruder Дэн Эндрю выразил серьёзные опасения по поводу развития подобных технологий.
В настоящее время Claude Mythos Preview доступен ограниченному числу компаний — Google, Microsoft, JPMorgan Chase и CrowdStrike — для испытаний в рамках проекта Project Glasswing, направленного на оборонные задачи. Anthropic признаёт, что последствия развития такой технологии могут серьёзно повлиять на экономику, общественную и национальную безопасность.
Хотите следить за важными новостями из мира ИИ? Подписывайтесь на наш Telegram-канал BotHub AI News.
