Команда экспертов стартапа Aim Intelligence, занимающаяся тестированием искусственного интеллекта на уязвимости, провела стресс-тест Gemini 3 Pro, последней разработки Google, которая была представлена всего месяц назад. Как сообщает издание Maeil Business, исследователям потребовалось всего пять минут для обхода системы защиты.

После успешного взлома команда обратилась к модели с просьбой предоставить инструкции по созданию вируса оспы, на что Gemini 3 ответила множеством детализированных и, как отметили исследователи, «практически выполнимых» советов. Более того, исследователи также предложили модели подготовить сатирическую презентацию о своих собственных уязвимостях, на что Gemini откликнулась с работой под названием «Оправданный глупый Gemini 3». инструкции по созданию вируса сатирическую презентацию о своих уязвимостях

В дальнейшем команда использовала возможности кодирования Gemini для разработки веб-сайта с инструкциями по созданию газа зарин и самодельной взрывчатки. Несмотря на то что подобный контент не должен быть доступен, модель не только обошла запреты, но и проигнорировала собственные правила безопасности. Специалисты Aim Intelligence отметили, что проблема касается не только Gemini 3; новейшие модели развиваются с такой скоростью, что соответствующие меры безопасности не успевают внедряться. Эти системы не только дают советы, нарушающие правила безопасности, но и используют стратегии обхода обнаружения, что существенно снижает эффективность защиты.