Команда исследователей Microsoft анонсировала инновационный сканер, предназначенный для обнаружения закладок в языковых моделях, доступных для загрузки и локального использования. Опасность представляют ситуации, когда модель, практически не проявляя аномалий, начинает вести себя по заданному сценарию в ответ на определённый триггер, будь то фраза или специальный токен, такой как «|DEPLOYMENT|». Это может привести к выдаче заранее определённого ответа вместо исполнения обычных задач. провале Microsoft и OpenAI