В данной статье рассматриваются архитектурные ограничения LLM и их влияние на безопасность технологий. За три года с появления первых промпт-инъекций было предпринято множество попыток защитить модели, однако недавние события показывают, что уязвимости остаются. Примером служит случай, когда школьник из Небраски обошёл защиту модели и получил инструкции по синтезу рицина. Эта ситуация подчеркивает, что архитектура трансформеров не способна эффективно разделять данные и инструкции, что делает её уязвимой. Также отмечается, что традиционные методы защиты не работают в условиях постоянного развития технологий. В статье поднимаются вопросы о том, как архитектура влияет на поведение моделей и какие меры можно предпринять для повышения безопасности, включая необходимость переосмысления подходов к контролю и обучению. уязвимости остаются