24 марта 2026 года SecurityLab сообщил о неприятном для индустрии инциденте: уязвимость в Claude.ai позволила хакерам получить доступ к личным архивам и истории переписки владельца аккаунта. Атака не требовала экзотического инструментария — достаточно было правильно сформулированного запроса к чат-боту. Это не «ещё одна новость про ИИ», а сигнал для выпускников ИТ-направлений: если ваш дипломный проект содержит интеграцию с языковой моделью, комиссия всё чаще спрашивает не «работает ли», а «что будет, если это сломают».
Разбираем, как превратить сюжет статьи в раздел ВКР, какие метрики защиты считать, какими стандартами обосновывать решения и где чаще всего спотыкаются студенты.
Актуальность. Инцидент с Claude.ai показал, что модель отвечает на запрос в том контексте, который ей передали. Если контекст собран неаккуратно — утечка становится вопросом времени.
Актуальность. Утечку невозможно расследовать, если нет журнала. Компания, чей аккаунт пострадал, знала бы о попытке доступа только по факту уведомления.
Актуальность. Большинство утечек в RAG-системах происходит не через взлом модели, а через неверную фильтрацию на этапе поиска документов.
Первая глава почти всегда превращается в кашу из определений. Чтобы этого избежать, постройте сравнение вокруг одного критерия — доверия к контексту запроса. Тогда таблица перестаёт быть украшением и становится аргументом.
| Подход к защите | Против чего работает | Что не закрывает | Стоимость внедрения |
|---|---|---|---|
| Фильтрация на входе (regex + правила) | Прямые попытки «покажи системный промпт» | Перефразированные и многошаговые атаки | Низкая |
| Классификатор на эмбеддингах | Семантически близкие вредоносные запросы | Атаки через косвенную инъекцию в документы | Средняя, нужна разметка |
| Изоляция контекста на уровне БД (row-level security) | Доступ к чужим документам через RAG | Утечку через сам системный промпт | Средняя, зависит от СУБД |
| Формальная верификация политик (OPA / Cedar) | Некорректные правила доступа | Ошибки в коде обхода политики | Высокая, нужны компетенции |
Обязательно свяжите таблицу с текстом: «выбор комбинации подходов 1 и 3 обусловлен тем, что в рассмотренном инциденте злоумышленник получил именно историю переписки, то есть данные, к которым у него не было легитимного доступа». Это и есть приём, который отличает ВКР от реферата.
Не нужно реализовывать промышленную систему. Достаточно работоспособного прототипа, в котором видна архитектурная мысль. Минимальный набор артефактов: диаграмма компонентов, схема последовательности для одного сценария запроса, модель угроз по STRIDE и таблица соответствия «угроза — контрмера».
Полезно показать конфигурацию правил как код — это сразу добавляет проекту инженерности.
# policy/guardrails.yaml
input_rules:
- id: detect-system-prompt-extraction
severity: high
action: block
- id: detect-pii-in-query
severity: medium
action: mask
context_rules:
- id: enforce-document-acl
source: user.roles
target: chunk.acl_groups
output_rules:
- id: strip-internal-identifiers
pattern: "^(sk|org|proj)_[A-Za-z0-9]{16,}$"
action: redact
Обратите внимание на блок output_rules. В описанном инциденте именно вывод оказался каналом утечки: модель охотно пересказала то, что видеть не должна была. Правило постфильтрации — прямой ответ на кейс из статьи, и комиссия это оценит.
Самая слабая часть студенческих работ — раздел испытаний. Фраза «система показала корректную работу» не принимается всерьёз. Считайте хотя бы четыре величины:
Соберите тестовый набор из трёх групп: прямые инъекции, косвенные (через документ в RAG) и социальная инженерия в диалоге. По каждой группе — отдельная строка в таблице результатов. Так вы получите не один процент, а картину устойчивости.
Работа с этим кейсом даёт вполне конкретный набор навыков. Вы научитесь строить модель угроз для систем, где часть логики отдана внешнему сервису, — а это новая для многих реальность. Освоите трассировку и сбор метрик в распределённом приложении, что пригодится далеко за пределами диплома. Наконец, вы получите опыт обоснования архитектурных решений ссылками на стандарты, а не на личные предпочтения. Именно этот навык отличает инженера от исполнителя.
Для уровня ВКР достаточно 800–1500 строк кода. Минимальная версия: HTTP-прокси перед моделью, набор регулярных правил, обращение к векторной базе для семантической проверки и запись в журнал. Студенты с опытом в веб-разработке укладываются в 3–5 недель.
Зависит от требований кафедры. Если в задании стоит «разработать», прототип нужен. Если «исследовать» — можно построить модель и провести серию экспериментов на готовых сервисах, фиксируя результаты. Уточните формулировку у научного руководителя до начала работы.
Существуют открытые наборы для оценки устойчивости языковых моделей. Кроме того, вы можете составить собственный корпус: 30 прямых инъекций, 30 косвенных, 40 нейтральных запросов. Второй вариант предпочтительнее, потому что вы сами контролируете разметку и можете описать её в приложении.
Проверьте, нет ли в методичке указания на конкретную нотацию или инструмент. Обычно достаточно PlantUML или draw.io с экспортом в векторный формат. Подписи делайте на русском, а имена классов оставляйте латиницей — это стандартная практика и она не считается ошибкой.
Тема утечек через ИИ-ассистентов ещё несколько лет будет востребована у комиссий: она свежая, опирается на реальные события и хорошо ложится на классические разделы проектирования. Если вы сомневаетесь, потянете ли реализацию, — начните с аналитической главы, там проще нащупать собственный угол зрения.
Источник: Зашел в чат – остался без планов на жизнь. Claude теперь выдаёт секреты владельца по первому требованию взломщиков (опубликовано 2026-03-24)