+7 (700) 870-07-77
university@dtu.kz
Модуль 01 Offensive AI и методология взлома AI-систем
Заложите фундамент в области Offensive-безопасности ИИ: узнайте, как проектируются AI-системы, где они дают сбой и как злоумышленники их эксплуатируют — с использованием структурированных методологий взлома и globally признанных фреймворков безопасности ИИ.
Чему вы научитесь
- Понимать основы ИИ и машинного обучения с точки зрения offensive-безопасности
- Выявлять поверхности атак ИИ, ландшафты угроз и техники злоумышленников в соответствии с MITRE ATLAS
- Применять методологии взлома AI-систем, фреймворки и оценку рисков
- Классифицировать таксономии и модели атак на ИИ
- Определять основы offensive-скоупинга и принципы защиты AI-систем
- Обеспечивать обзор и маппинг OWASP LLM & ML Top 10 (2025) на угрозы ИИ и требования governance
Модуль 02 AI-разведка и картирование поверхности атаки
Изучите продвинутые OSINT-техники с фокусом на ИИ для идентификации, перечисления и анализа AI-активов, конвейеров данных, моделей, API и поверхностей атак, а также применяйте стратегии снижения рисков и защиты для поддержки непрерывного мониторинга безопасности ИИ.
Чему вы научитесь
- Применять OSINT-инструменты и техники для идентификации и профилирования AI-активов
- Собирать разведывательные данные из AI-источников данных и конвейеров обучения
- Обнаруживать и картировать поверхности атак ИИ с использованием общедоступной разведки
- Перечислять AI-эндпоинты, сервисы, API и открытые параметры
- Идентифицировать и анализировать AI-модели и векторные хранилища с позиции атакующего
- Оценивать OSINT-экспозицию и применять защитные контроли для снижения рисков
- Использовать AI threat intelligence для поддержки непрерывного мониторинга и готовности к защите
Модуль 03 Сканирование уязвимостей и фаззинг AI-систем
Освойте методы оценки уязвимостей и фаззинга, специфичных для ИИ, для выявления, анализа и устранения слабых мест безопасности в современных AI-системах и приложениях.
Чему вы научитесь
- Понимать ключевые принципы оценки уязвимостей ИИ и обнаружения угроз
- Использовать инструменты и техники для сканирования уязвимостей в AI-моделях, конвейерах и развёртываниях
- Применять практические методы фаззинга, адаптированные для AI-систем и интерфейсов моделей
- Интегрировать сканирование и фаззинг в рабочие процессы безопасности ИИ для проактивного снижения рисков
Модуль 04 Prompt Injection и атаки на LLM-приложения
Анализируйте и эксплуатируйте границы доверия LLM с использованием продвинутых техник prompt injection, jailbreaking и манипуляции выводом, выявляя при этом риски, связанные с раскрытием конфиденциальных данных и небезопасным дизайном LLM-приложений.
Чему вы научитесь
- Архитектура LLM, границы доверия и связанные векторы атак
- Выполнять атаки prompt injection и jailbreaking в реальных LLM-приложениях
- Выявлять риски раскрытия конфиденциальной информации и утечки системных промптов
- Оценивать уязвимости некорректной обработки вывода и угрозы дезинформации
- Применять продвинутые техники атак на основе промптов и стратегии эксплуатации
- Внедрять принципы безопасного дизайна LLM-приложений и защитные контроли
Модуль 05 Состязательное машинное обучение и атаки на приватность моделей
Выполняйте и анализируйте состязательные атаки на машинное обучение, атаки на приватность и извлечение моделей для оценки устойчивости, надёжности и рисков AI-систем, а также применяйте защитные стратегии для их нейтрализации.
Чему вы научитесь
- Идентифицировать основные классы состязательных атак на машинное обучение
- Выполнять практические состязательные атаки на входные данные различных модальностей
- Применять техники атак на приватность, инференс и извлечение моделей
- Оценивать методы проверки устойчивости, надёжности и рисков
- Внедрять защитные стратегии для обеспечения приватности и устойчивости моделей
Модуль 06 Атаки на данные и конвейеры обучения
Компрометируйте AI-системы через отравление данных и внедрение бэкдоров, нацеленных на конвейеры обучения и целостность моделей.
Чему вы научитесь
- Понимать архитектуру данных и конвейеров обучения ИИ, а также поверхности угроз
- Выполнять практические техники data poisoning и сценарии атак
- Применять техники внедрения бэкдоров и троянов в процессе обучения моделей
- Внедрять меры безопасности для защиты данных и конвейеров обучения
Модуль 07 Агентный ИИ и атаки типа model-to-model
Анализируйте и эксплуатируйте автономных AI-агентов и мультимодельные архитектуры, нацеливаясь на избыточные полномочия, cross-LLM взаимодействия, оркестрационные воркфлоу и неограниченное потребление ресурсов, понимая при этом защитные стратегии для обеспечения безопасности агентных систем.
Чему вы научитесь
- Понимать архитектуру агентного ИИ и поверхность атаки
- Применять техники эксплуатации избыточных полномочий и автономии
- Идентифицировать векторы атак cross-LLM и model-to-model
- Оценивать риски denial-of-wallet и неограниченного потребления ресурсов
- Выполнять атаки на AI-воркфлоу и оркестрационные слои
- Внедрять защитные стратегии для обеспечения безопасности агентных AI-приложений
Модуль 08 Атаки на AI-инфраструктуру и цепочку поставок
Изучайте offensive-техники, нацеленные на AI-инфраструктуру, системные интеграции и сторонние зависимости, одновременно обучаясь выявлять, эксплуатировать и устранять слабые места цепочки поставок ИИ.
Чему вы научитесь
- Понимать компоненты AI-инфраструктуры и архитектуры системных интеграций
- Выявлять уязвимости в AI-системах, фреймворках и конвейерах развёртывания
- Анализировать злоупотребления инструментами, плагинами и API в AI-приложениях
- Оценивать угрозы цепочки поставок ИИ и риски зависимостей (углублённый анализ)
- Внедрять стратегии защиты AI-инфраструктуры и цепочек поставок
Модуль 09 Тестирование, оценка и защита AI-систем
Применяйте структурированные методологии тестирования и оценки безопасности ИИ для анализа рисков, валидации контролей и внедрения лучших практик защиты в корпоративных AI-системах.
Чему вы научитесь
- Понимать методологии тестирования безопасности ИИ и техники оценки
- Применять red team фреймворки для offensive-оценки ИИ
- Выявлять, валидировать и документировать уязвимости и риски ИИ
- Внедрять лучшие практики защиты и снижения рисков для AI-систем
Модуль 10 Реагирование на AI-инциденты и форензика
Освойте реагирование на инциденты и форензику, специфичные для ИИ, завершив обучение практическим участием в red team активностях по ИИ.
Чему вы научитесь
- Обнаруживать инциденты безопасности, специфичные для ИИ, и реагировать на них
- Собирать и анализировать AI-логи, телеметрию и цифровые доказательства
- Анализировать корневые причины в ходе постинцидентного анализа
13 июля 
24 часа 
Virtual 
