Опубликовано: 09.08.2026 | Источник: MIT Technology Review

Защищённое обучение ИИ в дипломной работе: архитектура, риски и метрики

Новость о том, что Пентагон планирует предоставить AI-компаниям защищённые среды для обучения моделей на секретных данных, — не просто военный сюжет. Это маркер нового тренда: коммерческие ML-модели всё чаще должны работать внутри контуров с высокими требованиями к безопасности, а значит, инженеры, которые умеют совмещать машинное обучение с защитой информации, становятся особенно ценными. Для студента ИТ-специальности это отличная возможность сделать ВКР практически значимой. Вместо абстрактной «разработки модели» можно взять реальный кейс — проектирование архитектуры защищённого обучения, оценку рисков, валидацию моделей на чувствительных данных. На выходе вы получите навыки, которые точно пригодятся на собеседовании, а сама работа будет выглядеть актуальной и глубокой.

Как новость о Pentagon связана с вашей ВКР

В статье MIT Technology Review говорится: ДОП США обсуждает создание аккредитованных дата-центров, в которых копия модели ИИ размещается рядом с данными ограниченного доступа. В отличие от обычного API-запроса, где модель лишь отвечает на вопросы, здесь секретная информация может «вшиваться» в веса модели. Это создаёт новые риски: данных из обучения могут «всплывать» при запросах, смешиваться уровни допуска, а персонал подрядчика получает доступ к закрытым материалам.

Для ВКР эту новость можно использовать как отправную точку: показать, что вы понимаете жизненный цикл ML в ограниченной среде, умеете проектировать изоляцию и оценивать безопасность. Это не «реферат о кибербезопасности», а конкретный инженерный контекст, в котором есть место архитектуре, DevSecOps и оценке качества моделей.

Темы ВКР по защищённому обучению ИИ

Ниже — три рабочие темы, которые можно масштабировать под уровень вашего вуза и доступные ресурсы. Они закрывают три угла: инфраструктура, качество модели и процессы безопасности.

Архитектура защищённого ML-контура: практические детали

В статье упоминается «безопасный дата-центр, аккредитованный для размещения правительственных проектов». В учебной ВКР вы можете спроектировать аналог такого контура с меньшим масштабом. Начните с C4-модели: контекст, контейнеры, компоненты, код. На уровне компонентов обязательны:

• изолированная сеть (VPC) с запретом исходящего интернет-трафика;
• хранилище данных с шифрованием и строгими IAM-политиками;
• Trusted Execution Environment (например, Intel SGX или AMD SEV) для инференса и обучения;
• идентификация и доступ: SSO через Keycloak, ролевая модель, MFA.

Пример манифеста Kubernetes для пода с ограниченной политикой сети. Это может быть фрагментом второй главы вашей ВКР.

apiVersion: networking.k8s.io/v1
kind: NetworkPolicy
metadata:
  name: deny-all
spec:
  podSelector: {}
  policyTypes:
    - Ingress
    - Egress
---
apiVersion: networking.k8s.io/v1
kind: NetworkPolicy
metadata:
  name: allow-from-ml-api
spec:
  podSelector:
    matchLabels:
      app: ml-training
  ingress:
    - from:
        - podSelector:
            matchLabels:
              app: ml-api
      ports:
        - protocol: TCP
          port: 8443
  egress:
    - to:
        - podSelector:
            matchLabels:
              name: internal-db
      ports:
        - protocol: TCP
          port: 5432

В тексте ВКР обязательно добавьте краткое описание того, почему выбран именно такой набор компонентов. Ссылайтесь на стандарты: ГОСТ 34.601 для автоматизированных систем, ISO/IEC 25010 для оценки качества ПО, OWASP Top 10 для веб-компонентов. Системный аналитик или архитектор ПО подтвердят: такая логика изложения делает работу «защищаемой», потому что комиссия видит связь между требованиями и реализацией.

Метрики и оценка эффективности защищённой модели

Если просто написать «обучение прошло успешно» — это не в счёт. Нужны конкретные метрики. Для ИИ-моделей, работающих в закрытом контуре, важно оценивать не только accuracy, но и безопасность. Используйте связку:

• Качество: F1-score, ROUGE-L (для генерации), при многоклассовой классификации — macro-F1.
• Приватность: ε-дифференциальная приватность, процент успешных membership inference атак.
• Производительность: latency инференса, throughput, время обучения.

Пример скрипта для расчёта метрик бинарной классификации и сразу — доли успешных атак на модель (упрощённый вариант). Код можно привести в третьей главе как результат эксперимента.

from sklearn.metrics import f1_score, classification_report
from sklearn.model_selection import train_test_split
import numpy as np

# Пусть X_train, y_train — обучающая выборка, model — обученная модель
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2)

y_pred = model.predict(X_test)
print("F1-macro:", f1_score(y_test, y_pred, average='macro'))
print(classification_report(y_test, y_pred))

# Membership inference: пробуем угадать, был ли объект в обучении по уверенности модели
probs = model.predict_proba(X_test)
uncertainty = np.max(probs, axis=1)
# Если уверенность выше порога — считаем, что это член обучающей выборки
threshold = 0.95
attack_pred = uncertainty > threshold
print("Potential memory leak sample:", attack_pred.mean())

Важно: в ВКР нужно описать, почему вы выбрали именно эти метрики, и как они коррелируют с целями работы. Если тема касается военной специфики — можно использовать модельный пример, но реальные секретные данные, конечно, нигде не должны фигурировать. Вместо них подойдут публичные датасеты, эмулирующие чувствительную информацию.

Чему вы научитесь в процессе работы

Студент, взявший такую тему, получит несколько конкретных навыков, о которых можно рассказать на защите.

• Проектировать изолированные ML-среды: от Kubernetes NetworkPolicy до VPC и TEE.
• Строить модели угроз для ИИ-систем и применять стандарты (STAR, OWASP, ГОСТ).
• Считать метрики качества и приватности (F1, ε-DP, LOUGE), интерпретировать их.
• Описывать архитектуру с помощью C4-диаграмм и DFD, чтобы любой эксперт понял потоки данных.
• Оформлять ВКР по требованиям ГОСТ 7.32, 2.105, корректно ссылаться на литературу.

Частые вопросы студентов

Сложно ли сделать такую ВКР без реального опыта в ИБ?

Начните с одной ограниченной задачи: например, реализовать безопасное API для model inference и изолировать его сетевой политикой. Это выполнимо даже на одной виртуальной машине. В главе «Аналитика» вы сосредоточитесь на теории, а в «Практике» — на одном маленьком, но рабочем прототипе.

Где взять данные для экспериментов, если тема про секретные данные?

Берите публичные датасеты с аналогичной структурой: новости, отчёты, военные сводки (они есть в открытых источниках, например, в ACLED). Смоделируйте некоторые поля как «ограниченный доступ» и анссимметрично примените приватность.

Какие требования вуза обычно мешают выполнить такую ВКР?

Чаще всего — жёсткая форма «введение-три главы» и требование наличия практического кода. Иногда преподаватели требуют «расчёт экономической эффективности». Вам стоит заранее договориться об адаптации: экономический эффект можно заменить оценкой снижения рисков (cost avoided).

Как подтвердить практическую значимость работы?

Покажите, что ваша методика или конфигурация применима в облачных средах (AWS/Azure с приватными подсетями). Сделайте скриншоты панели управления, диаграмму развёртывания, запишите видео на 1–2 минуты. Комиссия такое любит.

Источник: The Pentagon is planning for AI companies to train on classified data, defense official says (опубликовано 2026-03-17)

Поддомен: AI/ML • Роль: Data/ML-инженер