Опубликовано: 07.05.2026 | Источник: MIT Technology Review

Small Language Models в дипломе: как внедрить AI в условиях госсектора с контролем, прозрачностью и низкими затратами

Последнее обновление: 2026-05-06

--- ### Введение 79% руководителей госструктур боятся использовать AI из-за утечек данных — таковы результаты исследования Capgemini, приведённые в статье MIT Technology Review. Это не абстрактная статистика: это реальное препятствие для внедрения технологий в систему, где безопасность, аудит и прозрачность — не опция, а требование. Для студента, пишущего ВКР в области ИТ, это сигнал: тема **локального, контролируемого AI** — не просто тренд, а шанс сделать работу защищаемой, современной и востребованной. Особенно если вы фокусируетесь на **Small Language Models (SLMs)** — компактных, энергоэффективных, способных работать без интернета и GPU-ферм. Такие решения уже прогнозируются Gartner как доминирующие к 2027 году. И ваш диплом может стать одним из первых практических кейсов в этой области. --- ### Семантический анализ **1. Основной поисковый запрос (Primary keyword):** *Реализация SLM в условиях ограниченной инфраструктуры для госсектора* **2. LSI-запросы:** - Локальное развертывание SLM - Векторный поиск и retrieval-augmented generation (RAG) - Прозрачность и аудит AI-моделей - Архитектура offline-first AI-систем - Метрики эффективности SLM: latency, accuracy, hallucination rate - Соответствие GDPR и ГОСТ 34.19-2021 - OWASP Top 10 for LLMs - OpenTelemetry для мониторинга AI-пайплайнов - C4-моделирование AI-архитектуры - Оценка TCO при использовании SLM vs LLM **3. Реальные вопросы студентов:** - Как доказать эффективность SLM, если у меня нет доступа к реальным данным госучреждений? - Как оформить архитектурную схему ИИ-системы по ГОСТ или ISO? - Какие метрики считать, чтобы комиссия поверила в результат? - Можно ли использовать Hugging Face и Open Source модели в дипломе без нарушения нормоконтроля? - Как защититься от обвинений в «воде» в теоретической главе? **4. Ключевые сущности:** - **ГОСТ 34.19-2021** — стандарт проектирования ПО, применим к описанию архитектуры. - **ISO/IEC 25010** — модель качества ПО, подходит для оценки SLM-систем. - **OWASP Top 10 for LLMs** — рамки оценки безопасности AI. - **OpenTelemetry** — сбор метрик и трассировка в AI-пайплайнах. - **C4-модель** — визуализация архитектуры (особенно для главы 2). --- ### Темы ВКР (карточки)

• Разработка SLM-системы для обработки закупочных документов в условиях offline

  Актуальность: Статья подчёркивает, что госорганы работают с PDF, сканами, таблицами — часто без интернета. Ваш проект может решить эту боль.

  Цель: Создать систему поиска и анализа закупок на базе SLM с векторным индексированием и RAG.

  Задачи:

  • Проанализировать форматы документов и требования к безопасности (ГОСТ 34.19, GDPR).
  • Спроектировать архитектуру с локальным хранением данных и модели.
  • Реализовать RAG-пайплайн с использованием Sentence-BERT и FAISS.
  • Оценить метрики: точность ответов, время отклика, уровень галлюцинаций.

  Структура: Глава 1 – Анализ, Глава 2 – Проектирование, Глава 3 – Реализация и тестирование.

• Анализ применимости SLM для поддержки принятия решений в органах власти

  Актуальность: Согласно статье, 65% госруководителей не могут использовать данные в реальном времени. Вы можете предложить решение.

  Цель: Оценить эффективность SLM в контексте анализа общественных обращений и нормативных актов.

  Задачи:

  • Изучить требования к прозрачности и аудиту (ISO/IEC 25010, OWASP LLM Top 10).
  • Подобрать датасет (например, открытые обращения на порталы госуслуг).
  • Настроить grounding через векторный поиск (Elasticsearch + SLM).
  • Провести сравнительный анализ с LLM по метрикам: TCO, latency, compliance.

  Структура: Глава 1 – Теория, Глава 2 – Моделирование, Глава 3 – Эффективность и рекомендации.

• Интеграция SLM в legacy-системы госорганизаций: архитектурные паттерны и кейс-стади

  Актуальность: Статья говорит о дефиците GPU и непривычке к GPU-инфраструктуре. Это ваш шанс показать архитектурное мышление.

  Цель: Разработать паттерн внедрения SLM в существующие системы без миграции в облако.

  Задачи:

  • Проанализировать ограничения legacy-инфраструктуры (CPU-only, low RAM).
  • Выбрать легковесную модель (например, TinyLlama, Phi-3-mini).
  • Спроектировать C4-диаграмму интеграции (Контейнер → Служба → API).
  • Оценить нагрузку с помощью OpenTelemetry и prometheus.

  Структура: Глава 1 – Обзор, Глава 2 – Проектирование, Глава 3 – Тестирование и анализ.

--- ### Основная часть: как внедрить SLM в ВКР #### 1. Глава 1: Анализ и теория — не «вода», а фундамент Не пересказывайте статью — используйте её как **доказательство актуальности**. Например: > «Согласно исследованию Capgemini (2025), 79% госруководителей обеспокоены безопасностью данных при использовании AI. Это подтверждает необходимость перехода от LLM к SLM, особенно в условиях ограниченного доступа к GPU и требованиям к локальному хранению данных». **Что включить:** - Сравнительная таблица LLM vs SLM (параметры, требования, риски). - Обзор нормативных требований: GDPR (статья 22), ГОСТ 34.19-2021 (разделы 4–5), OWASP LLM Top 10. - Модель качества по ISO/IEC 25010: применимость к AI (функциональность, надёжность, безопасность). **Схема:** Постройте **C4-диаграмму уровня 1 (Контекст)**, показывающую взаимодействие SLM с внешними системами (например, база документов, пользователь, служба аудита). ``` [Пользователь] --> [SLM-система] --> [Хранилище документов] [SLM-система] --> [Служба аудита] [SLM-система] --> [API шлюза] ``` --- #### 2. Глава 2: Проектирование — покажите архитектуру и контроль Здесь вы **доказываете, что решение жизнеспособно** в условиях статьи: offline, low-resource, high-security. **Архитектурные паттерны:** - **Offline-first AI**: модель и данные — локально. - **RAG (Retrieval-Augmented Generation)**: данные вне модели, вызываются по запросу. - **Vector Search**: индексация текста с помощью Sentence-BERT и FAISS/Elasticsearch. **Инструменты:** - **Hugging Face Transformers** — для загрузки SLM (например, `google/flan-t5-small`). - **LangChain** — оркестрация RAG. - **FAISS** или **Elasticsearch** — векторный поиск. - **FastAPI** — API-слой. - **Docker** — контейнеризация (даже если не разворачиваете в проде). **Пример конфигурации RAG-пайплайна:**

from langchain_community.embeddings import HuggingFaceEmbeddings
from langchain_community.vectorstores import FAISS
from langchain.chains import RetrievalQA
from transformers import pipeline

# Локальная модель
llm = pipeline("text2text-generation", model="google/flan-t5-small")

# Векторное хранилище
embeddings = HuggingFaceEmbeddings(model_name="sentence-transformers/all-MiniLM-L6-v2")
db = FAISS.load_local("vectorstore", embeddings, allow_dangerous_deserialization=True)

# Цепочка запросов
qa_chain = RetrievalQA.from_chain_type(
    llm=llm,
    chain_type="stuff",
    retriever=db.as_retriever(search_kwargs={"k": 3})
)

result = qa_chain.run("Какие документы требуются для закупки по 44-ФЗ?")

--- #### 3. Глава 3: Тестирование и эффективность — докажите ценность **Метрики, которые примут на защите:** - **Latency** — время ответа (SLM должен быть быстрее LLM). - **Accuracy** — точность ответа (можно оценить вручную по 50 запросам). - **Hallucination rate** — сколько «вымысла» в ответах (например, 0% у SLM с RAG vs 15% у LLM). - **TCO (Total Cost of Ownership)** — сравнение затрат: SLM (CPU) vs LLM (GPU + облако). - **Energy consumption** — SLM потребляет меньше, можно указать в сравнении. **Как считать TCO:** - SLM: 1 сервер x 200 Вт x 24 ч x 30 дн = 144 кВт·ч - LLM: 1 GPU (NVIDIA A100) x 300 Вт x 24 ч x 30 дн = 216 кВт·ч - Экономия: ~33% + отсутствие платы за API **Схема тестирования:** Используйте **BPMN-диаграмму** процесса обработки запроса: от ввода текста до возврата ответа с аудитом. --- ### Чему вы научитесь - **Проектировать AI-системы по C4 и ГОСТ 34.19**, с акцентом на безопасность и аудит. - **Реализовывать RAG-пайплайны** с open-source моделями и векторным поиском. - **Оценивать эффективность SLM** по метрикам: latency, hallucination, TCO. - **Оформлять архитектурные диаграммы** в соответствии с ISO/IEC 25010. - **Аргументировать выбор SLM** через сравнение с LLM по техническим и экономическим критериям. --- ---

FAQ: Ответы на частые вопросы студентов

Где взять данные для тестирования, если нет доступа к госорганам?

Используйте открытые данные: реестры закупок (zakupki.gov.ru), обращения на порталы госуслуг, публичные отчёты. Это легально и соответствует требованиям статьи — работа с реальными документами.

Можно ли использовать Hugging Face в дипломе?

Да, если вы используете open-source модели (например, Llama 3, Phi-3) и указываете источник. Это не «заказать диплом» — это стандартная практика в Data Science.

Какие метрики считать, чтобы комиссия поверила?

Сравните SLM и LLM по: времени ответа, точности, уровню галлюцинаций, потреблению энергии. Даже простое тестирование на 20 запросах — уже основа для таблицы в главе 3.

Как оформить схему архитектуры по ГОСТ?

Используйте C4-модель: Контекст → Контейнеры → Компоненты. Экспортируйте в PNG, подпишите, укажите источники. Это соответствует ГОСТ 34.19 и ISO/IEC 25010.

--- --- ---

Источник: Making AI operational in constrained public sector environments (опубликовано 2026-04-16)