ИИ-ассистенты в ВКР: от прототипа до оценки качества генераций
27 марта 2026 года МТС объявила о запуске двух бесплатных ИИ-ассистентов без ограничений на количество генераций — «ИИ-Ментора» для учебных задач и «ИИ-Генератора» для изображений, доступ к которым первыми получили школьники и студенты Республики Коми. За этой новостью легко увидеть только маркетинг, но для выпускника ИТ-специальности здесь лежит готовый полигон: массовый пользовательский сервис, бесконечные запросы, нагрузка, отказоустойчивость, качество ответа и стоимость токена. Именно такие системы сегодня просят спроектировать в дипломах — и именно на них проще всего показать реальную инженерную работу, а не «телеграм-бота на 200 строк». Ниже разберём, как превратить этот кейс в защищаемую ВКР.
Частые вопросы студентов по теме
Можно ли взять тему по ИИ-ассистентам, если у меня нет доступа к GPU?
Да. Разделите работу на два контура: локальный прототип на компактной открытой модели (например, квантованная модель через Ollama или llama.cpp на CPU) и облачный слой через API. В главе 2 вы проектируете архитектуру, в главе 3 сравниваете latency и стоимость на CPU и на арендованном GPU. Для ВКР этого достаточно — комиссия оценивает инженерные решения, а не размер видеопамяти.
Где брать данные для обучения и оценки, если сервис закрытый?
Используйте открытые корпуса вопросов (например, датасеты учебных вопросов и ответов) плюс собственный набор из 100–200 запросов, которые вы формулируете сами. Для оценки генераций нужен «золотой стандарт» — эталонные ответы, размеченные вручную. Это приложение к ВКР и одновременно вклад студента: разметка датасета сама по себе является исследовательской работой.
Насколько детально нужно расписывать код в приложениях?
Полный листинг ядра (инференс, retrieval, валидация) — да, в приложении. Плюс репозиторий со ссылкой. В самой пояснительной записке — только ключевые фрагменты и обоснование выбора библиотек. Если код не воспроизводится по описанию из главы 2, у комиссии возникнут законные вопросы.
Что делать, если генерации «плывут» и метрики нестабильны?
Это нормальный результат. Зафиксируйте seed, температуру и версию модели, прогоните замеры 3–5 раз, посчитайте разброс (стандартное отклонение) и опишите это как ограничение исследования. Стабильность генерации — самостоятельный объект анализа, а не брак работы.
Темы ВКР, которые реально защитить
-
Разработка ИИ-ассистента для учебных задач с архитектурой RAG.
Актуальность: сервисы вроде «ИИ-Ментора» дают ответы на естественном языке без ограничений, и главный вопрос — не «сгенерирует ли модель», а «не выдумает ли она». Цель: повысить фактическую точность ответов за счёт подключения внешней базы знаний. Задачи: собрать корпус, построить векторный индекс, реализовать пайплайн retrieval → rerank → generation, замерить долю галлюцинаций до и после. Глава 1 — обзор LLM и методов RAG, глава 2 — проектирование архитектуры и схем данных, глава 3 — эксперимент и метрики.
-
Оценка качества и безопасности генеративных ответов в массовом сервисе.
Актуальность: бесплатный доступ без лимитов провоцирует и нагрузку, и попытки джейлбрейка. Цель: построить методику оценки качества и защищённости ассистента. Задачи: сформировать тест-набор промптов (в том числе атакующих), внедрить guardrails, рассчитать метрики отказа и ложных срабатываний. Глава 1 — модели угроз по OWASP LLM Top 10, глава 2 — проектирование фильтров, глава 3 — тестирование и разбор кейсов.
-
Масштабирование инференса ИИ-ассистента: баланс latency и стоимости.
Актуальность: аудитория растёт, лимиты генераций сняты — расходы на токены становятся узким местом. Цель: подобрать конфигурацию инференса и кэширования под заданный SLO. Задачи: снять профиль нагрузки, сравнить пакетную обработку и потоковую отдачу, посчитать стоимость 1000 запросов. Глава 1 — анализ способов развёртывания LLM, глава 2 — архитектура сервиса, глава 3 — нагрузочное тестирование.
Как встроить кейс в структуру пояснительной записки
Глава 1: от новости к постановке задачи
Не пересказывайте пресс-релиз. Сформулируйте противоречие: массовый бесплатный доступ снижает барьер для пользователя, но одновременно обостряет три проблемы — достоверность ответа, вычислительная стоимость и злоупотребления. Дальше — обзор литературы и стандартов. Уместно опереться на ISO/IEC 25010 (функциональная полнота, надёжность, производительность, защищённость) и на классификацию рисков OWASP LLM Top 10. Здесь же постройте контекстную диаграмму C4 уровня System Context: пользователь, ассистент, база знаний, провайдер модели, сервис модерации. Это займёт полстраницы, а комиссия сразу увидит границы системы.
Глава 2: проектирование и реализация
Опишите пайплайн как диаграмму последовательности UML: приём запроса → проверка политики → поиск в индексе → сборка контекста → вызов модели → постфильтрация → отдача ответа. Отдельно проговорите, где хранится история диалога и как ограничивается окно контекста. Для документации интерфейсов пригодится описание REST-эндпоинтов с примерами тел запросов и кодов ошибок.
# Пример: оценка ответа ассистента на контрольном наборе
import json, statistics
from ragas_style import answer_relevancy, faithfulness # условные метрики
def evaluate(pipeline, dataset_path):
with open(dataset_path, encoding="utf-8") as f:
cases = json.load(f) # 100+ пар «вопрос → эталон»
scores = {"faithfulness": [], "relevancy": [], "latency_ms": []}
for case in cases:
result = pipeline.ask(case["question"])
scores["faithfulness"].append(faithfulness(result.answer, result.context))
scores["relevancy"].append(answer_relevancy(result.answer, case["reference"]))
scores["latency_ms"].append(result.elapsed_ms)
return {k: {"mean": round(statistics.mean(v), 4),
"sd": round(statistics.pstdev(v), 4)} for k, v in scores.items()}
Глава 3: эксперимент и метрики
Здесь вы доказываете, что решение работает. Минимально необходимый набор метрик — в таблице ниже. Каждую цифру нужно уметь объяснить: почему именно такой порог и что изменится при его сдвиге.
| Метрика | Что показывает | Как измерять |
|---|---|---|
| Faithfulness | Опора ответа на найденный контекст | Автооценка + выборочная ручная проверка |
| Answer relevancy | Соответствие ответа вопросу | Сравнение с эталоном на тест-наборе |
| Доля отказов (refusal rate) | Срабатывание guardrails | Прогон набора атакующих промптов |
| Latency p50 / p95 | Отзывчивость под нагрузкой | Нагрузочный тест, логи с трейсингом |
| Стоимость 1000 запросов | Экономика сервиса | Учёт токенов входа и выхода |
Наблюдаемость и оформление
Соберите трассировку запросов через OpenTelemetry: время на retrieval, на инференс, на постобработку. Это превращает защиту из «у меня работает» в «вот где узкое место и вот как я его снял». Схемы оформляйте по ГОСТ 19/34, подписи — единообразно, стрелки — по направлению потока данных. Нормоконтроль чаще всего валит работы именно на несоответствии подписей рисунков и таблиц.
- Каждая задача из введения закрыта выводом в соответствующей главе.
- Тест-набор из 100+ запросов приложен и воспроизводим.
- Зафиксированы версии модели, библиотек и seed эксперимента.
- Схемы (C4, UML, BPMN) имеют сквозную нумерацию и ссылки в тексте.
- Метрики посчитаны с разбросом, а не одним «красивым» числом.
- Приложения и листинги соответствуют упомянутому в тексте коду.
- Уникальность текста и корректные ссылки на источники оформлены.
Типичные ошибки студентов
1. Тема сводится к «обёртке над API». Работа вида «отправляю промпт в модель и вывожу ответ» не содержит исследования. Спасает добавление измеримой гипотезы: например, retrieval снижает долю фактических ошибок на N процентов относительно базового варианта. Появление бесплатных ассистентов вроде «ИИ-Ментора» как раз ставит вопрос: чем ваше решение отличается от готового?
2. Метрики взяты «из воздуха». Если в главе 3 стоит «точность 98%» без описания набора, разметки и методики — это красный флаг для рецензента. Всегда указывайте размер выборки и способ получения эталона.
3. Безопасность упоминается одной строкой. Генеративный сервис без фильтрации входа и выхода — это готовый кейс для инъекции промпта. Опишите модель угроз и покажите хотя бы базовые guardrails: ограничение тематики, проверка на утечку системного промпта, логирование подозрительных запросов.
Источник: ИИ-ассистенты без ограничения по количеству генераций стали доступны молодежи Коми (опубликовано 2026-03-27)