Что такое LLM AI Engineer и чем он занимается?

LLM AI Engineer — это специалист, который строит приложения на базе больших языковых моделей, таких как ChatGPT. Он подключает модель к данным, настраивает промпты, обучает модель на предметных текстах и делает так, чтобы система работала в реальной компании — например, создаёт чат-бота или систему поиска по документам.

Чем LLM AI Engineer отличается от MLOps?

MLOps — инженер по инфраструктуре: настраивает серверы, контейнеры и автоматические пайплайны для запуска моделей. LLM AI Engineer — инженер-практик, который строит приложения на моделях. Это разные роли: один работает с инфраструктурой, другой — с продуктом.

Какой фреймворк важен для LLM AI Engineer — LangChain, LlamaIndex или Haystack?

Важно, с каким из них кандидат реально работал. Эти фреймворки — разные «школы», и опыт между ними почти не переносится. Если в вакансии указан один фреймворк, а кандидат знает другой — это повод обсудить, насколько быстро он сможет освоить нужный.

Нужно ли LLM AI Engineer глубоко знать математику?

Не обязательно. LLM AI Engineer — инженер-практик, а не исследователь. Ему важно уметь применять модели и настраивать их, а не разбираться в архитектуре трансформеров. Если в вакансии требуют глубокие знания математики — возможно, это позиция ML Researcher, а не LLM AI Engineer.

LLM AI Engineer и Machine Learning Engineer — это одна роль?

Не совсем. ML Engineer — общая роль: занимается машинным обучением в целом, включая классические модели и нейросети. LLM AI Engineer — узкая специализация, работающая конкретно с большими языковыми моделями. Если кандидат — ML Engineer без опыта с LLM, он не подойдёт на эту роль.

LLM AI Engineer: кто это и чем занимается

Что это простыми словами

LLM AI Engineer — специалист, который строит приложения на базе больших языковых моделей (LLM). Представьте, что LLM — это очень умный собеседник, обученный на огромном количестве текстов, который может отвечать на вопросы, писать тексты, анализировать информацию. Задача инженера — превратить этого «собеседника» в реальное рабочее приложение: чат-бота, ассистента, систему для ответов на вопросы клиентов.

Аналогия: представьте, что LLM — это шеф-повар, который умеет готовить что угодно, но не знает, какие ингредиенты есть в вашем ресторане. LLM AI Engineer — это тот, кто подготавливает кухню, учит повара рецептам вашего ресторана и организует процесс так, чтобы заказы выполнялись быстро и качественно.

Официальное определение

Теперь, когда суть понятна, вот как эту роль описывают в вакансиях. Такую формулировку вы будете получать от заказчика и видеть в резюме.

«LLM AI Engineer — специалист по разработке приложений на основе больших языковых моделей, включающий промпт-инжиниринг, тонкую настройку (fine-tuning), интеграцию с базами знаний через RAG, а также оптимизацию и деплой моделей в продакшен-среду».

Разберём по словам. «Промпт-инжиниринг» — это составление подсказок для модели, чтобы она отвечала точнее. «Тонкая настройка» — обучение модели на ваших данных, как человек учится новому ремеслу. «RAG» — механизм, позволяющий модели обращаться к актуальной информации вне своей памяти. «Деплой» — запуск приложения в реальную работу.

Что делает за обычный день

Примерно половину дня — пишет код на Python, подключая языковую модель к разным сервисам: базам данных, API, пользовательским интерфейсам. Вторая половина — экспериментирует с подсказками и параметрами модели, пытаясь получить более точные ответы. Пишет интеграции, чтобы модель могла работать с документами, базами знаний и внешними системами.

Также инженер может тонко настраивать открытые модели на предметную область — например, обучать модель отвечать в стиле вашей компании или понимать специализированную терминологию. Мониторит, как модель работает в продакшене: быстро ли отвечает, не галлюцинирует ли (не выдумывает факты), не превышает ли лимиты.

Из чего состоит направление

У LLM AI Engineer есть четыре ключевых компонента:

Python — основной язык программирования. Почти всё в мире LLM пишется на Python, это обязательный фундамент.
Фреймворки для LLM — основные инструменты для построения и оркестрации LLM-приложений. Самые популярные: LangChain, LlamaIndex и Haystack. Человек обычно специализируется на одном из них.
Векторные базы данных — хранилища, которые понимают смысл текста, а не просто ищут совпадения слов. Нужны для RAG, чтобы модель могла обращаться к актуальной информации. Популярные: Qdrant, Weaviate, pgvector, Milvus.
Библиотеки для обслуживания и обучения — специальные инструменты для запуска моделей (vLLM, TGI), оптимизации (ONNX Runtime) и тонкой настройки (TRL, Unsloth).

Инструменты простыми словами

Инструменты LLM AI Engineer удобно разложить по слоям — от фундамента к надстройкам.

Слой 1. Язык — без него невозможно начать.

Python — язык, на котором пишется почти всё в мире LLM. Знает каждый LLM AI Engineer.

Слой 2. Фреймворки — «школа», в которой человек работает. Это самое важное при отборе.

LangChain — самый известный фреймворк для создания LLM-приложений. Строит цепочки вызовов модели, подключает внешние источники данных, предоставляет готовые компоненты.
LlamaIndex — специализируется на подключении моделей к структурированным источникам: документам, базам данных, файлам. Часто используется вместе с LangChain.
Haystack — фреймворк с акцентом на производительность и готовую архитектуру для RAG-систем.

Слой 3. Библиотеки для обслуживания и обучения — детали внутри фреймворка, взаимозаменяемы.

vLLM, TGI — инструменты для быстрого запуска моделей. vLLM — от Meta, TGI — от Hugging Face. Оба позволяют обслуживать сотни пользователей одновременно.
ONNX Runtime — ускоряет выполнение моделей на любом железе, как универсальный переводчик между языками.
TRL, Unsloth — инструменты для тонкой настройки. TRL фокусируется на обучении с человеческой обратной связью, Unsloth ускоряет процесс настройки в разы.

Слой 4. Векторные базы данных — не привязаны к фреймворку, осваиваются быстро.

Qdrant — быстрый и масштабируемый поиск смысловых похожих текстов, работает распределённо.
Weaviate — векторная база с встроенной поддержкой LLM и возможностью хранить любые данные.
pgvector — расширение для PostgreSQL, позволяет хранить векторы прямо в привычной SQL-базе.
Milvus — масштабируемая векторная база для огромных объёмов данных.

Что взаимозаменяемо, а что путать нельзя

Языковые модели разных вендоров (GPT, Claude, Gemini, Mistral) взаимозаменяемы — кто умеет работать с одной, ту же логику перенесёт на другую. А вот фреймворки (LangChain, LlamaIndex, Haystack) — разные «школы», и переход между ними требует времени. Человек обычно специализируется на одном, иногда комбинирует.

Векторные базы данных (Qdrant, Weaviate, pgvector, Milvus) взаимозаменяемы — кто работал с одной, вторую освоит за считаные дни. За разницу между ними отбраковывать не нужно, это распространённая ошибка.

Уровни: junior / middle / senior

Уровень (его ещё называют грейд, от англ. grade) — это не столько годы, сколько самостоятельность.

Junior (джуниор, «джун») — может подключить модель через API, написать простые промпты, собрать базовый чат-бот. Нужен контроль и помощь.
Middle (мидл) — самостоятельно собирает полноценную систему с RAG, настраивает модель, оптимизирует ответы. Основная рабочая сила.
Senior (сеньор) — проектирует архитектуру системы, выбирает подходы, решает сложные проблемы (галлюцинации, качество ответов, стоимость), помогает младшим.

Это общий ориентир. В разных компаниях требования отличаются, поэтому всегда сверяйтесь с текстом конкретной вакансии.

Как узнать роль в резюме

В резюме обычно есть раздел «стек» или «навыки». Ищите Python рядом с названиями фреймворков (LangChain, LlamaIndex, Haystack) и векторных баз (Qdrant, Weaviate, pgvector, Milvus). Хороший признак — упоминание конкретных проектов с LLM: чат-бот, система поиска по документам, интеллектуальный ассистент. Также обратите внимание на разделы о тонкой настройке моделей и RAG — это признаки реального опыта.

Что спросить на первичном скрининге

С каким фреймворком работали (LangChain, LlamaIndex, Haystack) и сколько именно?
Нормальный ответ: «Два года на LangChain, полгода на LlamaIndex». Насторожить должно, если человек одинаково уверенно называет все три за короткий срок.
Опишите ваш последний проект с LLM — что делали и как решали задачу?
Нормальный ответ: человек рассказывает конкретную историю — «подключили базу документов через RAG, настроили промпты, получили X% точности». Плохой ответ — размытые фразы вроде «работал с ИИ» без деталей.
Разница между RAG и тонкой настройкой (fine-tuning)?
Нормальный ответ: «RAG — даём модели доступ к свежим данным, fine-tuning — обучаем модель новым знаниям внутри себя». Если кандидат не различает — это красный флаг.
Работали с векторными базами данных?
Нормальный ответ: «Qdrant в продакшене», «pgvector для тестового проекта». Отсутствие опыта с векторными базами при заявленном опыте с RAG — подозрительно.

Частые путаницы и красные флаги

LLM AI Engineer ≠ MLOps. MLOps — инженер по инфраструктуре: настраивает серверы, контейнеры, пайплайны. LLM AI Engineer — строит приложения на моделях. Это разные роли.
LLM AI Engineer ≠ Data Scientist. Data Scientist — это математик и исследователь, строит модели и проводит эксперименты. LLM AI Engineer — инженер-практик, делает из моделей рабочие приложения.
Python ≠ только LLM AI Engineer. Python знает и backend-разработчик, и data-инженер. Но если в стеке только Python без упоминания фреймворков и баз для LLM — это не LLM-инженер.
Kрасный флаг: «работал со всеми фреймворками (LangChain, LlamaIndex, Haystack) на уровне senior за полгода» — так не бывает.
Kрасный флаг: кандидат говорит, что «обучил модель» (имея в виду просто вызвал API). Настоящее обучение — это тонкая настройка (fine-tuning) или запуск модели локально, а не использование чужого сервиса.

LLM/AI-инженер