LLMOps Engineer

170 000–230 000 ₽

Сгенерировать отклик под эту вакансию с ИИ

Аврора подстроит резюме и напишет сопроводительное за 30 секунд

Развертывание, сопровождение и обновление LLM-инференс платформ (vLLM, SGLang, Ollama);
Эксплуатация и развитие AI-платформы в Kubernetes, включая масштабирование и управление GPU-ресурсами;
Настройка AI Gateway (LiteLLM): маршрутизация запросов, API-ключи, квоты, лимиты и политики доступа;
Оптимизация производительности inference: batching, KV Cache, semantic cache, снижение latency и стоимости инференса;
Настройка мониторинга, логирования и трассировки (OpenTelemetry, Langfuse, SigNoz, Prometheus/Grafana);
Автоматизация CI/CD процессов для инфраструктуры и моделей, поддержка GitOps-подхода;
Интеграция и сопровождение сервисов памяти, векторных хранилищ и компонентов RAG/Agentic AI;
Диагностика и устранение инцидентов, обеспечение стабильности и высокой доступности LLM-платформы.

Опыт в роли DevOps от 3 лет
Опыт администрирования Kubernetes в production, Docker, Helm, понимание GitOps-подходов
Опыт эксплуатации LLM inference-серверов (vLLM, SGLang, Ollama или TGI) и понимание их архитектуры
Хорошее понимание принципов работы LLM: токены, KV Cache, batching, streaming, квантование, RAG
Практический опыт работы с GPU (NVIDIA/CUDA), распределением ресурсов и оптимизацией производительности
Опыт настройки мониторинга и observability (Prometheus, Grafana, OpenTelemetry, SigNoz/Langfuse)
Уверенные знания Linux, Docker, сетевого взаимодействия и диагностики инфраструктурных проблем
Навыки автоматизации на Python и работы с CI/CD (GitLab CI/GitHub Actions)
Опыт работы с Redis, PostgreSQL и API-шлюзами

KubernetesDockerHelmvLLMSGLangOllamaLiteLLMOpenTelemetryLangfuseSigNozPrometheusGrafanaGitLab CIGitHub ActionsPythonRedisPostgreSQLKEDAQdrantMilvus

Прямой контакт рекрутёра в Telegram, без посредников

@recruiter_hidden

Бесплатно — за подписку на наш Telegram-канал

@recruiter

Telegram · прямой контакт

Аврора откликнется за вас. Пока вы пишете одному рекрутёру, автопилот отправляет отклики на все подходящие.

Контакты открываются по подписке на канал. Подпишитесь — и контакт откроется сразу, ничего заполнять не нужно.

Дневной лимит контактов исчерпан. Счётчик обнулится в 00:00 по Москве — вакансия никуда не денется, она уже в вашей истории.

Безлимит будет в подписке Авроры — скоро.

Вакансия в архиве — отклик недоступен. Посмотрите похожие активные вакансии ниже.