Ваша зона ответственности:
- Разработка и управление LLM-пайплайнами для обработки данных, развертывания моделей
- Автоматизация LLM-задач с использованием CI/CD и контейнерных технологий
- Настройка систем мониторинга для отслеживания производительности моделей
- Оптимизация инфраструктуры и конфигурация больших языковых моделей для высоких нагрузок
- Анализ требований проекта и оценка необходимых аппаратных ресурсов
- Мониторинг использования ресурсов и планирование масштабирования инфраструктуры
Необходимые навыки:
- Высшее образование: техническое, математическое и т.д.
- Опыт работы DevOps-инженером от 3-х лет; опыт в DevOps, MLOps или backend
- Уверенное владение Python
- Опыт работы с облачными платформами (AWS, Azure, GCP)
- Знание Docker, Kubernetes и CI/CD инструментов
- Автоматизация процессов развертывания и масштабирования
- Интеграция систем мониторинга и оповещения
- Обеспечение безопасности и производительности LLM-систем
- Преимуществом будут опыт работы на ML-проекте, понимание архитектуры генеративного ИИ и работы с LLM
