Lead NLP Engineer (LLM)

#vacancy #NLP #LLM #remote

🚀 Ищу крутого Lead NLP Engineer

Задачи:
🔹 Оптимизация инференса LLM в продакшене: SGLang, vLLM, TensorRT-LLM, KV/prefix caching, батчинг, квантизация, speculative decoding
🔹 Распределённый инференс моделей до 1T+ параметров (multi-GPU, multi-node)
🔹 Бенчмаркинг и ввод нового GPU-железа в продакшен
🔹 Техническое лидерство NLP и CV командами
🔹 Обучение и fine-tuning LLM, post-training (RLHF, DPO)
🔹 Работа с командами валидации и подготовки датасетов

Ожидания:
✅ Глубокий опыт оптимизации инференса LLM в продакшене
✅ Опыт распределённого инференса/обучения: MoE, tensor/expert/pipeline parallelism
✅ Понимание KV cache, attention kernels, квантизации, GPU-профилирования
✅ Опыт обучения и fine-tuning LLM, post-training
✅ Техническое лидерство + hands-on код
✅ PyTorch, transformers
✅ Опыт в AI-стартапах
✅ Backend (Python, Go, C#) — преимущество
✅ Английский или русский — продвинутый

Плюсом:
➕ CUDA/Triton ядра
➕ Computer vision
➕ Мультимодальные LLM

Условия:
🕐 Удалённо
📈 Путь до Head of ML

📩 Резюме: Показать контакты