Offre d'emploi MLOPS (H/F)

Vous êtes passionné(e) par les technologies de l'intelligence artificielle générative et maîtrisez les outils modernes d’orchestration et de distribution ? Nous recherchons un(e) LLM Ops Engineer pour optimiser et déployer des modèles de langage (LLM) à grande échelle en environnement distribué.

Vous jouerez un rôle clé dans la mise en production et la gestion des pipelines complexes, en exploitant des frameworks tels que TGI (Text Generation Inference), VLLM, et BentoML, dans un contexte basé sur Docker, Kubernetes, et le cloud computing.

• Gestion et optimisation des LLM :

  • Implémenter et déployer des modèles d'IA générative (GPT, BERT, autres LLM).

  • Optimiser les performances des modèles grâce à des frameworks comme TGI ou VLLM.

  • Assurer la scalabilité des services d’inférence via des architectures distribuées.

• Infrastructure et conteneurisation :

  • Construire, tester et déployer des conteneurs Docker pour les environnements IA.

  • Configurer et maintenir des clusters Kubernetes pour l’orchestration des services d’inférence.

  • Automatiser les workflows CI/CD pour la mise en production rapide des modèles.

• Distribution parallélisée :

  • Gérer la parallélisation des charges de travail LLM sur des architectures multi-nœuds.

  • Optimiser l’utilisation des GPU/TPU pour maximiser les performances.

  • Implémenter des solutions de streaming et de traitement par lots pour les données d'entrée/sortie des modèles.

• Observabilité et monitoring :

  • Déployer des outils de monitoring (Prometheus, Grafana) pour surveiller les performances des LLM.

  • Identifier les goulots d'étranglement et proposer des améliorations continues.