Contexte :

Les missions attendues par le LLMOps / DevOps Engineer (H/F) :

Contexte de la mission

3 jours de télétravail / 2 jours de présentiel à Lyon

Dans le cadre de l’industrialisation de ses solutions d’Intelligence Artificielle (chatbots RAG, automatisation et traitement de mails, services LLM), notre client recherche un Ingénieur DevOps IA capable de déployer, exploiter et optimiser des plateformes IA à l’échelle sur AWS.

Le poste comporte une forte dimension d’optimisation des coûts d’inférence et d’infrastructure, avec un rôle clé dans la mise en œuvre des bonnes pratiques FinOps appliquées aux usages IA.

Vos missions

Industrialisation et exploitation des plateformes IA

• Déployer, maintenir et faire évoluer les workloads IA sur AWS et Kubernetes (EKS).

• Automatiser les déploiements via les pipelines CI/CD et les outils d’Infrastructure as Code.

• Garantir la disponibilité, la performance et la scalabilité des services IA en production.

Gestion des services IA

• Administrer et intégrer les services managés AWS dédiés à l’IA (Amazon Bedrock, endpoints d’inférence, bases vectorielles, services associés).

• Accompagner les équipes de développement dans l’intégration des modèles LLM et des architectures RAG.

Observabilité et performance

• Mettre en place les indicateurs de suivi des usages IA : latence, taux d’erreur, consommation de tokens, qualité de service.

• Construire les dashboards et alertes nécessaires au pilotage opérationnel des plateformes.

FinOps et maîtrise des coûts

• Suivre et analyser les coûts liés aux modèles, à l’inférence et aux infrastructures.

• Définir des mécanismes d’alerting budgétaire et de reporting.

• Proposer des optimisations techniques et économiques : choix des modèles, stratégies de cache, dimensionnement des infrastructures, arbitrages coût/performance.

Sécurité et gouvernance

• Garantir la sécurisation des plateformes et des accès (IAM, gestion des secrets, réseau privé, gouvernance des modèles).

• Veiller au respect des bonnes pratiques de sécurité et de conformité.

Profil recherché

Compétences indispensables

• Expérience significative en environnement DevOps Cloud AWS.

• Maîtrise de Kubernetes (EKS), Helm et des chaînes CI/CD.

• Bon niveau de développement en Python et/ou TypeScript.

• Expérience des API LLM et de leur intégration dans des applications métier.

• Sensibilité forte aux problématiques FinOps et d’optimisation des coûts Cloud.

Atouts complémentaires

• Expérience d’Amazon Bedrock ou d’autres plateformes de modèles génératifs.

• Connaissance des architectures RAG et des bases vectorielles.

• Capacité à contribuer aux choix d’architecture et à challenger les orientations techniques.

• Vision produit et approche pragmatique orientée valeur métier.

Environnement technique

AWS • EKS • Kubernetes • Helm • Python • TypeScript • CI/CD • Amazon Bedrock • Vector Databases • RAG • FinOps • Observabilité • IAM

Compétences techniques et fonctionnelles attendues :

Cette mission vous intéresse?

Vous justifiez d’une expérience significative comme LLMOps / DevOps Engineer (H/F) ?
Vous êtes rigoureux, méthodique, organisé et vous savez faire preuve d’autonomie et de réactivité ?
Vous êtes à l’aise à l’écrit comme à l’oral ?
Vous maîtrisez les périmètres techniques cités avec les niveaux adéquats ?
Vous aimez évoluer dans un univers où l’autonomie, la prise d’initiatives, le partage et le travail en équipe sont porteurs de la réussite collective ?
Vous pensez que votre profil pourrait correspondre au besoin de notre client ?

N’attendez plus pour déposer votre candidature, nos Ingénieurs d’affaires se feront un plaisir de vous en dire plus !

Afin de ne rien rater de l’actualité Insitoo, abonnez-vous à notre page Linkedin !