LLMOps Engineer

Dans le cadre de sa transformation numérique et de sa stratégie d'IA souveraine, l’entité DDS déploie une plateforme d'Intelligence Artificielle Générative hébergée intégralement sur ses infrastructures internes. Cette plateforme a vocation à fournir des services LLM sécurisés, performants et conformes aux exigences de gouvernance des données de l'entreprise. Missions principales Gouvernance et responsabilité de la plateforme

Être le référent technique et le responsable de la stack applicative IA/LLM.

• Garantir la disponibilité, la performance, la sécurité et la maintenabilité de la plateforme.

• Définir les standards techniques, les bonnes pratiques d'exploitation et les processus d'administration.

• Assurer la veille technologique sur les solutions IA générative, MLOps, LLMOps et technologies associées. Architecture et documentation

• Participer à la définition de l'architecture cible de la plateforme.

• Produire et maintenir la documentation d'architecture : o HLD (High Level Design) o LLD (Low Level Design) o Dossiers d'exploitation o Procédures d'installation et d'administration

• Contribuer aux choix technologiques et aux orientations stratégiques de la plateforme. Installation, administration et maintien en conditions opérationnelles

• Installer, configurer, administrer et maintenir les composants de la plateforme.

• Assurer les mises à jour, correctifs de sécurité et évolutions techniques.

• Gérer les environnements de développement, qualification et production.

• Participer à la résolution des incidents complexes et aux analyses de causes racines. Monitoring et optimisation des performances

• Mettre en place les outils de supervision et d'observabilité.

• Définir les indicateurs de performance, de disponibilité et de qualité de service.

• Administrer les solutions de monitoring (Grafana et outils associés).

• Réaliser les analyses de capacité, de performance et de montée en charge.

• Proposer et mettre en œuvre des plans d'optimisation de la plateforme. Accompagnement du changement

• Accompagner les équipes techniques et métiers dans l'adoption de la plateforme.

• Définir les bonnes pratiques d'utilisation des services IA.

• Concevoir et animer des sessions de formation et de transfert de compétences.

• Produire la documentation utilisateur et les guides d'exploitation. Innovation et amélioration continue • Être force de proposition sur les nouvelles solutions et composants à intégrer.

• Identifier les opportunités d'amélioration des performances, de la sécurité et de l'expérience utilisateur.

• Participer à l'industrialisation des usages IA au sein de l'organisation.

• Évaluer les nouvelles technologies du marché et réaliser des preuves de concept (PoC). 

Environnement technique Infrastructure & Orchestration

• Kubernetes

• Conteneurisation Docker

• CI/CD

• Infrastructure as Code IA Générative & LLM

• vLLM

• LiteLLM

• Ollama

• Open WebUI

• LangGraph Recherche et RAG

• Qdrant

• Tika

• Solutions d'indexation documentaire OCR & Traitement documentaire

• PaddleOCR

• Tesseract Sécurité & IAM

• Keycloak

• Gestion des identités et des accès Observabilité

• Grafana

• Monitoring applicatif et infrastructure

• Collecte et analyse de métriques Profil recherché Compétences techniques

• Solide expérience sur Kubernetes.

• Expérience d'administration de plateformes applicatives critiques.

• Maîtrise des problématiques d'observabilité, de monitoring et de performance.

• Bonne compréhension des architectures LLM, RAG et IA générative.

• Connaissance des mécanismes d'authentification et de gestion des identités.

• Expérience dans la rédaction de documents d'architecture et d'exploitation. Compétences fonctionnelles

• Capacité à travailler dans des environnements en transformation.

• Excellentes compétences de communication et de vulgarisation.

• Capacité à accompagner le changement et à former les utilisateurs.

• Forte autonomie et sens des responsabilités.

Faire partie des pionniers d'Eviden, ça vous dit ?

C'est justement cette audace et cette curiosité qu'on recherche chez nos talents pour grandir ensemble, transformer des possibilités en réalité pour nos clients et façonner le futur de la Tech et de la société.

Chez Eviden, diversité, équité et inclusion sont au cœur de notre politique RH. Nos métiers sont tous ouverts aux personnes en situation de handicap et ce, quelle que soit la nature de celui-ci. Grâce à nos programmes qui soutiennent toutes les diversités, nos collaborateurs et collaboratrices sont pleinement impliqués pour faire vivre cette culture de l’inclusion.