CS27 - Bac+5 - Évaluation et Monitoring des Agents IA en Production (H/F)

AI in this role

Contribute to the structuring and industrialization of evaluation and monitoring processes for AI agents in production at Renault Group.

langgraphvertex-aipython

ragai-evaluationnlpai-agentsllmevaluationmonitoring

Company

RENAULT s.a.s.

Job Description

Contexte

L'intelligence artificielle générative et les agents IA transforment progressivement les usages au sein de Renault Group. Afin d'accompagner leur déploiement à grande échelle, le Centre of Excellence AI développe des méthodologies, des outils et des plateformes permettant d'évaluer, de suivre et d'améliorer en continu les performances des agents IA tout au long de leur cycle de vie.

Dans ce contexte, nous recherchons un(e) stagiaire de fin d'études pour contribuer à la structuration et à l'industrialisation des processus d'évaluation des agents IA, depuis leur développement jusqu'à leur monitoring en production.

Vos missions

Au sein du Centre of Excellence AI, vous participerez à la mise en place d'un cadre commun d'évaluation des agents IA.
Vos principales missions seront les suivantes :

Cartographier et analyser les processus d'évaluation existants au sein des différentes équipes.
Agréger, comparer et synthétiser les méthodes, outils et bonnes pratiques déjà en place.
Concevoir et contribuer à l'implémentation d'une plateforme commune d'évaluation et de monitoring des agents IA.
Travailler sur les jeux de données d'évaluation et explorer les mécanismes permettant leur mise à jour automatique ou semi-automatique en liens avec les évolutions de la vérité terrain.
Collecter, analyser et comparer les métriques utilisées dans l'entreprise pour mesurer la qualité, la robustesse et la performance des agents IA.
Participer à la définition de recommandations et de standards d'évaluation pour les futurs développements et leur application aux agents déjà en production.
Réaliser une veille sur les frameworks et méthodologies d'évaluation des systèmes d'IA générative.

Profil recherché

Étudiant(e) en dernière année d'école d'ingénieur ou Master 2 avec une spécialisation en Intelligence Artificielle, Machine Learning, NLP (Natural Language Processing), Data Science ou Informatique.
Connaissances des technologies d'IA générative : LLM, NLP, RAG, agents IA et techniques d'évaluation associées.
Solides compétences en Python et en développement de solutions Data & IA.
Conaissances des framework de création d'agent en python (ADK, Langgraph...).
Intérêt marqué pour les problématiques d'évaluation, de qualité et d'industrialisation des systèmes d'IA.
Capacité d'analyse, esprit de synthèse et autonomie.
Bon niveau d'anglais professionnel.

Compétences appréciées

Expérience avec des frameworks d'évaluation de LLM et d'agents IA (Ragas, Vertex AI Gen AI evaluation service, ...).
Connaissance des problématiques de monitoring, d'observabilité et de gouvernance des systèmes IA.
Familiarité avec les pipelines de données et les mécanismes d'automatisation.
Connaissances de l'environnement cloud GCP.

Ce que vous apprendrez

Les enjeux de gouvernance et d'industrialisation de l'IA à l'échelle d'un grand groupe.
Les mise en pratique d'évaluation des agents IA en production en liens avec des impératifs métier.
La conception de plateformes de monitoring et d'observabilité pour les systèmes d'IA générative.
La définition de métriques et de standards permettant d'améliorer la qualité des solutions IA déployées en production.
La collaboration avec des experts IA, Data Science et Software Engineering sur des cas d'usage stratégiques pour Renault Group.

Job Family

Information Technologies & Systems

Contract Duration

6 months

Renault Group is committed to creating an inclusive working environment and the conditions for each of us to bring their passion, perform to the full and grow, whilst being themselves.
We find strength in our diversity and we are engaged to ensure equal employment opportunities regardless of race, colour, ancestry, religion, gender, national origin, sexual orientation, age, citizenship, marital status, disability, gender identity, etc. If you have a disability or special need requiring layout of the workstation or work schedule, please let us know by completing this form.

In order to follow in real time the evolution of your applications and to stay in touch with us, we invite you to create a candidate account. This will take you no more than a minute and will also make it easier for you to apply in the future.

By submitting your CV or application, you authorise Renault Group to use and store information about you for the purposes of following up your application or future employment. This information will only be used by Renault Group companies as described in the Group privacy policy.

How we rate this

CS27 - Bac+5 - Évaluation et Monitoring des Agents IA en Production (H/F) at Renault Group rates 90 out of 100 for how much of the daily work is AI. That makes it Builds AI (AI Level 4 of 4). The level is about AI in the job, not seniority.

Classification

Builds AI. The job is building AI systems.

●●●● Builds AI80 to 100
●●●○ Works on AI60 to 79
●●○○ Uses AI40 to 59
●○○○ Little AI0 to 39

Levels come from how often the tools, models and workflows of the role are named in the posting itself. Open the description and count.

Prepare for this job

A free preview built only from this posting: what it asks for, what you could be asked in an interview, and how to adjust your resume.

Skills and AI tools this role asks for

RAGAI EvaluationNLPAI AgentsLLMEvaluationMonitoringLangGraph

Questions you could be asked

How would you design a retrieval step so the model answers from real data instead of guessing?
How do you decide that one model's output is better than another's for a given task?
What NLP problem have you worked on, and how did you measure whether it actually worked?
How do you decide when an AI agent can act on its own versus asking for approval first?
Tell me about a project where llm was part of your work. What did you do?

Adapt your resume

List these exact terms on your resume: RAG, AI Evaluation, NLP, AI Agents, and LLM. An applicant tracking system matches the wording, not the idea.
Attach one line of real, concrete experience to at least one of them — a tool named with nothing behind it rarely survives a human read.
Lead with what you built, trained or shipped — this role is judged on the AI system itself, not the tools around it.

Want your resume actually rewritten for this job?

The free preview above is everything we have today. A full resume rewrite is not live yet and has no price set. Join the waitlist and we will email you if we open it.