AI Consultant – GenAI & NLP Public Sector (m/w/d)
Sopra Steria is hiring an AI Consultant – GenAI & NLP Public Sector (m/w/d). Level rates it ; you can apply on Sopra Steria.
Level's read on this job
- Works on AI ●●●○ is how Level rates this AI consultant role: the daily work is on AI products, without building the model.
- Tools and skills the posting cites include LangChain, LlamaIndex and LangGraph.
- Level lists 2,000+ other open roles at Sopra Steria.
AI in this role
Wir sind als eine der führenden europäischen Management- und Technologieberatungen ein echter Tech-Player. Wir sehen uns als Vordenker*innen, handeln und denken strategisch, entwickeln mit unseren Kunden maßgeschneiderte Lösungen, sowie präzise Prozesse und implementieren innovative Technologien. Weltweit sind wir über 50.000 tech-affine und kluge Köpfe – gemeinsam gestalten wir die Zukunft unserer Kunden und die der Gesellschaft.
Bist du bereit, das digitale Europa mitzugestalten?
- Spannende und anspruchsvolle KI-Projekte für unsere Kunden im öffentlichen Sektor
- Konzeption und Entwicklung generativer AI-Lösungen zur interaktiven Bereitstellung interner Wissensquellen – insbesondere durch den Einsatz von Retrieval-Augmented Generation (RAG), Open-Source-LLMs, Chatbots und intelligenten Assistenzsystemen
- Integration und Orchestrierung von Sprachmodellen, Agents und internen Datenquellen zu skalierbaren Systemen
- Enge Zusammenarbeit in agilen, interdisziplinären Teams aus Data Scientists, Entwickler*innen und Fachexpert*innen
- Partnerschaftliche Beratung öffentlicher Auftraggeber entlang des gesamten Projektzyklus – einschließlich der Berücksichtigung von Datenschutzanforderungen, regulatorischen Rahmenbedingungen und sicherer Nutzung generativer Modelle
- Verantwortung für Qualität und Projekterfolg und aktive Mitarbeit an der Weiterentwicklung unseres Beratungsportfolios
- Beratung heißt Flexibilität: Dein Projekteinsatz richtet sich nach unseren Kunden und deiner Projektsituation – du arbeitest deutschlandweit in unseren Offices, beim Kunden vor Ort und von zu Hause
- Erfolgreicher Studienabschluss der (Wirtschafts-) Informatik, Mathematik, Statisik oder eines vergleichbaren Studiengangs
- Mindestens 3 Jahre Berufserfahrung in der Umsetzung von KI-Projekten mit Fokus auf NLP – idealerweise im Beratungsumfeld oder im öffentlichen Sektor; davon mindestens 1 Jahr Berufserfahrung im Bereich Generative AI
- Fundierte Erfahrung in der Entwicklung von GenAI-Lösungen mit Fokus auf Retrieval-Augmented Generation (RAG), Chatbots und AI Agents – inklusive Prompt Engineering und Evaluierung LLM-basierter Systeme
- Sicherer Umgang mit relevanten Open-Source-Frameworks wie Transformers, LangChain, LangGraph, LlamaIndex, Haystack sowie Vektor-Datenbanken (z. B. Qdrant, ChromaDB, Weaviate)
- Sehr gute Programmierkenntnisse in Python; Kenntnisse in weiteren Sprachen wie Java sind ein Plus
- Idealerweise Erfahrung mit MLOps-Praktiken oder CI/CD für AI-basierte Anwendungen
- Idealerweise Kenntnisse in Bereichen wie Fine Tuning von Sprachmodellen und der Nutzung von Graphdatenbanken im Kontext GenAI
- Fähigkeit zur strukturierten, zielgruppenorientierten Kommunikation komplexer technischer Sachverhalte – insbesondere in größeren Organisationen oder öffentlichen Einrichtungen
- Sehr gute Deutschkenntnisse (ab C1 Niveau) sowie Englischkenntnisse
- Weiterbildung: umfangreiche fachliche und methodische Trainings inkl. Zertifizierungen sowie vielfältige Entwicklungsperspektiven innerhalb des Unternehmens
- Work-Life-Balance: hybrides Arbeiten innerhalb von Deutschland und für einen begrenzten Zeitraum in definierten EU-Ländern, Familienservice, Firmenfitness sowie die Möglichkeit zu einem Sabbatical
- Flexible Urlaubsgestaltung: 30 Tage Urlaub und die Möglichkeit zur individuellen Erhöhung oder Verringerung des jährlichen Urlaubs um bis zu 5 Tage
- SpenditCard: Monatlich stehen dir zusätzlich zum Gehalt 50 Euro steuerfreies Guthaben zur Verfügung, die du flexibel für Shops in deiner Nähe nutzen kannst
- IT-Equipment: Wir unterstützen dich bei der Ausstattung von benötigtem Zusatz-Equipment für ein optimales ortsflexibles Arbeiten
- Mobilität: Firmenwagen und Dienstfahrrad per Gehaltsumwandlung sowie Bezuschussung des Deutschlandtickets
- Unser Mindset: Teamspirit, offene Türen, Duzkultur, gelebte Vielfalt
Vielfalt ist eine wichtige Grundlage unserer Unternehmenskultur. Wir möchten ein inklusives Umfeld schaffen, das die Diversität all unserer 2.700 Mitarbeitenden in Deutschland und Österreich berücksichtigt und in dem du dich bestmöglich entfalten kannst. Denn wir bei Sopra Steria sind davon überzeugt, dass deine Individualität der Schlüssel zu einem nachhaltigen Unternehmenserfolg ist.
Wir setzen uns für eine nachhaltige Zukunft ein: Ob mit konzernweiten Stipendien- und Corporate Volunteering-Programmen oder mit Projekten zur Förderung von Bildung, Chancengleichheit und digitale Inklusion – wir übernehmen Verantwortung für die Gesellschaft. Wir glauben fest daran, dass digitale Innovationen ein Schlüssel zu Gleichberechtigung, Inklusion und Klimaschutz sind.
Impressum
How we rate this
AI Consultant – GenAI & NLP Public Sector (m/w/d) at Sopra Steria rates 64 out of 100 for how much of the daily work is AI. That makes it Works on AI (AI Level 3 of 4). The level is about AI in the job, not seniority.
Works on AI. The daily work is on AI products, without building the model.
- ●●●● Builds AI80 to 100
- ●●●○ Works on AI60 to 79
- ●●○○ Uses AI40 to 59
- ●○○○ Little AI0 to 39
Levels come from how often the tools, models and workflows of the role are named in the posting itself. Read the description and count the AI tools, models and workflows it names.
Prepare for this job
Built from this posting and from similar jobs on Level.
Skills and AI tools this role asks for
Also common in AI consultant jobs at this level
Pay
- Typical AI consultant job
- $151k
This posting doesn't list pay. Use the typical AI consultant figure when pay comes up. See AI consultant jobs
Questions you could be asked
- How do you structure and test a prompt to get consistent output from a language model?
- How would you design a retrieval step so the model answers from real data instead of guessing?
- How do you decide when an AI agent can act on its own versus asking for approval first?
- Walk me through fine-tuning a model: what data did you use, and how did you check the result?
- How do you monitor a model once it's live, and how do you know it needs retraining?
Adapt your resume
- List these exact terms on your resume: Prompt engineering, RAG, AI agents, Fine-tuning, and ML Ops. An applicant tracking system matches the wording, not the idea.
- Attach one line of real, concrete experience to at least one of them. A tool named with nothing behind it rarely survives a human read.
- Show where AI is part of your daily process, not a one-off project. This role expects it to be a running habit.
Want an expert to read your CV for this job?
Free. Send your CV and the role you want next. We reply by email within 2 to 4 business days.
Get new AI consultant jobs (Works on AI ●●●○ or higher) by email
One email a week with the new AI consultant jobs (Works on AI ●●●○ or higher), each rated for how much AI is in the work. No recruiter spam, unsubscribe in one click.
Free. One email a week. Unsubscribe in one click.
Similar roles
Other roles that work on AI, at other companies.
What kind of AI work fits you?
Answer 12 practical questions in about three minutes. Get a simple profile, the work it points to, and live roles to explore next.
Find my next step