AI Engineer (m/w/d) - Schwerpunkt: Agentic Systems & Backend Engineering

Du entwickelst unsere KI-Systeme – vom agentenbasierten Assistenten bis hin zu einer Plattform, auf der unsere Kund:innen eigene Agenten, Aufgaben und Abläufe zusammenstellen können.

Die Rolle ist hands-on: Du schreibst Code, entwirfst Agentenarchitekturen und betreibst das, was du baust, auch selbst. Dabei arbeitest du an der Stelle, an der sich entscheidet, ob ein KI-Feature nur im Demo überzeugt oder im Alltag unserer Kund:innen zuverlässig funktioniert.

Du arbeitest eng mit Backend-Entwicklung, Produkt und [weitere Schnittstellen] zusammen und bringst deine Einschätzung aktiv in Architektur- und Produktentscheidungen ein.

• (Weiter-)Entwicklung unseres agentenbasierten KI-Assistenten – von der Konzeption über die Implementierung bis zum Betrieb
• Mitaufbau eines dynamischen Multi-Agenten-Systems, in dem Kund:innen eigene Agenten, Aufgaben und Workflows selbst erstellen und konfigurieren können
• Design von Agentensystemen, deren Verhalten und Qualität kontrollierbar und nachvollziehbar sind – inklusive Guardrails, Berechtigungskonzepten und Human-in-the-Loop-Mechanismen
• Entwicklung systematischer Evaluationsstrategien: Du machst überprüfbar, ob Änderungen an Prompts, Tools und Agenten tatsächlich Verbesserungen sind – statt nur „gefühlt besser"
• Integration von KI- und ML-Konzepten in eine bestehende, gewachsene SaaS-Anwendung – mit allem, was dazugehört: Datenmodell, Berechtigungen, Performance, Kosten
• Betrieb und Optimierung: Observability, Tracing, Latenz-, Kosten- und Stabilitätsoptimierung

LLM- und ML-Verständnis

• Sehr gutes konzeptionelles Verständnis der Funktionsweise  - und der Grenzen - von LLMs
• Verständnis weiterer ML-Konzepte und wie sich diese sinnvoll in Business-Logik integrieren lassen

• Tokenisierung/Tokens, Embeddings und Context Windows
• Vector Search, Retrieval und Re-ranking (RAG)
• Halluzinationen, Context Bloat und weiteren typischen Fehlermodi – inklusive Strategien, diese zu erkennen und abzufedern
• Tool Calling und Structured Outputs
• A2A (Agent2Agent Protocol), MCP (Model Context Protocol) und Human-in-the-Loop
• Sicherheitsrisiken von LLM- und Agentensystemen (u. a. Prompt Injection, Tool-Missbrauch, Datenabfluss)
• Prompt Engineering – Formulierung, Struktur und Steuerung einzelner Modellanfragen
• Context Engineering – gezielte Auswahl, Aufbereitung und Verwaltung dessen, was überhaupt im Context Window landet
• Harness Engineering – Gestaltung der Umgebung, in der ein Agent operiert: Tools, Feedback-Schleifen, Kontrollfluss und Abbruchbedingungen
• …sowie ein klares Verständnis davon, worin sich diese drei Ebenen unterscheiden und wann welche der richtige Hebel ist

Agentenarchitektur

• Verständnis von Multi-Agent-Architekturen, Agent Handoffs und Orchestrierung (A2A)
• Erfahrung mit Guardrails und Berechtigungen, insbesondere RBAC und ABAC in benutzerbezogenen SaaS-Systemen0
• Erfahrung oder solides Verständnis von asynchroner Verarbeitung, Background Jobs und Task Queues

 MLOps / AgentOps

• Fähigkeit, systematische Evaluationsstrategienn für Agenten und andere ML-Komponenten zu entwickeln
• Verständnis von Qualitätsmetriken und Evaluationsmethoden – z. B. LLM-as-a-Judge, Task Success Rate, Tool Call Accuracy
• Testen und Versionierung von Agenten, Prompts und Tool-Definitionen
• Optimierung von Qualität, Stabilität, Latenz und Kosten
• Observability, Logging und Tracing

 Mindset

• Echtes Interesse daran, verschiedene KI- und ML-Konzepte in einer bestehenden SaaS-Anwendung zu erproben und produktiv zu bringen
• Pragmatismus: Du kennst den Unterschied zwischen einem beeindruckenden Demo und einem System, das auch beim 10.000. Durchlauf noch das Richtige tut

So arbeiten wir:

Was links in dick gedruckt steht, ist unser Stack – was daneben steht, zeigt, dass wir auch Erfahrung mit vergleichbaren Technologien anrechnen. Erfahrung mit möglichst vielen dieser Punkte ist von Vorteil, wir erwarten aber nicht die vollständige Liste:

LLM / KI: Anthropic API – Anthropic Client, Anthropic on Vertex AI (oder vergleichbare LLM-Clients und -APIs)

ML-Toolchain: Entwicklung und Evaluation eigener ML-Anwendungen, z. B. mit PyTorch, TensorFlow, scikit-learn, NumPy, pandas, CUDA

Cloud: Google Cloud Platform – Vertex AI, Cloud Run, GKE (oder vergleichbare Plattformen wie AWS oder Azure)

Infrastruktur: Kubernetes, Docker

Backend: Python, Django

Datenbank: PostgreSQL (oder ein vergleichbares RDBMS)

Async / Jobs: Celery, Taskiq (oder vergleichbare worker-basierte Task-Queue-Systeme)

Sonstiges: Git

• Gestaltungsspielraum in einem Bereich, in dem noch niemand fertige Antworten hat – deine Architekturvorschläge landen nicht in der Schublade
• Ein Produkt mit echten Nutzer:innen und echtem Feedback statt Innovationstheater
• Es besteht die Möglichkeit Remote, Hybrid, oder vor Ort zu arbeiten
• Strukturierte Einarbeitung in Produkt, Prozesse und Testvorgehen
• Und natürlich die ganzen weiteren Basics die jeder auf seiner Karriereseite mittlerweile so hat... :)