Leistung · KI-Entwicklung
LangChain-Entwickler für DACH: Agenten, LangGraph-Flows und messbare Evals
Ich baue LLM-Anwendungen, bei denen der Ablauf nachvollziehbar ist: Agent-Workflows mit menschlicher Freigabe, Background-Jobs mit Kostengrenze, Golden-Set-Evals und klare Entscheidungspunkte statt Demo-Magie. Der Fokus liegt auf interner Automatisierung, RAG, Tool-Calling und produktionsnaher Orchestrierung für Teams in Österreich, Deutschland und der Schweiz.
- Agent-Workflows mit LangGraph/LangChain oder eigener Orchestrierung; menschliche Freigaben sind Teil des Designs.
- Background-Jobs mit Inngest, Trigger.dev oder Modal: nachvollziehbar, wiederholbar und mit Kostengrenze.
- Evals und Golden Sets, damit Prompt-Änderungen messbar besser oder schlechter werden.
- Referenzprojekt: die Content-Engine dieser Website mit Next.js, Fastify, Postgres/pgvector, Claude, OpenAI, Research-Stufe, Quality-Gate und Golden-Set-Evals.
Woran es meistens hakt
Ein Prototyp mit LangChain funktioniert lokal, bricht aber bei echten Daten, Timeouts oder Tool-Fehlern auseinander.
Der Workflow wird als expliziter Graph modelliert: Zustände, Tool-Aufrufe, Retry-Regeln, Abbruchbedingungen und menschliche Freigaben. Wo LangGraph passt, nutze ich LangGraph. Wo die Abhängigkeit mehr schadet als hilft, wird die Orchestrierung kleiner gebaut.
Dein Team weiß nicht, ob eine Prompt-Änderung wirklich besser ist oder nur im letzten Testlauf gut aussah.
Ich setze Evals mit Golden Sets auf. Ein Beispiel wäre ein illustratives Set mit 73 repräsentativen Fällen aus Support, Sales oder Operations. Jede Änderung läuft gegen dieselben Fälle, inklusive erwarteter Struktur, Quellenprüfung und Fehlerklassen.
RAG liefert plausible Antworten, aber die Quellen passen nicht sauber oder vertrauliche Dokumente werden zu breit gefunden.
Die Retrieval-Schicht wird getrennt betrachtet: Chunking, Metadaten, pgvector-Index, Filter, Reranking und Antwortformat. LangChain RAG ist dabei nur ein Baustein; entscheidend sind Datenmodell, Berechtigungen und Testfälle.
Agenten laufen zu lange, verbrauchen zu viele Tokens oder bleiben in Schleifen hängen.
Background-Jobs bekommen harte Kostengrenzen, Laufgrenzen, Idempotency Keys und persistente Zwischenergebnisse. Inngest, Trigger.dev oder Modal werden so eingesetzt, dass ein Lauf wiederholbar bleibt und nicht nur in einem Logfile verschwindet.
DSGVO, Datenabflüsse und Auditierbarkeit sind unklar, besonders bei Teams mit Kundendaten in Österreich.
Ich trenne Modellwahl, Datenhaltung und Logging. Für Projekte mit Personenbezug werden Auftragsverarbeitung, Löschbarkeit und Zugriffspfade früh besprochen. Die österreichische Datenschutzbehörde in Wien ist kein Architekturdetail, das man nach dem Launch nachrüstet.
Zusammenarbeit
Technischer Einstieg
kurzer Einstieg
Analyse eines vorhandenen LangChain-, LangGraph- oder RAG-Prototyps. Ergebnis ist eine technische Entscheidungsliste: was bleiben kann, was ersetzt gehört, wo Evals fehlen und welche Risiken vor Produktion geklärt werden müssen.
AnfragenProjekt-Sprint
mehrwöchiges Projekt
Umsetzung eines konkreten Agent-Workflows, RAG-Flows oder Background-Job-Systems. Dazu gehören Graph-Design, Tool-Anbindung, Freigabepunkte, Golden-Set-Evals, Logging und Übergabe an dein Team.
AnfragenLaufender Retainer
laufend
Weiterentwicklung bestehender LLM-Systeme: neue Tools, zusätzliche Dokumentquellen, Eval-Pflege, Prompt-Änderungen, Fehleranalyse und technische Sparrings für interne Entwicklerinnen und Entwickler.
AnfragenStack
- LangGraph
- Für zustandsbehaftete Agent-Workflows mit klaren Knoten, Kanten, Bedingungen und menschlichen Freigaben. Gut, wenn der Ablauf wichtiger ist als ein einzelner Prompt.
- LangChain
- Für Modelladapter, Tool-Calling, Retriever und schnelle Integration. Ich verwende es gezielt, nicht als Pflichtschicht über jede Funktion.
- LangSmith
- Für Tracing, Runs, Datasets und Evals. Langsmith projects helfen, Testläufe nach Anwendung oder Umgebung zu trennen; der LangSmith API key gehört in Secret Storage, nicht in das Repository.
- Postgres mit pgvector
- Solide Basis für RAG, wenn strukturierte Daten, Metadatenfilter und Vektorsuche nahe beieinander liegen sollen. Besonders praktisch für Teams, die Postgres ohnehin betreiben.
- Fastify
- Schlanke API-Schicht für interne Tools, Webhooks und Jobs. Wenig Rahmenprogramm, gute TypeScript-Unterstützung, klare Fehlerpfade.
- Next.js
- Für Admin-Oberflächen, Review-Screens und Freigabe-Workflows. Bei Agenten ist ein gutes internes UI oft wichtiger als ein weiterer Prompt.
- Inngest, Trigger.dev oder Modal
- Für Background-Jobs, geplante Läufe, Wiederholungen und lange Tasks. Der konkrete Dienst hängt von Hosting, Datenschutz, Laufzeitprofil und Operations-Modell ab.
- Claude und OpenAI
- Für unterschiedliche Aufgabenprofile: Research, Extraktion, Klassifikation, Generierung und Quality-Gates. Die Modellwahl wird evaluiert, nicht nach Bauchgefühl getroffen.
So läuft ein Projekt
1 · Erstes Kennenlernen
Wir reden eine Woche lang in Ruhe über das, was du dir vorstellst - unverbindlich und kostenlos. Am Ende weißt du, was es kostet und wie lange es dauert. Auch dann, wenn du dich gegen mich entscheidest.
2 · Schritt für Schritt bauen
Ich arbeite in kleinen Etappen von zwei Wochen. Nach jeder Etappe siehst du etwas Fertiges und kannst sagen "passt" oder "lass uns das anders machen" - bevor zu viel Zeit oder Geld drinsteckt.
3 · Online-Schaltung & Übergabe
Wir gehen live. Die ersten zwei Wochen danach kümmere ich mich um alle kleinen Anpassungen ohne Extra-Kosten. Du bekommst alles, was zur Website gehört - Zugänge, Anleitungen, den gesamten Code.
4 · Erreichbar auch danach
Nach jedem Projekt halte ich Zeit für ehemalige Kund:innen frei. Für die schnelle Frage am Abend ("Ist das normal?") bin ich da - ohne neuen Vertrag, ohne Stundensatz im Hinterkopf.
Was du bekommst
Agent-Workflows mit Freigabe statt Autopilot
Interne Automatisierung braucht klare Grenzen. Ich designe Agent-Workflows so, dass Menschen an definierten Stellen prüfen, freigeben oder abbrechen können. Das gilt für LangGraph, LangChain oder eine eigene Orchestrierung.
Messbare Änderungen durch Golden Sets
Prompts werden nicht nach Gefühl geändert. Ein Golden Set enthält typische und schwierige Fälle. Eine hypothetische erste Version kann etwa 73 Fälle abdecken: normale Anfragen, Grenzfälle, leere Treffer, falsche Quellen und erwartete Ablehnungen.
Background-Jobs mit Kosten- und Laufkontrolle
Lange LLM-Läufe gehören nicht in fragile Request-Handler. Inngest, Trigger.dev oder Modal führen Jobs nachvollziehbar aus, speichern Zwischenergebnisse und verhindern endlose Agentenschleifen durch klare Limits.
DACH-taugliche Datenhaltung
Für Unternehmen in Österreich, Deutschland und der Schweiz zählen Auftragsverarbeitung, Zugriffskontrolle und Löschbarkeit. Das wird im Datenfluss sichtbar gemacht, nicht in einer PDF nachträglich behauptet.
LangChain, LangGraph oder eigene Orchestrierung
Die richtige Wahl hängt vom Ablauf ab, nicht vom Hype in der LangChain Doku oder in Blogposts.
| Option | Passt gut für | Technischer Haken | |
|---|---|---|---|
| LangChain | Modelladapter, Retriever, Tools, einfache Chains und schnelle Integration vorhandener Provider. | Abstraktionen können Debugging erschweren, wenn sie ohne klare Grenzen überall verwendet werden. | |
| LangGraph | Agenten mit Zustand, Verzweigungen, Freigaben, Wiederaufnahme und kontrollierten Tool-Aufrufen. | Graph-Design muss fachlich sauber sein. Ein schlechter Prozess wird durch Knoten und Kanten nicht besser. | |
| Eigene Orchestrierung | Kleine Workflows mit wenigen Schritten, klarer Persistenz und spezifischen Fehlerregeln. | Du baust mehr selbst, dafür bleibt der Code oft lesbarer und leichter zu betreiben. | |
| LangSmith | Tracing, Eval-Datasets, Runs, Experimente und Vergleich von Prompt- oder Modellvarianten. | Datenpolitik und Projektstruktur müssen vorher stimmen; ein API-Key im falschen Umfeld ist ein vermeidbarer Fehler. |
Risiken, die ich früh adressiere
Agent führt Aktionen ohne menschliche Prüfung aus
highFreigabeknoten, Review-UI, klare Rollen und Audit-Log. Aktionen werden vorbereitet, nicht blind ausgeführt.
Prompt-Änderung verschlechtert Randfälle
mediumGolden-Set-Evals mit festen Fällen, erwarteten Outputs und Fehlerklassen. Änderungen werden gegen dieselbe Datenbasis geprüft.
RAG findet die falschen Quellen
highMetadatenfilter, Berechtigungsprüfung, Chunking-Tests, Quellenpflicht und negative Testfälle ohne passende Dokumente.
LLM-Jobs laufen zu lange oder werden teuer
mediumKostengrenzen, Laufgrenzen, Idempotency Keys, persistente Zwischenschritte und kontrollierte Wiederholungen in Background-Jobs.
Tracing enthält vertrauliche Daten
highRedaction, getrennte Umgebungen, bewusstes Logging und Prüfung, ob LangSmith oder eigenes Tracing zum Datenschutzmodell passt.
Nächster Schritt
Schick mir dein LangChain-Repo oder deine Workflow-Skizze
Ich prüfe Architektur, Datenfluss, Evals und Betriebsrisiken. Wenn ein kleiner TypeScript-Service besser ist als ein großer LangChain-Agent, sage ich das direkt. Viele Freelancer verkaufen LangChain als Standardantwort; ich halte das für falsch. LangChain ist nützlich, aber nur, wenn die Abstraktion weniger Schaden anrichtet als sie Code spart.
Häufige Fragen
Was ist LangGraph im Vergleich zu LangChain?
LangChain ist ein Baukasten für LLM-Anwendungen: Prompts, Modelle, Retriever, Tools und Chains. LangGraph ergänzt das um explizite Zustandsmaschinen für Agenten. In der Praxis bedeutet das: Ein Workflow kann einen Zustand halten, Bedingungen prüfen, Tools aufrufen, eine menschliche Freigabe verlangen und danach weiterlaufen. Die LangGraph docs sind gut, aber sie ersetzen kein Ablaufdesign. Wenn der Prozess nur aus Eingabe, Modellaufruf und Ausgabe besteht, ist LangGraph oft zu viel. Wenn mehrere Schritte, Entscheidungen und Freigaben vorkommen, wird LangGraph interessant.
Baust du LangChain RAG-Systeme?
Ja, wenn RAG fachlich passt. Ich sehe mir zuerst Datenquellen, Berechtigungen, Aktualisierungslogik und Antwortpflichten an. Ein RAG-System ist nicht automatisch besser, nur weil Embeddings im Spiel sind. Für viele interne Wissensdatenbanken ist Postgres mit pgvector ausreichend, solange Chunking, Metadaten und Tests sauber sind. Die LangChain Doku zeigt viele Varianten; produktionsrelevant sind aber meist langweilige Fragen: Wer darf welches Dokument sehen, wann wird neu indexiert, wie wird eine falsche Quelle erkannt, und was passiert bei leerem Retrieval.
Brauche ich LangSmith?
Nicht zwingend, aber Tracing und Evals brauchst du fast immer. LangSmith ist praktisch, weil Runs, Datasets, Feedback und Experimente zusammenliegen. Wichtig ist die saubere Trennung der Langsmith projects nach Anwendung, Umgebung oder Mandant. Der LangSmith API key wird als Secret behandelt und rotiert, wenn ein Zugriffskonzept das verlangt. Wenn LangSmith wegen Datenpolitik nicht passt, kann ein kleineres Setup mit eigenen Logs, Golden Sets und CI-Prüfungen reichen.
Kann ein bestehender Prototyp übernommen werden?
Ja. Ich starte dabei nicht mit einer Neuschreibung. Zuerst wird geprüft, welche Teile wertvoll sind: Prompts, Tools, Datenmodell, UI, Retrieval oder nur das Fachwissen im Code. Danach wird entschieden, ob LangChain bleibt, LangGraph eingeführt wird oder eine eigene Orchestrierung sinnvoller ist. Viele Prototypen enthalten gute fachliche Entscheidungen und schlechte Laufzeitannahmen. Das gehört getrennt, nicht pauschal entsorgt.
Was kostet LangChain-Entwicklung?
Das hängt vom Umfang ab, Fixpreis nach dem Erstgespräch. Ich nenne vorab keine Schätzung, weil sie bei LLM-Systemen fast immer an der falschen Stelle genau wirkt. Relevante Kostentreiber sind Datenzugriff, Freigabepunkte, Tool-Anbindungen, Eval-Tiefe, Hosting, Datenschutzprüfung und der erwartete Betriebsmodus. Ein Chat über eine einzelne Quelle ist ein anderes Projekt als ein Agent, der interne Systeme liest, Aktionen vorbereitet und vor Ausführung eine Freigabe braucht.
Wie gehst du mit Datenschutz in Österreich und DACH um?
Ich behandle Datenschutz als Architekturfrage. Personenbezogene Daten, Logs, Prompt-Inhalte, Vektoren und Traces müssen getrennt betrachtet werden. Für österreichische Unternehmen sind Auftragsverarbeitung, Löschkonzepte und Zugriffskontrolle keine Fußnoten. Bei Bedarf wird dokumentiert, welche Daten an Modellanbieter gehen und welche lokal bleiben. Das gilt besonders für Kanzleien, Gesundheitsnähe, HR, Finanzprozesse und Unternehmen mit Kundendaten aus Wien, Graz, Linz oder dem weiteren DACH-Raum.
Unterstützt du LangChain Streaming?
Ja, wenn Streaming dem Produkt hilft. Langchain stream kann die wahrgenommene Wartezeit senken und Debugging erleichtern, macht aber UI, Abbruchlogik und Fehlerbehandlung schwieriger. Bei Agenten muss klar sein, ob ein Token-Stream, ein Event-Stream oder ein Status-Stream gebraucht wird. Für interne Tools ist ein Event-Stream mit Schritten wie Retrieval, Tool-Aufruf, Review und Abschluss oft nützlicher als ein reiner Token-Fluss.
Arbeitest du nur in Wien?
Nein. Ich arbeite aus Wien, aber die Dienstleistung ist nicht auf einen Bezirk oder eine lokale Szene beschränkt. Meetings können remote stattfinden; ein technischer Workshop in Wien, etwa nahe weXelerate oder im zweiten Bezirk, ist möglich, wenn es dem Projekt hilft. Für die Suche nach einem LangChain Entwickler DACH ist wichtiger, dass Architektur, Datenschutz und Betrieb für DACH-Anforderungen passen.
Nächster Schritt
LangChain- oder LangGraph-Projekt technisch sauber aufsetzen
Schick mir den aktuellen Stand: Idee, Prototyp, Datenquellen oder bestehendes Repo. Ich sage dir, ob LangChain, LangGraph oder eine kleinere eigene Orchestrierung sinnvoll ist.