20. Juli 2026
Vantage, die Document-AI-Plattform von ABBYY, unterstützt jetzt die Prompt-basierte Extraktion. Mit dieser Funktion verbinden Sie große Sprachmodelle (Large Language Models – LLM) direkt mit Ihren Workflows zur Dokumentenverarbeitung und extrahieren strukturierte Daten über Anweisungen in natürlicher Sprache. Ohne individuelle Programmierung, ohne separate Plattform, ohne vorheriges Modelltraining. Dieser Beitrag zeigt, was die Funktion leistet, welche LLM-Provider unterstützt werden, wie Sie diese anbinden – und welche praktischen Fähigkeiten die Funktion vom ersten Tag an unternehmenstauglich machen.
Direkt zu:
Was ist die Prompt-basierte Extraktion in der ABBYY Vantage-Plattform?
LLM-Konnektivität: Bring Your Own Model
Die wichtigsten Funktionen im Überblick
So fügt sich die Extraktion per Prompt in einen hybriden Workflow ein
Wie geht es mit der LLM-Integration in der Document-AI-Plattform von ABBYY weiter?
Die Prompt-basierte Extraktion ermöglicht es Ihnen, strukturierte Daten mithilfe von Anweisungen in natürlicher Sprache aus Dokumenten zu extrahieren – mit einem LLM Ihrer Wahl. Statt ein klassisches Modell für maschinelles Lernen (Machine Learning – ML) zu trainieren, beschreiben Sie die zu extrahierenden Felder, definieren das Ausgabeformat und überlassen dem LLM den Rest.
Die Funktion ist als eigene Aktivität im Advanced Designer von ABBYY Vantage verfügbar. Sie fügen sie der Workflow-Arbeitsfläche wie jede andere Extraktionsaktivität hinzu, verbinden sie mit einem LLM-Provider, schreiben oder passen einen Prompt an und führen sie an Ihren Dokumenten aus. Das Ergebnis wird direkt den Ausgabefeldern zugeordnet, die Sie im Skill definiert haben.
Das erweitert die Möglichkeiten der Plattform spürbar. Für strukturierte, wiederkehrende Dokumente mit hohem Volumen bleiben speziell trainierte ML-Modelle die richtige Wahl. Die Extraktion per Prompt schließt die Lücke bei Dokumenten mit stark variierenden Layouts, bei Fällen mit geringem Volumen, aber hohem Wert, und in Szenarien ohne gelabelte Trainingsdaten.
ABBYY Vantage verfolgt einen modellagnostischen Ansatz. Sie stellen die LLM-Zugangsdaten bereit; die Plattform übernimmt den Rest. Verbindungen werden einmal auf Mandantenebene konfiguriert und stehen sofort allen Skill-Designern in Ihrer Organisation zur Verfügung.
Drei Provider werden über native, vorgefertigte Verbindungen unterstützt:
Jeder Provider stellt eigene Anforderungen an die Konfiguration, der Einrichtungsprozess folgt jedoch stets demselben Muster: Navigieren Sie im Bereich Admin zu Configuration, öffnen Sie Connections, klicken Sie auf „Add Connection“, wählen Sie Ihren Provider aus, geben Sie Ihre Zugangsdaten ein und führen Sie einen Verbindungstest aus. Ein grünes Häkchen bestätigt, dass die Verbindung aktiv ist. Mandantenadministratoren können die Standardverbindung nach der Veröffentlichung eines Skills zudem je Umgebung ändern, ohne den Skill erneut veröffentlichen zu müssen.
Wir arbeiten daran, die native Konnektivität dieser Funktion weiter auszubauen. Bis dahin können Sie andere Modelle über die Funktion Custom Activity anbinden. Sie erweitert die Konnektivität über die drei vorgefertigten Provider hinaus und erlaubt es, jeden REST-Service von Drittanbietern direkt aus einem Document-Skill aufzurufen. So lassen sich Dokumente an weitere LLMs weiterleiten – etwa Anthropic Claude, selbst gehostete Modelle oder proprietäre Unternehmens-LLMs. Sie definieren die Dokumentfelder sowie Text- und Bildformate vor dem externen Versand und wählen Ausgabeformate über die Standardoptionen hinaus. Damit behalten Sie die Kontrolle über die geteilten Daten und reduzieren den Programmieraufwand erheblich. Über den ABBYY Marketplace bieten wir zudem vorgefertigte Konnektoren für weitere Provider an.
Effektive Extraktions-Prompts von Grund auf zu schreiben, erfordert Zeit und Fachwissen. Die Prompt-basierte Aktivität in ABBYY Vantage enthält professionell entwickelte Prompts, die auf jahrzehntelanger Erfahrung in der Dokumentenverarbeitung beruhen. Das sind keine generischen Vorlagen: Sie kodieren spezifisches Wissen darüber, wie Geschäftsdokumente aufgebaut sind, wie Feldbezeichnungen je nach Sprache und Format variieren und wie ein LLM anzuweisen ist, Daten wortgetreu zu extrahieren – ohne Werte abzuleiten oder umzuformatieren.
Ein typischer vorgefertigter Prompt umfasst vier Komponenten:
Sie können diese Prompts anpassen, um Kontext zu ergänzen, Feldregeln zu erweitern oder eine bedingte Extraktionslogik einzuführen. Die vorgefertigte Struktur bietet Ihnen einen verlässlichen Ausgangspunkt statt eines leeren Blatts.
Bevor ein Skill in die Produktion geht, können Sie Prompt-basierte Aktivitäten direkt im Advanced Designer an realen Dokumenten testen. Wählen Sie ein Dokument aus Ihrem Testset aus, führen Sie die Aktivität aus und prüfen Sie die extrahierten Felder in der Predictive View. Jeder extrahierte Wert zeigt den Feldnamen, den aus dem Dokument entnommenen Text und die Fundstelle im Dokument an.
Mit dieser Testschleife in der Designphase erkennen Sie Probleme schnell und iterieren, ohne die laufende Verarbeitung zu beeinträchtigen. Zu den häufigsten Verfeinerungen zählen:
Der iterative Ansatz – jeweils eine Regel ändern und an mehreren Dokumenten testen – liefert konsistentere Ergebnisse als die Optimierung anhand eines einzelnen Beispiels. Auch das Dokumentformat beeinflusst die Ergebnisse. Die Plattform bietet mehrere Optionen für die Übermittlung von Dokumenten an das LLM, darunter Plain Text, Formatted Text und Annotated Text. Annotated Text ist das empfohlene Format: Es bewahrt die Dokumentstruktur, wird effizient verarbeitet und vermeidet die höheren Token-Kosten und die eingeschränkte Unterstützung, die mit dem Versand von PDF-Rohdateien verbunden sind.
Bei jeder Extraktionsanfrage ein vollständiges Dokument an eine externe LLM-API zu senden, schafft zwei Probleme: Kosten und Datenexposition. Die Document-AI-Plattform von ABBYY adressiert beide durch selektive Verarbeitung.
Da die Prompt-basierte Extraktion als eine Aktivität innerhalb eines umfassenderen Document-Skills läuft, können Sie sie so konfigurieren, dass nur bestimmte Teile eines Dokuments verarbeitet werden. Zunächst laufen die optische Zeichenerkennung (Optical Character Recognition – OCR) und die Layoutanalyse der Plattform und erzeugen eine saubere, strukturierte Textdarstellung des Dokuments. Anschließend senden Sie nur die relevanten Abschnitte oder Felder an das LLM – statt des vollständigen Rohdokuments.
Die praktischen Vorteile liegen auf der Hand:
Dieser Ansatz verringert zudem das Risiko einer Prompt Injection – einer bekannten Schwachstelle, wenn Rohinhalte eines Dokuments ohne Vorverarbeitung direkt an ein LLM übergeben werden.
Die Funktion ergänzt die übrigen Extraktionsmethoden der Plattform – sie ersetzt sie nicht. Ein typischer Rechnungs-Skill kann ein vortrainiertes ML-Extraktionsmodell für strukturierte Felder wie Positionen und Summen nutzen und zusätzlich eine Prompt-basierte Aktivität speziell für die Bankverbindungsdaten des Lieferanten einsetzen, die je nach Dokumentlayout zu stark variieren, als dass ein trainiertes Modell sie zuverlässig verarbeiten könnte.
In einer hybriden Pipeline übernimmt jeder Extraktionsansatz das, was er am besten kann:
| Dokumentsituation | Am besten geeigneter Ansatz |
| Strukturierte, wiederkehrende Dokumente mit hohem Volumen | Speziell trainierte ML-Extraktion |
| Geringes Volumen, hohe Variabilität oder komplexe Layouts | Prompt-basierte Extraktion (LLM) |
| Keine Trainingsdaten verfügbar | Prompt-basierte Zero-Shot-Extraktion |
| Compliance-kritische Felder, die einen Audit-Trail erfordern | Deterministische Extraktion mit Human-in-the-Loop |
| Gemischte Dokumentbestände mit mehreren Anwendungsfällen | Hybride Strategie je Dokument |
Die Ausgaben Prompt-basierter Aktivitäten durchlaufen dieselben Validierungs-, Human-in-the-Loop-Prüf- und Exportschritte wie jedes andere Extraktionsergebnis. Die Antwort des LLM ist im Quelldokument verankert: Da Feldwerte wortgetreu extrahiert und konkreten Zeilenpositionen zugeordnet werden, erhalten Sie eine nachvollziehbare Ausgabe, die Compliance-Anforderungen unterstützt.
Ein kleiner Ausblick auf das, was wir für Sie vorbereiten: Wir erweitern die Unterstützung des LLM-Ökosystems über die aktuellen vorgefertigten Verbindungen hinaus – um universelle sowie selbst gehostete proprietäre Modelle. Außerdem entwickeln wir Werkzeuge für Prompt-Management und -Optimierung, erweiterte Leitplanken für Governance und den Umgang mit Halluzinationen bei LLM-Ausgaben sowie von ABBYY gehostete, für die Dokumentenverarbeitung optimierte Sprachmodelle – für eine effiziente und zuverlässige Zero-Shot-Extraktion ohne vorheriges Training.
Die Prompt-basierte Extraktion schließt eine der häufigsten Lücken in der Dokumentenautomatisierung: die Verarbeitung von Dokumenten, die für klassisches Modelltraining zu variabel oder zu unstrukturiert sind – ohne eine individuelle Integration von Grund auf zu entwickeln. Dank der Kombination aus vorgefertigten LLM-Verbindungen, professionell entwickelten Prompts, Tests in der Designphase und selektivem Datenversand gelangen Sie in weniger als 30 Minuten von der Verbindungseinrichtung zu einem funktionierenden Extraktions-Skill.
Eine vollständige technische Anleitung finden Sie in der Dokumentation zum Konfigurieren von LLM-Verbindungen und zum Extrahieren von Daten mit promptbasierten Aktivitäten. Was auf der gesamten Plattform möglich ist, erfahren Sie unter abbyy.com/de/ai-document-processing.
Es handelt sich um eine Funktion in ABBYY Vantage, mit der Sie strukturierte Daten über ein angebundenes LLM per Anweisungen in natürlicher Sprache aus Dokumenten extrahieren. Sie definieren Felder und schreiben einen Prompt, der beschreibt, was extrahiert werden soll; das LLM verarbeitet das Dokument und liefert eine strukturierte Ausgabe im festgelegten JSON-Format zurück. Ein Modelltraining ist nicht erforderlich.
Die Plattform enthält derzeit vorgefertigte Verbindungen für OpenAI ChatGPT, Microsoft Foundry und Google AI Studio (Gemini). Weitere Provider lassen sich über die Funktion Custom Activity anbinden, mit der Sie jeden REST-Service von Drittanbietern aus einem Document-Skill heraus aufrufen können.
Gehen Sie in den Bereich Admin, öffnen Sie Configuration und navigieren Sie zu Connections. Klicken Sie auf „Add Connection“, wählen Sie Ihren Provider aus, geben Sie Ihre API-Zugangsdaten ein und führen Sie einen Verbindungstest aus. Sobald der Test erfolgreich ist, steht die Verbindung sofort allen Skill-Designern in Ihrem Mandanten zur Verfügung.
Ja. Der Advanced Designer enthält eine Testumgebung für die Designphase: Führen Sie Prompt-basierte Aktivitäten an realen Dokumenten aus, prüfen Sie die extrahierten Feldwerte und verfeinern Sie Ihren Prompt, bevor der Skill live geht. Sie können mit mehreren Dokumenten testen, um die Konsistenz zu validieren.
Statt bei jeder Anfrage das vollständige Dokument an das LLM zu senden, können Sie die vordefinierten Prompts unter „Extract data from previously extracted fields“ in der Prompt-basierten Aktivität verwenden. In dieser Konfiguration läuft zunächst die OCR von ABBYY und wandelt das Dokument in sauberen, strukturierten Text um. Anschließend senden Sie nur den benötigten Teil dieses Textes an das LLM. Das senkt den Token-Verbrauch, begrenzt die Datenexposition und verbessert die Extraktionsgenauigkeit.
Setzen Sie diesen Ansatz ein, wenn Sie Dokumente mit geringem Volumen und hoher Variabilität verarbeiten; wenn keine gelabelten Trainingsdaten vorliegen; wenn sich Dokumentlayouts zu häufig ändern, als dass ein trainiertes Modell zuverlässig bliebe; oder wenn Sie bestehende ML-Modelle gezielt für Bereiche oder Felder ergänzen möchten, mit denen diese Schwierigkeiten haben. Für Dokumente mit hohem Volumen sowie für strukturierte oder Compliance-kritische Dokumente bleibt die speziell trainierte ML-Extraktion die genauere und kostengünstigere Wahl.
Ja. Sie können Bezeichnungsvarianten in mehreren Sprachen in Ihre Feldregeln aufnehmen (zum Beispiel „IBAN“, „Bankverbindung“ und „Coordonnées bancaires“ als anerkannte Bezeichnungen für dasselbe Feld). LLMs verarbeiten mehrsprachige Inhalte in der Regel gut, und das Format Annotated Text bewahrt die Dokumentstruktur unabhängig von der Sprache.
Slavena Hristova
Director of Product Marketing, Document AI bei ABBYY
Slavena Hristova ist eine erfahrene Expertin für das Produktmarketing, die sich auf KI-gestützte intelligente Dokumentenverarbeitung, OCR und die Automatisierung von Geschäftsprozessen spezialisiert hat. Als Director of Product Marketing bei ABBYY treibt sie die globale Strategie für die Document-AI-Produktlinie voran und gestaltet deren Marktpositionierung, Markteinführung und Kundenakzeptanz.
Mit langjähriger Erfahrung im Produktmarketing und -management überbrückt Slavena Hristova die Lücke zwischen Technologie und Geschäftsanforderungen und ermöglicht Unternehmen, die durch KI forcierte Automatisierung für intelligentere Dokumentenworkflows zu nutzen. Ihre Leidenschaft gilt Innovationen und der sich entwickelnden Rolle künstlicher Intelligenz in der Unternehmensautomatisierung. Sie bringt einen strategischen und ergebnisorientierten Ansatz ein, um die Art und Weise zu verändern, wie Unternehmen ihre Daten verarbeiten und aus ihnen Wert schöpfen.
Folgen Sie Slavena Hristova auf LinkedIn.
