Vertrauenswürdige KI: Halluzinationen vermeiden

Gastbeitrag:

Künstliche Intelligenz liefert heute in vielen Anwendungsbereichen eindrucksvolle Ergebnisse. Deren Nutzbarkeit wird aber insbesondere in geschäftskritischen Prozessen durch das sogenannte Halluzinieren eingeschränkt: Dabei generieren KI-Modelle Resultate, die zwar überzeugend wirken, aber sachlich falsch oder nicht belastbar sind. Thomas Uber, Geschäftsführer der applord GmbH, erläutert, wie Unternehmen dieses Risiko mit geeigneten Maßnahmen weitgehend verhindern können.

Warum halluziniert KI?

Halluzinationen entstehen, weil KI-Modelle keine Fakten verstehen oder deren Wahrheitsgehalt überprüfen. Stattdessen erzeugen sie Ausgaben auf Basis erlernter Muster und statistischer Wahrscheinlichkeiten. Da dieser Prozess – abhängig von den Einstellungen – unterschiedliche Ergebnisse liefern kann, steigt auch das Risiko fehlerhafter oder erfundener Resultate. Dies gilt besonders für Large Language Models (LLMs) wie ChatGPT.

Auch im Rahmen der intelligenten Dokumentenverarbeitung (Intelligent Document Processing, IDP) kann eine KI halluzinieren, etwa wenn Dokumente nicht richtig erkannt bzw. deren Daten falsch ausgelesen werden. Dies ist oft eine Folge des Trainings der KI mit unvollständigen oder veralteten Daten.

Hohe Datenqualität sicherstellen

Daher ist die Qualität der Daten, auf die ein KI-Modell im Training und Betrieb zugreift, ein wesentlicher Faktor, um Halluzinationen zu beeinflussen. Denn vollständige, aktuelle und verlässliche Daten schaffen eine belastbare Wissensgrundlage und verringern das Risiko, dass Modelle Informationslücken mit erfundenen Inhalten füllen. Umgekehrt führen unvollständige, veraltete oder fehlerhafte Daten häufiger zu unzutreffenden oder erfundenen Ergebnissen (Stichwort: Garbage In, Garbage Out).

Maßnahmen zur Absicherung von KI-Ergebnissen

Neben der Bereitstellung hochwertiger Daten sollten KI-Ergebnisse grundsätzlich durch geeignete Kontrollmechanismen abgesichert werden. In der Praxis hat sich dafür eine Kombination mehrerer Verfahren bewährt.

Den ersten Baustein bilden Plausibilitätsprüfungen. Dabei werden KI-Ergebnisse anhand fachlicher und logischer Regeln oder externer Referenzdaten validiert. So darf etwa im Rahmen der Rechnungsverarbeitung das Ausstellungsdatum nicht in der Zukunft liegen, und Nettobetrag und Umsatzsteuer müssen gemeinsam den Bruttobetrag bilden. Widersprüche, fehlende Angaben oder offensichtlich unlogische Resultate lassen sich so frühzeitig erkennen. Ergänzend zeigen Confidence Scores auf, wie hoch KI-Modelle die Zuverlässigkeit ihrer Ausgaben einschätzen.

Eine weitere Möglichkeit besteht darin, im Sinne der IntegrityGuardian-Technologie dieselbe Aufgabe parallel von einem zweiten, unabhängigen KI-Modell bearbeiten zu lassen und beide Ergebnisse miteinander zu vergleichen.

Treten bei diesen automatisierten Prüfprozessen Unstimmigkeiten auf, kommt der Mensch ins Spiel („Human in the Loop“). Mitarbeitende prüfen die Ergebnisse der KI und korrigieren sie bei Bedarf. Dies ist insbesondere bei kritischen Anwendungen empfehlenswert. Dadurch sinkt das Fehlerrisiko und zugleich lernt die KI anhand der Rückmeldungen kontinuierlich dazu, sodass ihre Ergebnisse stetig zuverlässiger werden. Auf diese Weise entwickelt sich KI zu einem kontrollierbaren Instrument, das menschliche Expertise produktiv ergänzt, statt sie zu ersetzen.

Fazit

Halluzinationen sind eine systembedingte Herausforderung beim Einsatz von KI, aber kein Grund, auf deren Nutzung zu verzichten. Entscheidend ist, KI nicht als unfehlbares Werkzeug zu betrachten, sondern als leistungsfähige Technologie, deren Ergebnisse gezielt abgesichert werden müssen. Wer hohe Datenqualität, technische Prüfmechanismen und menschliche Kontrolle geschickt miteinander kombiniert, schafft die Grundlage für einen verlässlichen und verantwortungsvollen KI-Einsatz.

 

Bildhinweis: KI-generiertes Illustrationsbild. Das Motiv dient ausschließlich der visuellen Unterstützung des redaktionellen Beitrags und stellt keine reale Szene oder Person dar.