Künstliche Intelligenz wird häufig daran gemessen, wie viele Fragen sie beantworten und wie präzise ihre Vorhersagen sind. Doch ein entscheidendes Merkmal zuverlässiger KI-Systeme wird dabei leicht übersehen: die Fähigkeit zu erkennen, wann eine Antwort nicht ausreichend abgesichert ist.
Ein intelligentes System sollte nicht unter allen Umständen eine Antwort erzeugen müssen. Wenn die verfügbaren Daten unvollständig, widersprüchlich oder außerhalb des bekannten Einsatzbereichs liegen, kann es verantwortungsvoller sein, eine Vorhersage zurückzustellen und weitere Prüfung anzufordern.
Warum Unsicherheit Teil der Systemarchitektur sein muss
Viele KI-Modelle erzeugen Ergebnisse auch dann, wenn die Eingabedaten keine ausreichend zuverlässige Schlussfolgerung erlauben. Eine ausgegebene Wahrscheinlichkeit oder ein überzeugend formulierter Text bedeutet jedoch nicht automatisch, dass das Ergebnis korrekt ist.
Deshalb müssen Entwickler zwischen mehreren Konzepten unterscheiden:
- Unsicherheitsschätzung: Wie sicher ist das System hinsichtlich seiner eigenen Vorhersage?
