Das Rätsel der Black Box: Warum wir KI verstehen müssen

Schätzungen zufolge könnten bis 2030 KI-Technologien die globale Wirtschaftsleistung um bis zu 15,7 Billionen US-Dollar steigern, ein Potenzial, das von Unternehmen und Regierungen weltweit mit großer Dringlichkeit verfolgt wird. Doch mit dieser rasanten Entwicklung wächst auch die Besorgnis über die Intransparenz vieler moderner KI-Systeme.

Das Rätsel der Black Box: Warum wir KI verstehen müssen

Künstliche Intelligenz (KI) hat sich in den letzten Jahren von einem Nischenforschungsfeld zu einer allgegenwärtigen Technologie entwickelt. Sie treibt alles an, von personalisierten Empfehlungssystemen auf Streaming-Plattformen bis hin zu komplexen Diagnosesystemen in der Medizin und autonomen Fahrzeugen auf unseren Straßen. Doch ein fundamentales Problem bleibt bestehen: Viele der fortschrittlichsten KI-Modelle, insbesondere tiefe neuronale Netze, funktionieren wie eine "Black Box". Das bedeutet, dass selbst die Entwickler oft nicht genau nachvollziehen können, wie oder warum eine KI eine bestimmte Entscheidung getroffen hat. Diese Intransparenz birgt erhebliche Risiken, die weit über technische Schwierigkeiten hinausgehen und tiefgreifende ethische und gesellschaftliche Fragen aufwerfen.

Die Notwendigkeit, die Entscheidungsprozesse von KI-Systemen zu verstehen, ist nicht nur eine akademische Übung. Sie ist essenziell, um Vertrauen in diese Technologien aufzubauen, ihre Zuverlässigkeit zu gewährleisten und sicherzustellen, dass sie im Einklang mit menschlichen Werten und rechtlichen Rahmenbedingungen agieren. Ohne Erklärbarkeit sind wir anfällig für unbeabsichtigte Diskriminierung, fehlerhafte Urteile mit gravierenden Konsequenzen und den Verlust der menschlichen Kontrolle über mächtige autonome Systeme.

Die wachsende Komplexität und ihr Preis

Je leistungsfähiger und komplexer KI-Modelle werden, desto undurchsichtiger werden ihre internen Mechanismen. Moderne Modelle können Milliarden von Parametern umfassen, die in einem komplexen Netzwerk miteinander interagieren. Dieses Zusammenspiel, das für die hohe Genauigkeit und Lernfähigkeit dieser Modelle verantwortlich ist, macht eine einfache kausale Erklärung nahezu unmöglich. Das Verstehen dieser "Black Boxes" ist daher eine der drängendsten Herausforderungen für die Zukunft der KI.

Warum ist Erklärbarkeit wichtig?

Die Bedeutung der Erklärbarkeit lässt sich in mehreren Schlüsselbereichen verdeutlichen:

• Vertrauen und Akzeptanz: Menschen werden KI-Systemen eher vertrauen und sie akzeptieren, wenn sie verstehen, wie sie funktionieren und warum sie bestimmte Ergebnisse liefern.
• Fehlererkennung und -behebung: Wenn ein KI-System Fehler macht, ist das Verständnis seiner Logik entscheidend, um die Ursache zu identifizieren und das Problem zu beheben.
• Regulierung und Rechenschaftspflicht: In vielen Sektoren, wie dem Finanzwesen oder dem Gesundheitswesen, sind gesetzliche Vorschriften vorhanden, die eine nachvollziehbare Entscheidungsfindung erfordern. Wer ist verantwortlich, wenn eine KI einen Fehler macht?
• Bias und Fairness: Erklärbare KI kann helfen, verborgene Vorurteile (Bias) in den Trainingsdaten oder im Modell selbst aufzudecken und zu korrigieren, um diskriminierende Ergebnisse zu vermeiden.

Der Aufstieg der Black Box: Von einfachen Algorithmen zu komplexen neuronalen Netzen

Um die heutige Black-Box-Problematik zu verstehen, ist es hilfreich, einen Blick auf die evolutionäre Entwicklung von KI-Algorithmen zu werfen. Frühe KI-Systeme basierten oft auf regelbasierten Ansätzen oder einfachen statistischen Modellen. Diese waren zwar in ihrer Leistungsfähigkeit begrenzt, aber auch weitgehend transparent.

Ein typisches Beispiel für ein solches System war ein Expertensystem, das auf einer Reihe von „Wenn-Dann“-Regeln basierte. Wenn ein bestimmtes Kriterium erfüllt war, folgte eine vordefinierte Aktion. Die Entscheidungsfindung war linear und leicht nachzuvollziehen. Auch einfache Entscheidungsbäume, die Entscheidungen in einer hierarchischen Struktur abbilden, sind verhältnismäßig leicht zu interpretieren.

Lineare Modelle und Entscheidungsbäume

Algorithmen wie die lineare Regression oder logistische Regression sind mathematisch fundiert und ihre Funktionsweise ist klar. Der Einfluss jeder einzelnen Variable auf das Ergebnis ist quantifizierbar. Entscheidungsbäume zerlegen komplexe Probleme in eine Reihe von einfachen Ja/Nein-Fragen, deren Pfad zum Endergebnis die Entscheidungslogik offenlegt. Diese Modelle bilden die Grundlage für viele traditionelle maschinelle Lernanwendungen und sind oft die erste Wahl, wenn Interpretierbarkeit oberste Priorität hat.

Der Sprung zu komplexen Architekturen

Der eigentliche Wandel hin zur "Black Box" begann mit dem Aufkommen von maschinellen Lernmodellen, die in der Lage waren, hochkomplexe Muster in großen Datenmengen zu erkennen. Insbesondere tiefe neuronale Netze (Deep Learning) haben zu einem Paradigmenwechsel geführt. Diese Modelle sind von der Struktur des menschlichen Gehirns inspiriert und bestehen aus mehreren Schichten von künstlichen Neuronen, die miteinander verbunden sind. Jede Schicht verarbeitet die Informationen der vorherigen Schicht und leitet sie an die nächste weiter. Die riesige Anzahl von Parametern und die nicht-linearen Transformationen, die in diesen Schichten stattfinden, machen es extrem schwierig, die genauen Beiträge einzelner Eingaben zum Endergebnis zu isolieren und zu interpretieren.

Dieser Sprung in der Komplexität ermöglichte beispiellose Fortschritte in Bereichen wie Bilderkennung, natürliche Sprachverarbeitung und Sprachsynthese. Doch der Preis dafür war ein erheblicher Verlust an Transparenz. Die Black-Box-Natur vieler moderner KI-Systeme ist also nicht ein beabsichtigtes Designmerkmal, sondern eine Nebenwirkung der Architekturen, die für ihre beeindruckende Leistungsfähigkeit notwendig sind.

Herausforderungen der Erklärbarkeit: Technologische und konzeptionelle Hürden

Die Erforschung der Erklärbaren KI (Explainable AI, XAI) ist ein aktives und komplexes Forschungsfeld. Die Herausforderungen sind vielfältig und reichen von rein technischen Problemen bis hin zu tiefgreifenden konzeptionellen Fragen darüber, was "Erklärung" überhaupt bedeutet und für wen sie bestimmt ist.

Eine der grundlegendsten Schwierigkeiten liegt in der schieren Größe und Komplexität vieler KI-Modelle. Wie bereits erwähnt, können tiefe neuronale Netze Milliarden von Parametern haben. Das detaillierte Nachzeichnen jeder einzelnen Interaktion, die zu einer bestimmten Ausgabe führt, ist rechnerisch oft unmöglich und für einen Menschen auch kaum verständlich.

Die Natur von Erklärung

Was genau verstehen wir unter einer "Erklärung"? Eine Erklärung für einen Experten in maschinellem Lernen mag sich stark von der unterscheiden, die ein Endnutzer, ein Regulierungsbeamter oder ein von einer KI-Entscheidung Betroffener benötigt. Eine technische Erklärung könnte sich auf die Gewichte bestimmter Neuronen oder die Aktivierungsmuster in verschiedenen Schichten konzentrieren. Eine menschlichere Erklärung müsste die Entscheidung in verständlichen Begriffen formulieren, die Relevanz von Eingabemerkmalen hervorheben und die Unsicherheit der Vorhersage kommunizieren.

Darüber hinaus besteht oft ein Trade-off zwischen der Leistung eines Modells und seiner Erklärbarkeit. Einfachere, interpretierbare Modelle sind oft weniger genau bei der Bewältigung komplexer, nuancierter Aufgaben als ihre Black-Box-Pendants. Die Suche nach Methoden, die sowohl hohe Leistung als auch gute Erklärbarkeit bieten, ist daher ein zentrales Ziel der XAI-Forschung.

Datenabhängigkeit und Verzerrungen (Bias)

Ein weiteres kritisches Problem ist die Abhängigkeit von Trainingsdaten. KI-Modelle lernen Muster aus den Daten, mit denen sie trainiert werden. Wenn diese Daten Verzerrungen enthalten, sei es aufgrund historischer Diskriminierung, unvollständiger Erfassung oder anderer Faktoren, wird das Modell diese Verzerrungen lernen und replizieren. Die Identifizierung und Korrektur solcher Bias ist ohne ein gewisses Maß an Erklärbarkeit extrem schwierig.

Diese Daten verdeutlichen den typischen Kompromiss: Tiefe neuronale Netze erreichen oft die höchste Leistung, sind aber am wenigsten interpretierbar. Die Herausforderung besteht darin, die Leistung komplexer Modelle zu erreichen und gleichzeitig die nachvollziehbare Funktionsweise einfacherer Modelle zu gewährleisten.

Die Grenzen der Kausalität

Selbst wenn wir die Korrelationen verstehen, die ein KI-Modell identifiziert, bedeutet das nicht unbedingt, dass wir die kausale Beziehung verstanden haben. Ein KI-Modell könnte feststellen, dass ein bestimmtes Merkmal stark mit einem positiven Ergebnis korreliert, aber die tatsächliche Ursache für dieses Ergebnis könnte eine andere sein, die mit dem ersten Merkmal verknüpft ist. Das Erkennen von Kausalität ist eine der anspruchsvollsten Aufgaben, sowohl für menschliche als auch für künstliche Intelligenz.

Methoden zur Erschließung der Black Box: Techniken der Erklärbaren KI (XAI)

Die Forschung im Bereich Erklärbare KI (XAI) hat eine Reihe von Techniken entwickelt, um das Innenleben von Black-Box-Modellen besser zu verstehen. Diese Methoden lassen sich grob in zwei Hauptkategorien einteilen: die Entwicklung von intrinsisch interpretierbaren Modellen und die Anwendung von Post-hoc-Erklärungsmethoden, die auf bereits trainierte Black-Box-Modelle angewendet werden.

Intrinsisch interpretierbare Modelle

Der direkteste Weg zur Erklärbarkeit ist die Verwendung von Modellen, die von Natur aus transparent sind. Dazu gehören:

• Lineare und logistische Regression: Wie bereits erwähnt, sind diese Modelle einfach zu interpretieren, da die Koeffizienten die Richtung und Stärke des Einflusses jeder Variable auf die Ausgabe direkt anzeigen.
• Entscheidungsbäume: Ihre baumartige Struktur ermöglicht es, den Entscheidungsprozess Schritt für Schritt zu verfolgen.
• Regelbasierte Systeme: Diese Systeme verwenden explizite "Wenn-Dann"-Regeln, die leicht verständlich sind.
• Generalisierte additive Modelle (GAMs): Diese erweitern lineare Modelle, indem sie nicht-lineare Beziehungen für jede Variable zulassen, aber die Effekte jeder Variable separat darstellen, was die Interpretation erleichtert.

Obwohl diese Modelle einfacher zu verstehen sind, stoßen sie oft an ihre Grenzen, wenn es um hochkomplexe Daten und Muster geht, bei denen tiefe neuronale Netze ihre Stärken ausspielen.

Post-hoc-Erklärungsmethoden

Für viele fortschrittliche Modelle, insbesondere tiefe neuronale Netze, ist die Verwendung von Post-hoc-Methoden unerlässlich. Diese Techniken versuchen, die Entscheidungen eines bereits trainierten Black-Box-Modells zu analysieren und zu erklären, ohne das Modell selbst zu verändern.

• LIME (Local Interpretable Model-agnostic Explanations): LIME erstellt lokale, interpretierbare Modelle (oft lineare Modelle), die die Vorhersage des Black-Box-Modells in der unmittelbaren Nachbarschaft einer spezifischen Dateninstanz approximieren. Dies hilft zu verstehen, welche Merkmale für eine bestimmte Vorhersage am wichtigsten waren.
• SHAP (SHapley Additive exPlanations): SHAP-Werte basieren auf der Spieltheorie und weisen jeder einzelnen Funktion einen fairen Anteil am Unterschied zwischen der Vorhersage und dem Basiswert zu. Sie bieten eine konsistente und theoretisch fundierte Methode, um die Beiträge von Merkmalen zu verstehen, sowohl lokal als auch global.
• Aufmerksamkeitsmechanismen (Attention Mechanisms): Diese werden oft in Modellen für natürliche Sprachverarbeitung und Bilderkennung verwendet und "lernen", welche Teile der Eingabe für die Vorhersage am relevantesten sind, indem sie diesen Teilen mehr "Aufmerksamkeit" schenken.
• Gradientenbasierte Methoden: Techniken wie Saliency Maps oder Grad-CAM visualisieren, welche Bereiche eines Bildes oder Textes für die Klassifizierung durch ein neuronales Netz am wichtigsten waren, indem sie die Gradienten des Ausgabesignals in Bezug auf die Eingabe analysieren.

Diese Post-hoc-Methoden sind mächtig, aber es ist wichtig zu erkennen, dass sie Annäherungen und Interpretationen sind. Sie können nicht immer die vollständige kausale Kette eines komplexen Modells abbilden, sondern liefern Hinweise und Einblicke. Die Wahl der geeigneten XAI-Methode hängt stark vom Anwendungsfall, dem Modell und dem Zielpublikum der Erklärung ab.

Ethische Implikationen: Fairness, Transparenz und Verantwortlichkeit in der KI

Die Notwendigkeit der Erklärbarkeit ist untrennbar mit tiefgreifenden ethischen Fragestellungen verbunden. Wenn KI-Systeme Entscheidungen treffen, die das Leben von Menschen beeinflussen – sei es bei der Kreditvergabe, bei der Einstellung oder bei strafrechtlichen Bewertungen – müssen diese Entscheidungen fair, nachvollziehbar und verantwortungsbewusst sein.

Fairness und Diskriminierung

Eine der größten ethischen Herausforderungen ist die Vermeidung von Diskriminierung. KI-Modelle, die mit historischen Daten trainiert wurden, können unbewusst bestehende gesellschaftliche Ungleichheiten und Vorurteile (Bias) übernehmen und verstärken. Wenn ein KI-System beispielsweise eine höhere Wahrscheinlichkeit für Kreditrückzahlungen bei bestimmten demografischen Gruppen feststellt, die historisch benachteiligt waren, kann dies zu einer fortgesetzten Diskriminierung führen, selbst wenn die expliziten diskriminierenden Merkmale nicht verwendet werden.

Erklärbare KI spielt hier eine entscheidende Rolle. Durch die Analyse, welche Merkmale ein Modell für seine Entscheidungen priorisiert, können wir aufdecken, ob es auf unerwünschte oder diskriminierende Korrelationen zurückgreift. Techniken wie SHAP oder LIME können aufzeigen, welche Faktoren – beispielsweise Postleitzahl, die indirekt auf ethnische Zugehörigkeit hindeuten kann – einen übermäßigen Einfluss auf die Kreditwürdigkeit haben.

Transparenz als Grundlage für Vertrauen

Transparenz ist nicht nur eine technische Anforderung, sondern eine ethische Grundvoraussetzung für das Vertrauen in KI. Wenn Nutzer, Aufsichtsbehörden und die Öffentlichkeit verstehen, wie KI-Systeme funktionieren, steigt die Akzeptanz und das Vertrauen. Ohne Transparenz besteht die Gefahr, dass KI als eine undurchsichtige, potenziell manipulative Macht wahrgenommen wird.

Die GDPR (Datenschutz-Grundverordnung) in Europa erkennt dieses Bedürfnis an, indem sie ein "Recht auf Erklärung" für automatisierte Entscheidungen impliziert. Dieses Recht soll sicherstellen, dass Einzelpersonen verstehen können, wie eine Entscheidung, die sie betrifft, getroffen wurde, und gegebenenfalls Widerspruch einlegen können.

Verantwortlichkeit und Rechenschaftspflicht

Wer ist verantwortlich, wenn eine autonome KI einen Fehler macht? Ist es der Entwickler, der Betreiber, der Nutzer oder das KI-System selbst? Die Black-Box-Natur vieler KI-Systeme erschwert die Zuweisung von Verantwortlichkeit erheblich.

Erklärbarkeit ist hier ein entscheidender Baustein. Wenn wir nachvollziehen können, warum eine KI eine bestimmte Entscheidung getroffen hat, können wir die Ursache des Fehlers identifizieren. War es ein fehlerhaftes Modell, mangelhafte Trainingsdaten, eine Fehlinterpretation durch den Nutzer oder ein unerwartetes Umfeld? Nur durch das Verständnis des Entscheidungsprozesses kann eine faire und angemessene Rechenschaftspflicht etabliert werden.

Die ethischen Herausforderungen rund um KI sind immens und erfordern einen proaktiven und verantwortungsbewussten Ansatz. Erklärbare KI ist dabei kein Allheilmittel, aber ein unverzichtbares Werkzeug, um diese Herausforderungen zu bewältigen und sicherzustellen, dass KI zum Wohle der Gesellschaft eingesetzt wird.

Die Zukunft der Erklärbaren KI: Regulierung, Standardisierung und die Rolle des Menschen

Die Reise zur Erklärbarkeit von KI ist noch lange nicht zu Ende. Die Zukunft wird maßgeblich von regulatorischen Rahmenbedingungen, der Entwicklung von Standards und einer klaren Definition der menschlichen Rolle im Zusammenspiel mit KI geprägt sein.

Regulierung und Gesetzgebung

Weltweit wächst das Bewusstsein für die Notwendigkeit einer stärkeren Regulierung von KI. Gesetze und Richtlinien beginnen, die Anforderungen an Transparenz und Rechenschaftspflicht zu konkretisieren. Die bereits erwähnte EU-Datenschutz-Grundverordnung (DSGVO) ist ein frühes Beispiel dafür, wie rechtliche Rahmenbedingungen Einfluss auf die Entwicklung und den Einsatz von KI nehmen. Zukünftige Gesetze, wie der AI Act der Europäischen Union, zielen darauf ab, KI-Systeme basierend auf ihrem Risikoprofil zu klassifizieren und strenge Anforderungen an hochriskante Anwendungen zu stellen, einschließlich der Notwendigkeit von Transparenz und menschlicher Aufsicht.

Diese Regulierungen werden die Nachfrage nach XAI-Techniken weiter antreiben und Unternehmen dazu zwingen, ihre KI-Systeme nachvollziehbarer zu gestalten. Die Herausforderung für Gesetzgeber wird darin bestehen, ein Gleichgewicht zwischen der Förderung von Innovation und dem Schutz der Bürger zu finden, ohne übermäßige bürokratische Hürden zu schaffen.

Standardisierung und Best Practices

Mit der zunehmenden Reife des Feldes werden auch Standards und Best Practices für XAI erforderlich sein. Dies könnte die Entwicklung gemeinsamer Metriken zur Bewertung der Erklärbarkeit, Richtlinien für die Dokumentation von KI-Modellen und Empfehlungen für die Implementierung von XAI-Techniken in verschiedenen Branchen umfassen.

Organisationen wie das National Institute of Standards and Technology (NIST) in den USA arbeiten bereits an Frameworks zur Bewertung und Steuerung von KI-Risiken, die auch Aspekte der Erklärbarkeit berücksichtigen. Die Schaffung von Industriestandards wird dazu beitragen, die Interoperabilität von XAI-Tools zu verbessern und ein gemeinsames Verständnis darüber zu etablieren, was eine gute Erklärung ausmacht.

Die Rolle des Menschen im KI-Ökosystem

Trotz der Fortschritte bei der Automatisierung und der KI-Leistung wird die menschliche Komponente im KI-Ökosystem von entscheidender Bedeutung bleiben. XAI ist letztlich dazu da, den Menschen zu befähigen. Das bedeutet nicht, dass jeder Mensch verstehen muss, wie ein neuronales Netz im Detail funktioniert. Vielmehr geht es darum, dass die relevanten Stakeholder – von den Entwicklern und Betreibern bis hin zu den Nutzern und Aufsichtsbehörden – die Informationen erhalten, die sie benötigen, um KI-Systeme zu steuern, zu validieren und ihnen zu vertrauen.

Die Zukunft der Erklärbaren KI wird eine kontinuierliche Entwicklung sein, die von technologischen Fortschritten, regulatorischen Anforderungen und einem vertieften Verständnis für die ethischen und gesellschaftlichen Auswirkungen von KI angetrieben wird. Die zentrale Frage wird sein, wie wir sicherstellen können, dass KI ein Werkzeug bleibt, das uns dient und nicht dominiert.

Fallstudien und Anwendungsbereiche: Wo Erklärbarkeit den Unterschied macht

Die Prinzipien der Erklärbaren KI sind nicht nur theoretische Konzepte, sondern finden bereits heute in zahlreichen Anwendungsbereichen praktische Anwendung und machen dort einen entscheidenden Unterschied aus. Die Notwendigkeit der Nachvollziehbarkeit ist in Branchen mit hohen Einsätzen besonders ausgeprägt.

Gesundheitswesen

In der Medizin kann die KI bei der Diagnose von Krankheiten, der Vorhersage von Behandlungsverläufen oder der Analyse von medizinischen Bildern helfen. Wenn eine KI beispielsweise eine Krebserkrankung diagnostiziert, ist es für Ärzte und Patienten unerlässlich zu verstehen, auf welchen Merkmalen der Bildgebung oder der Patientendaten die Diagnose beruht. Dies ermöglicht es den Ärzten, die KI-Empfehlung kritisch zu prüfen, alternative Diagnosen in Betracht zu ziehen und das Vertrauen des Patienten in den Prozess zu stärken. KI-Systeme, die erklären, welche Bereiche eines Röntgenbildes auffällig sind oder welche Symptome am stärksten zur Diagnose beitragen, sind hier von unschätzbarem Wert.

Eine Studie der Reuters berichtete kürzlich über den Einsatz von KI zur schnelleren Erkennung von Netzhauterkrankungen, wobei die Erklärbarkeit der Algorithmen entscheidend für die Akzeptanz durch die Mediziner war.

Finanzwesen

Im Banken- und Finanzsektor ist die Erklärbarkeit von KI-gestützten Entscheidungen oft gesetzlich vorgeschrieben. Bei der Kreditvergabe muss beispielsweise offengelegt werden können, warum ein Kreditantrag abgelehnt wurde. Dies ist nicht nur eine Frage der Transparenz gegenüber dem Kunden, sondern auch der Einhaltung von Anti-Diskriminierungsgesetzen. KI-Modelle, die zur Betrugserkennung eingesetzt werden, müssen ebenfalls nachvollziehbar machen, welche Transaktionsmuster auf betrügerische Aktivitäten hindeuten, um Fehlalarme zu minimieren und die Effizienz zu steigern.

Die Europäische Bankenaufsichtsbehörde (EBA) hat in ihren Leitlinien zur Auslagerung von IT-Risiken betont, wie wichtig die Nachvollziehbarkeit von KI-Modellen für die Beaufsichtigung von Finanzinstituten ist.

Autonomes Fahren

Obwohl autonome Fahrzeuge noch nicht flächendeckend im Einsatz sind, ist die Erklärbarkeit ihrer Entscheidungsprozesse von zentraler Bedeutung für die Sicherheit und die rechtliche Klärung im Falle von Unfällen. Wenn ein autonomes Fahrzeug in einen Unfall verwickelt ist, müssen die genauen Gründe für seine Aktionen verstanden werden. Hat das System die Verkehrsschilder korrekt interpretiert? Wie hat es auf eine plötzliche Gefahrensituation reagiert? Die Analyse von Fahrdaten und die Fähigkeit, die "Gedankenprozesse" des Fahrzeugs nachzuvollziehen, sind entscheidend für die Verbesserung der Technologie und die Zuweisung von Verantwortung.

Recht und Strafverfolgung

In der Justiz und Strafverfolgung werden KI-Systeme zunehmend für die Analyse von Beweismitteln, die Risikobewertung von Straftätern oder die Vorhersage von Kriminalitätsschwerpunkten eingesetzt. Hier sind die ethischen Implikationen besonders hoch. Ein KI-System, das eine höhere Rückfallwahrscheinlichkeit vorhersagt, muss transparent machen, auf welchen Faktoren diese Vorhersage beruht, um eine faire Behandlung und die Vermeidung von Voreingenommenheit zu gewährleisten. Fehler hier können gravierende Folgen für die Freiheit von Individuen haben.

Das Konzept der Erklärbarkeit ist eng mit der Idee der "AI Accountability" verknüpft, die sich mit der Frage beschäftigt, wie wir sicherstellen können, dass KI-Systeme nicht nur leistungsfähig, sondern auch verantwortlich agieren.