Als Kinder können wir Matheaufgaben aus der Grundschule einfach dadurch lösen, dass wir die Antworten vervollständigen.
Wenn die Arbeit jedoch nicht „vorgeführt“ wurde, zogen die Lehrer Punkte ab; Die richtige Antwort war ohne Erklärung nicht viel wert. Allerdings scheinen diese hohen Standards der Erklärbarkeit in der Langdivision irgendwie nicht für KI-Systeme zu gelten, selbst für solche, die entscheidende Entscheidungen treffen, die sich auf das Leben auswirken.
Die großen KI-Akteure, die heute für Schlagzeilen sorgen und den Börsenrausch anheizen (OpenAI, Google, Microsoft), sind aktiv ihre Plattformen in Modellen Flugschreiber. Eine Anfrage geht in die eine Richtung und eine Antwort kommt in die andere Richtung, aber wir haben keine Ahnung, welche Daten oder Überlegungen die KI verwendet hat, um diese Antwort bereitzustellen.
Die meisten dieser Black-Box-KI-Plattformen basieren auf einem jahrzehntealten technologischen Rahmen, der als „neuronales Netzwerk“ bezeichnet wird. Diese KI-Modelle sind abstrakte Darstellungen der großen Datenmengen, mit denen sie trainiert werden; Sie sind nicht direkt mit den Trainingsdaten verbunden. Deshalb schließen und extrapolieren Black-Box-KIs auf der Grundlage dessen, was sie für die wahrscheinlichste Antwort halten, und nicht auf der Grundlage tatsächlicher Daten.
Manchmal gerät dieser komplexe Vorhersageprozess außer Kontrolle und die KI „flippt aus“. Black-Box-KI ist von Natur aus nicht vertrauenswürdig, da sie für ihre Handlungen nicht zur Verantwortung gezogen werden kann.. Wenn Sie nicht erkennen können, warum oder wie die KI eine Vorhersage trifft, haben Sie keine Möglichkeit zu wissen, ob sie falsche, kompromittierte oder voreingenommene Informationen oder Algorithmen verwendet hat, um zu dieser Schlussfolgerung zu gelangen.
Während neuronale Netze unglaublich leistungsfähig sind und auf dem Vormarsch bleiben, gibt es ein anderes, unter dem Radar stehendes KI-Framework, das immer mehr an Bedeutung gewinnt: instanzbasiertes Lernen (IBL). Und es ist alles, was neuronale Netze nicht sind. IBL ist eine KI, der Benutzer vertrauen, die sie prüfen und die sie erklären können. IBL führt jede Entscheidung auf die Trainingsdaten zurück, die für diese Schlussfolgerung verwendet wurden.
IBL kann jede Entscheidung erklären, da KI kein abstraktes Modell der Daten generiert, sondern Entscheidungen aus den Daten selbst trifft. Und Benutzer können die auf IBL basierende KI prüfen, sie befragen, um herauszufinden, warum und wie sie Entscheidungen getroffen hat, und dann eingreifen, um Fehler oder Voreingenommenheiten zu korrigieren.
All dies funktioniert, weil IBL Trainingsdaten („Instanzen“) im Speicher speichert und in Übereinstimmung mit den Prinzipien der „nächsten Nachbarn“ Vorhersagen über neue Instanzen aufgrund ihrer physischen Beziehung zu vorhandenen Instanzen trifft. IBL ist datenzentriert, sodass einzelne Datenpunkte direkt miteinander verglichen werden können, um Einblicke in den Datensatz und die Vorhersagen zu erhalten. Mit anderen Worten: IBL „zeigt die Arbeit, die Sie leisten.“
Das Potenzial einer solch verständlichen KI ist klar. Unternehmen, Regierungen und alle anderen regulierten Einrichtungen, die KI auf zuverlässige, erklärbare und überprüfbare Weise implementieren möchten, könnten IBL AI nutzen, um Regulierungs- und Compliance-Standards zu erfüllen. IBL AI wird auch besonders nützlich für alle Anwendungen sein, bei denen die Behauptungen voreingenommen sind: Einstellungsverfahren, Hochschulzulassungen, Rechtsfälle usw.
Unternehmen nutzen IBL bereits. Beispielsweise kann ein kommerzielles IBL-Framework erstellt werden, das von Kunden wie großen Finanzinstituten verwendet wird, um Anomalien in Kundendaten zu erkennen und überprüfbare synthetische Daten zu generieren, die der EU-Datenschutzgrundverordnung (DSGVO) entsprechen.
Natürlich ist IBL nicht ohne Herausforderungen. Der größte limitierende Faktor für IBL ist die Skalierbarkeit, die auch eine Herausforderung für neuronale Netze 30 Jahre lang darstellte, bis sie durch moderne Computertechnologie realisierbar wurden. Bei IBL muss jedes Datenelement abgefragt, katalogisiert und im Speicher gespeichert werden, was mit zunehmendem Datensatz schwieriger wird.
Allerdings entwickeln Forscher auf der Grundlage von Fortschritten in der Informationstheorie Schnellabfragesysteme, um diesen Prozess deutlich zu beschleunigen. Diese Spitzentechnologie hat es IBL ermöglicht, direkt mit der rechnerischen Machbarkeit neuronaler Netze zu konkurrieren.
Trotz dieser Herausforderungen ist das Potenzial von IBL klar. Da immer mehr Unternehmen sichere, erklärbare und überprüfbare KI anstreben, werden Black-Box-Neuronale Netze nicht mehr ausreichen. Ein Unternehmen, egal ob kleines Startup oder größeres Unternehmen, sollte mit der Arbeit an IBL-Modellen beginnen, wozu im Folgenden einige Tipps gegeben werden.
Agile und offene Mentalität
Mit IBL funktioniert es am besten, Ihre Daten nach Erkenntnissen zu durchsuchen, die generiert werden können, anstatt ihnen eine bestimmte Aufgabe zuzuweisen, wie zum Beispiel „den optimalen Preis vorherzusagen“ eines Artikels. Seien Sie aufgeschlossen und lassen Sie sich beim Lernen vom IBL leiten. IBL mag sagen, dass es aus einem bestimmten Datensatz keinen optimalen Preis vorhersagen kann, aber es kann die Tageszeiten vorhersagen, zu denen Menschen die meisten Einkäufe tätigen, oder wie sie mit dem Unternehmen kommunizieren und um welche Artikel es sich handelt kaufen.
IBL ist ein agiles KI-Framework, das eine kollaborative Kommunikation zwischen Entscheidungsträgern und Data-Science-Teams erfordert, und nicht das übliche „Wirf eine Frage an den Balken und warte auf ihre Antwort“, die wir heute in vielen Organisationen sehen, die KI implementieren.
„Weniger ist mehr“ für KI-Modelle
Bei der herkömmlichen Black-Box-KI wird ein einzelnes Modell für eine einzelne Aufgabe, beispielsweise die Klassifizierung, trainiert und optimiert. In einem großen Unternehmen könnte dies bedeuten, dass Tausende von KI-Modellen verwaltet werden müssen, was teuer und schwierig zu verwalten ist. Im Gegensatz dazu ermöglicht IBL eine vielseitige Multitasking-Analyse. Beispielsweise kann ein einzelnes IBL-Modell für überwachtes Lernen, Anomalieerkennung und Generierung synthetischer Daten verwendet werden und bietet dennoch eine vollständige Erklärbarkeit.
Dies bedeutet, dass IBL-Benutzer weniger Modelle erstellen und verwalten müssen, was eine agilere und anpassungsfähigere KI-Toolbox ermöglicht. Wenn IBL eingeführt wird, werden Programmierer und Datenwissenschaftler benötigt, aber es besteht keine Notwendigkeit, in Hunderte von leitenden Technikern mit KI-Erfahrung zu investieren.
Kombinieren Sie das KI-Toolset
Neuronale Netze eignen sich hervorragend für alle Anwendungen, die keiner Erklärung oder Prüfung bedürfen. Aber wenn die KI hilft Unternehmen bei der Entscheidungsfindung Wichtige Ereignisse, etwa die Ausgabe von Millionenbeträgen für ein neues Produkt oder der Abschluss einer strategischen Akquisition, müssen erklärbar sein. Und selbst wenn KI für kleinere Entscheidungen wie die Einstellung eines Kandidaten oder die Beförderung einer Person eingesetzt wird, ist die Erklärbarkeit von entscheidender Bedeutung. Niemand möchte erfahren, dass er aufgrund einer unerklärlichen Black-Box-Entscheidung eine Beförderung verpasst hat.
Und Unternehmen werden in solchen Fällen bald mit Rechtsstreitigkeiten konfrontiert sein. Sie müssen KI-Frameworks entsprechend Ihrer Anwendung auswählen; Entscheiden Sie sich für neuronale Netze, wenn Sie nur eine schnelle Datenaufnahme und schnelle Entscheidungsfindung wünschen, und verwenden Sie IBL, wenn zuverlässige, erklärbare und überprüfbare Entscheidungen erforderlich sind.
Instanzbasiertes Lernen ist keine neue Technologie. In den letzten zwei Jahrzehnten haben Informatiker IBL parallel zu neuronalen Netzen entwickelt, IBL hat jedoch weniger öffentliche Aufmerksamkeit erhalten. Jetzt erlangt IBL im anhaltenden KI-Wettrüsten neue Aufmerksamkeit. IBL hat gezeigt, dass es skalierbar ist und gleichzeitig die Erklärbarkeit beibehält: eine willkommene Alternative zu Halluzinationen neuronaler Netze, die falsche, nicht überprüfbare Informationen ausspucken.
Da so viele Unternehmen blind die auf neuronalen Netzen basierende KI einführen, wird es im nächsten Jahr zweifellos zu zahlreichen Datenschutzverletzungen und Klagen wegen Vorwürfen der Voreingenommenheit und Fehlinformationen kommen.
Sobald die Fehler der Black-Box-KI beginnen, den Ruf von Unternehmen zu beeinträchtigen … und ihr Geschäftsergebnis! Hoffentlich erlebt das langsame und stetige IBL seinen Moment des Ruhms. Wir alle haben in der Grundschule gelernt, wie wichtig es ist, „unsere Arbeit zu zeigen“, und wir können sicherlich dieselbe Strenge von der KI verlangen, die über die Richtung unseres Lebens entscheidet.
