Als Elon Musk das Team hinter seinem neuen Unternehmen für künstliche Intelligenz bekannt gab xAI, dessen Mission angeblich darin besteht, „die wahre Natur des Universums zu verstehen“, betonte, wie wichtig es sei, auf existenzielle Bedenken hinsichtlich der Versprechen und Gefahren der KI zu reagieren.
Ob das neu gegründete Unternehmen sein Verhalten wirklich darauf ausrichten kann, die potenziellen Risiken der Technologie zu reduzieren, oder ob sein einziges Ziel darin besteht, sich einen Vorteil gegenüber OpenAI zu verschaffen, wirft seine Gründung wichtige Fragen auf, wie Unternehmen tatsächlich auf Bedenken hinsichtlich KI reagieren sollten. Speziell:
- Wer stellt intern, insbesondere bei größeren Modellunternehmen, wirklich Fragen zu den kurz- und langfristigen Auswirkungen der von ihnen entwickelten Technologie?
- Gehen sie Probleme mit der richtigen Perspektive und Erfahrung an?
- Bringen sie technologische Überlegungen angemessen mit sozialen, moralischen und erkenntnistheoretischen Fragen in Einklang?
Bisher kann man es sich als zwei Räume vorstellen. In einem davon mit Menschen, die tief über Ethik („Was ist richtig und was ist falsch?“), Ontologie („Was ist wirklich da?“) und Erkenntnistheorie („Was wissen wir wirklich?“) nachdenken. Auf der anderen Seite Menschen, die sich mit Algorithmen, Codes und Mathematik beschäftigen.
Diese Kombination ist im Hinblick darauf, wie Unternehmen über KI denken sollten, nicht so unharmonisch. Die Auswirkungen der KI stehen auf dem Spiel und sind existenziell, und Unternehmen müssen ein authentisches Engagement eingehen, das diesen Risiken würdig ist.
Ethische KI erfordert ein tiefes Verständnis dessen, was es gibt, was wir wollen, was wir zu wissen glauben und wie sich Intelligenz entwickelt.
Dies bedeutet, dass Führungsteams angemessen ausgerüstet werden müssen, um die Konsequenzen der von ihnen entwickelten Technologie zu analysieren, was über die natürliche Fachkompetenz von Ingenieuren hinausgeht, die Code schreiben und APIs durchsetzen.
KI ist nicht ausschließlich eine Computer-, Neurowissenschafts- oder Optimierungsherausforderung. Es ist eine menschliche Herausforderung. Um es anzugehen, müssen wir eine dauerhafte Version eines „Treffens der Köpfe zum Thema KI“ einführen, dessen Umfang dem entspricht Das interdisziplinäre Oppenheimer-Treffen in der Wüste von New Mexico in den frühen 1940er Jahren.
Die Kollision des menschlichen Verlangens mit den unbeabsichtigten Folgen der KI führt zu dem, was Forscher das „Ausrichtungsproblem“ nennen, das von Experten in beschrieben wird Brian Christian aus dem Buch „Das Problem der Ausrichtung“. Im Wesentlichen haben Maschinen die Möglichkeit, unsere vollständigsten Anweisungen falsch zu interpretieren, und wir als ihre vermeintlichen Herren haben es kaum geschafft, sie vollständig zu verstehen zu bringen, was wir unserer Meinung nach von ihnen erwarten sollen.
Das Endergebnis: Algorithmen können Voreingenommenheit und Fehlinformationen fördern und somit das Gefüge unserer Gesellschaft zerstören. In einem dystopischeren Langzeitszenario können sie die Entscheidung treffen.tückische Wendung” und die Algorithmen, denen wir zu viel Kontrolle über das Funktionieren unserer Zivilisation überlassen haben, übertreffen uns alle.
Anders als die Herausforderung von Oppenheimer, der ein Wissenschaftler war, erfordert ethische KI ein tiefes Verständnis dessen, was existiert, was wir wollen, was wir zu wissen glauben und wie sich Intelligenz entwickelt. Dabei handelt es sich um eine Aufgabe, die sicherlich analytischer Natur ist, wenn auch nicht streng wissenschaftlich. Es erfordert einen integrativen Ansatz, der auf kritischem Denken sowohl aus den Geistes- als auch aus den Naturwissenschaften basiert.
Denker aus verschiedenen Bereichen müssen heute mehr denn je eng zusammenarbeiten. Das ideale Team für ein Unternehmen, das dies tun möchte, könnte tatsächlich sein:
- Leiter KI und Datenethik: Diese Person würde sich mit kurz- und langfristigen Problemen im Zusammenhang mit Daten und KI befassen, einschließlich, aber nicht beschränkt auf die Formulierung und Übernahme datenethischer Grundsätze, die Entwicklung von Referenzarchitekturen für deren ethische Nutzung und die Rechte der Bürger hinsichtlich der Art und Weise, wie sie Daten konsumieren Daten, die von der KI verwendet werden, und Protokolle, um das Verhalten der KI richtig zu gestalten und zu steuern. Dies sollte vom Chief Technology Officer getrennt sein, dessen Aufgabe hauptsächlich darin besteht, einen Technologieplan auszuführen und nicht auf seine Auswirkungen einzugehen. Es handelt sich um eine hochrangige Position im Stab des CEO, die die Kommunikationslücke zwischen internen Entscheidungsträgern und Regulierungsbehörden schließt. Man kann einen Datenethiker nicht von einem führenden KI-Ethiker trennen: Daten sind die Voraussetzung und der Treibstoff für KI. KI selbst generiert neue Daten.
- Chefphilosoph-Architekt: Diese Rolle würde sich mit langfristigen existenziellen Anliegen befassen und sich in erster Linie auf das „Alignment-Problem“ konzentrieren: wie man Schutzmaßnahmen, Richtlinien, Hintertüren und Kill-Switches definiert, damit die KI so genau wie möglich an den menschlichen Bedürfnissen und Zielen ausgerichtet ist. . .
- Chef-Neurowissenschaftler: Diese Person würde sich mit kritischen Fragen zum Empfindungsvermögen und zur Entwicklung von Intelligenz in KI-Modellen befassen, welche Modelle der menschlichen Kognition für die KI-Entwicklung am relevantesten und nützlichsten sind und was KI uns über die menschliche Kognition lehren kann.
Um den Output des Dreamteams in verantwortungsvolle und effektive Technologie umzuwandeln, brauchen wir grundsätzlich Technologen, die abstrakte Konzepte und Fragen der „Drei“ in funktionierende Software übersetzen können. Wie bei allen Technologiegruppen hängt dies davon ab, dass der Produktleiter/Designer das Gesamtbild sieht.
Eine neue Generation erfinderischer Produktführer im „Zeitalter der KI“ muss sich bequem durch neue Schichten technologischer Infrastrukturen bewegen, die die Modellinfrastruktur für KI sowie neue Dienste für Dinge wie Modelloptimierung und -entwicklung umfassen. patentiert. Sie müssen erfinderisch genug sein, um sich „Human in the Loop“-Arbeitsabläufe vorzustellen und zu entwerfen, um Schutzmaßnahmen, Hintertüren und Notausschalter zu implementieren, wie vom Chefarchitekten des Philosophen vorgeschrieben. Sie müssen über die Fähigkeit eines Renaissance-Ingenieurs verfügen, die Richtlinien und Protokolle des KI- und Datenethik-Chefs in funktionierende Systeme zu übersetzen. Sie müssen die Bemühungen des Chef-Neurowissenschaftlers würdigen, sich zwischen Maschinen und Geist zu bewegen und Erkenntnisse angemessen zu erkennen, die das Potenzial haben, zu einer intelligenteren und verantwortungsvolleren KI zu führen.
Betrachten wir OpenAI als eines der ersten Beispiele für ein grundlegendes, äußerst einflussreiches und gut entwickeltes Modellunternehmen, das mit dieser Personalherausforderung zu kämpfen hat: Sie haben eine der leitende Wissenschaftler (der auch Mitbegründer ist), a Leiter der globalen Politik und Generalrat.
Ohne die drei oben beschriebenen Positionen in Führungspositionen bleiben jedoch die größten Fragen zu den Auswirkungen ihrer Technologie unbeantwortet. Wenn Sam Altman es ist besorgt Wenn es darum geht, die Behandlung und Koordination der Superintelligenz umfassend und durchdacht anzugehen, ist der Aufbau einer ganzheitlichen Ausrichtung ein guter Ausgangspunkt.
Wir müssen eine verantwortungsvollere Zukunft aufbauen, in der Unternehmen vertrauenswürdige Verwalter der Daten der Menschen sind und in der KI-gesteuerte Innovation ein Synonym für Gutes ist. In der Vergangenheit waren Rechtsteams in Fragen des Datenschutzes führend, aber die Klügsten erkennen, dass sie die Probleme der ethischen Datennutzung im Zeitalter der KI nicht alleine lösen können.
Nur wenn wir unterschiedliche, aufgeschlossene Perspektiven an den Ort bringen, an dem Entscheidungen getroffen werden, können ethische Daten und künstliche Intelligenz im Dienste des menschlichen Gedeihens entstehen und gleichzeitig die Maschinen an ihrem Platz bleiben.
