Können „wir die Menschen“ die KI in Schach halten?

Technologe und Forscher Aviv Ovadia Er ist sich nicht sicher, ob die generative KI regiert werden kann, aber er glaubt, dass das plausibelste Mittel, sie in Schach zu halten, darin bestehen könnte, diejenigen, die von der KI betroffen sein werden, mit der kollektiven Entscheidung über Möglichkeiten zu betrauen, sie einzudämmen.

Das heißt du; meint mich. Es ist die Macht großer Netzwerke von Menschen, Probleme schneller und gerechter zu lösen, als es eine kleine Gruppe von Menschen allein könnte (selbst zum Beispiel in Washington). Es basiert im Wesentlichen auf der Weisheit der Masse und findet in vielen Bereichen statt, darunter in der wissenschaftlichen Forschung, in der Wirtschaft, in der Politik und in sozialen Bewegungen.

In Taiwan beispielsweise gründeten bürgerlich gesinnte Hacker 2015 eine Plattform, „Virtual Taiwan“, die „Vertreter des öffentlichen, privaten und sozialen Sektors zusammenbringt, um politische Lösungen für Probleme zu diskutieren, die hauptsächlich mit der digitalen Wirtschaft zusammenhängen“, wie z als ER erklärt 2019 von Taiwans Digitalministerin Audrey Tang in der New York Times. Seitdem hat sich vTaiwan, wie es bekannt ist, mit Dutzenden von Themen befasst, „basierend auf einer Kombination aus Online-Debatte und persönlichen Gesprächen mit Interessenvertretern“, schrieb Tang damals.

Eine ähnliche Initiative ist Überprüfung der Bürgerinitiative von Oregon, das 2011 gesetzlich unterzeichnet wurde und die stimmberechtigte Bevölkerung des Staates durch einen von Bürgern betriebenen „Beratungsprozess“ über Abstimmungsmaßnahmen informiert. Ungefähr 20 bis 25 Bürger, die repräsentativ für die gesamte Wählerschaft von Oregon sind, treffen sich, um die Vorzüge einer Initiative zu erörtern; Sie schreiben dann gemeinsam eine Erklärung zu dieser Initiative, die an andere Wähler im Staat gesendet wird, damit sie am Wahltag fundiertere Entscheidungen treffen können.

Auch in Australien (Wasserpolitik), Kanada (Wahlreform), Chile (Renten und Gesundheitsversorgung) und Argentinien (Wohnungen, Landbesitz) haben sogenannte deliberative Prozesse erfolgreich dazu beigetragen, Probleme anzugehen.

„Es gibt Hindernisse, damit dies funktioniert“, wenn es um KI geht, räumt Ovadya ein, eine Tochtergesellschaft des Harvard Berkman Klein Center, deren Arbeit sich zunehmend auf die Auswirkungen der KI auf Gesellschaft und Demokratie konzentriert. „Aber empirisch wurde dies auf jedem Kontinent der Welt und in jeder Größenordnung durchgeführt“, und „je schneller wir einige dieser Dinge implementieren können, desto besser“, sagt er.

Menschen entscheiden zu lassen, welche akzeptablen Richtlinien insbesondere in Bezug auf KI akzeptabel sind, mag für manche seltsam klingen, aber selbst Technologen glauben, dass dies Teil der Lösung ist. Mira Murati, CTO des bekannten Startups für künstliche Intelligenz OpenAI, Zeit veröffentlichen  In einem neuen Interview: „[Wir sind] eine kleine Gruppe von Menschen und wir brauchen viel mehr Input in dieses System und viel mehr, das über die Technologien hinausgeht, insbesondere Regulierungsbehörden, Regierungen und andere ähnliche Einrichtungen.“

Auf die Frage, ob Murati befürchtet, dass die Beteiligung der Regierung Innovationen ersticken könnte, oder ob er der Meinung ist, dass es für Gesetzgeber und Aufsichtsbehörden zu früh ist, sich einzumischen, antwortete er: „Es ist nicht zu früh. Angesichts der Auswirkungen, die diese Technologien haben werden, ist es sehr wichtig, dass sich alle einbringen.“

Im aktuellen Regulierungsvakuum hat OpenAI vorerst einen eigenständigen Ansatz gewählt, Richtlinien erstellen für die sichere Verwendung seiner Technologie und die Veröffentlichung neuer Iterationen im Rinnsal, manchmal zur Frustration der breiten Öffentlichkeit.

Inzwischen hat die Europäische Union einen Regulierungsrahmen entworfen, der AIs Lae, das gerade seinen Weg durch das Europäische Parlament findet und zum weltweiten Standard werden soll. Das Gesetz würde KI-Anwendungen drei Risikokategorien zuordnen: Anwendungen und Systeme, die ein „inakzeptables Risiko“ erzeugen; „Bewerbungen mit hohem Risiko“, wie etwa ein „Tool zum Scannen von Lebensläufen, das Stellenbewerber einstuft“, die besonderen rechtlichen Anforderungen unterliegen würden; und Anwendungen, die nicht ausdrücklich verboten oder als hohes Risiko eingestuft sind und weitgehend unreguliert bleiben würden.

Das US-Handelsministerium hat auch ein freiwilliges Rahmenwerk geschrieben, um Unternehmen zu leiten, aber es gibt keine Vorschriften, nichts, wenn es dringend benötigt wird. Neben OpenAI werden Tech-Giganten wie Microsoft und Google trotz Burned by vorherige Versionen seiner eigenen KI das Sie versagtensind sie öffentlich konkurrieren erneut, um KI-fähige Produkte und Anwendungen auf den Markt zu bringen, damit sie nicht zurückbleiben.

Eine Art World Wide Web Consortium, eine internationale Organisation, die 1994 gegründet wurde, um Standards für das World Wide Web zu setzen, wäre offenbar sinnvoll. Tatsächlich stellt Murati in diesem Time-Interview fest, dass „verschiedene Stimmen wie Philosophen, Sozialwissenschaftler, Künstler und Menschen der Geisteswissenschaften“ zusammenkommen müssen, um die vielen „ethischen und philosophischen Fragen zu beantworten, die wir berücksichtigen müssen“.

Vielleicht fängt die Industrie so an, und die sogenannte kollektive Intelligenz wird viele Lücken zwischen generalistischen Visionen füllen.

Einige neue Tools können dabei helfen, dieses Ziel zu erreichen. Sam Altman, CEO von Open AI, ist beispielsweise auch Mitbegründer einer Retina-Scanning-Firma in Berlin namens WorldCoin, die es einfacher machen will, die Identität einer Person zu authentifizieren. Es wurden Fragen zu den Auswirkungen des biometrischen Ansatzes von WorldCoin auf Datenschutz und Sicherheit aufgeworfen, aber seine potenziellen Anwendungen umfassen die Verteilung eines globalen universellen Grundeinkommens sowie die Stärkung neuer Formen der digitalen Demokratie.

In jedem Fall ist Ovadya der Ansicht, dass der Rückgriff auf beratende Prozesse, an denen eine große Anzahl von Menschen aus der ganzen Welt beteiligt ist, der Weg ist, Grenzen rund um die KI zu schaffen und gleichzeitig den Akteuren der Branche mehr Glaubwürdigkeit zu verleihen.

„OpenAI wird gerade von allen kritisiert“, auch für seine empfundene liberale Voreingenommenheitsagt Ovadia. „Es wäre hilfreich [für das Unternehmen], eine wirklich konkrete Antwort zu haben“, wie es seine zukünftigen Richtlinien festlegt.

Ovadya zielt in ähnlicher Weise auf Stability.AI ab, das Open-Source-KI-Unternehmen, dessen CEO Emad Mostaque wiederholt darauf hingewiesen hat, dass Stability demokratischer als OpenAI ist, weil es überall verfügbar ist, während OpenAI nur auf verfügbar ist Ländern jetzt, wo Sie "sicheren Zugriff" bereitstellen können

Ovadya sagt: „Emad von Stability sagt, er „demokratisiert KI“. Gut, Wäre es nicht schön, mit demokratischen Verfahren herauszufinden, was die Menschen wirklich wollen?