Das Europäische Parlament hat für die Bestätigung seines Verhandlungsmandats für das KI-Gesetz gestimmt und damit einen wichtigen Meilenstein erreicht, der die nächste Phase der Verhandlungen zu einem europaweiten Regelwerk für künstliche Intelligenz einleitet.
Die Abgeordneten unterstützten eine modifizierte Version des Kommissionsvorschlags, der das Regelwerk in einer Weise erweitert, die ihrer Meinung nach darauf abzielt, sicherzustellen, dass die in Europa entwickelte und genutzte KI „völlig im Einklang mit den Rechten und Werten der EU“ steht, einschließlich menschlicher Aufsicht, Sicherheit, Privatsphäre und Transparenz, Nichtdiskriminierung, soziales und ökologisches Wohlergehen“.
Zu den Änderungen, die die Abgeordneten unterstützt haben, gehört ein vollständiges Verbot der biometrischen Fernüberwachung und der vorausschauenden Polizeiarbeit. Sie fügten außerdem ein Verbot der „ungerichteten Erfassung von Gesichtsbildern aus dem Internet oder CCTV-Bildern zur Erstellung von Gesichtserkennungsdatenbanken“ hinzu, sodass es sich im Grunde genommen um ein hartes Verbot von Clearview AI und dergleichen handelt.
Das vorgeschlagene Verbot der biometrischen Fernüberwachung würde sowohl für Echtzeit- als auch für nachträgliche (nachträgliche) Anwendungen von Technologien wie der Gesichtserkennung gelten, mit Ausnahme im letzteren Fall für die Strafverfolgung zur Verfolgung schwerer Straftaten Suspension.
Die Abgeordneten fügten außerdem ein Verbot des Einsatzes von Technologie zur Emotionserkennung hinzu, die von Strafverfolgungsbehörden, Grenzbehörden, Arbeitsplätzen und Bildungseinrichtungen eingesetzt wird.
Die Parlamentarier erweiterten außerdem die Klassifizierung von KI-Systemen mit hohem Risiko um solche, die einen erheblichen Schaden für die Gesundheit, Sicherheit, Grundrechte oder die Umwelt der Menschen darstellen, sowie um KI-Systeme, die zur Beeinflussung von Wählern und Wahlergebnissen eingesetzt werden.
Die Abgeordneten fügten außerdem größere Social-Media-Plattformen hinzu, die mithilfe von Algorithmen Inhalte auf die Hochrisikoliste setzen.
Die Abstimmung im Plenum folgt der Billigung des geänderten Vorschlags durch den Ausschuss im letzten Monat, nachdem Abgeordnete verschiedener Fraktionen darüber diskutiert hatten, wie sie den Kommissionstext ändern wollten, einschließlich der Hinzufügung von Verpflichtungen für Hersteller sogenannter Allzweck-KI.
Als Reaktion auf die rasanten Entwicklungen in der generativen KI haben sich die Abgeordneten dafür ausgesprochen, eine Reihe von Verpflichtungen für grundlegende/allgemeine KI-Modelle aufzuerlegen, beispielsweise für die Technologie hinter dem KI-Chatbot ChatGPT von OpenAI, die verlangt, dass solche Systeme Risiken identifizieren und mindern, bevor sie auf den Markt gebracht werden , sowie Transparenzoffenlegungen für KI-generierte Inhalte anwenden und Schutzmaßnahmen gegen die Generierung illegaler Inhalte implementieren.
Allzweck-KI-Hersteller sind außerdem verpflichtet, „detaillierte Zusammenfassungen“ der urheberrechtlich geschützten Informationen zu veröffentlichen, die zum Trainieren ihrer Modelle verwendet werden, wie von den Abgeordneten vorgeschlagen.
Während einer Tour durch europäische Hauptstädte, um sich letzten Monat mit Gesetzgebern zu treffen, kritisierte OpenAI-CEO Sam Altman diesen Aspekt des EU-Vorschlags. Er deutete an, dass das Unternehmen möglicherweise seine Dienstleistungen in der Region einstellen müsse, wenn es den Anforderungen nicht nachkomme, und sagte Reportern, er sei zuversichtlich, dass die Verpflichtungen rückgängig gemacht würden.
Auf jeden Fall zeigt die heutige Abstimmung im Plenum mit 499 Ja-Stimmen und nur 28 Nein-Stimmen (plus 93 Enthaltungen) eine überwältigende Unterstützung der Abgeordneten für die geänderte Fassung des Gesetzentwurfs, einschließlich der vorgeschlagenen Verpflichtungen für Allzweck-KIs.
Mit der Abstimmung über die Genehmigung des Mandats können nun die Gespräche zwischen dem Parlament und den Regierungen der EU-Mitgliedstaaten beginnen. Der erste dreiseitige Dialog ist für heute Abend geplant.
In einer Erklärung nach der Abstimmung sagte Co-Berichterstatter Brando Benifei:
Alle Augen sind heute auf uns gerichtet. Während große Technologieunternehmen wegen ihrer eigenen Kreationen Alarm schlagen, ist Europa vorgetreten und hat eine konkrete Antwort auf die Risiken vorgeschlagen, die die KI mit sich bringt. Wir wollen, dass das positive Potenzial der KI für Kreativität und Produktivität genutzt wird, aber wir werden auch dafür kämpfen, unsere Position zu schützen und den Gefahren für unsere Demokratien und Freiheiten in den Verhandlungen mit dem Rat entgegenzuwirken.
In einer weiteren unterstützenden Erklärung fügte Mitberichterstatter Dragos Tudorache hinzu:
Das KI-Gesetz wird weltweit Maßstäbe in der Entwicklung und Steuerung der künstlichen Intelligenz setzen und sicherstellen, dass diese Technologie, die aufgrund ihrer enormen Vorteile dazu bestimmt ist, unsere Gesellschaften radikal zu verändern, sich im Einklang mit den europäischen Werten weiterentwickelt und genutzt wird Demokratie, Grundrechte und Rechtsstaatlichkeit.
Die Version des KI-Gesetzes, die die Abgeordneten heute gebilligt haben, sieht außerdem Ausnahmen für Forschungsaktivitäten und KI-Komponenten vor, die unter Open-Source-Lizenzen bereitgestellt werden, was nach Ansicht der Abgeordneten die Unterstützung von Innovationen sicherstellen soll, sowie die regulatorischen Sandboxen für Testsysteme, die in der EU eingerichtet werden sollen Rahmen.
Der Vorschlag der Abgeordneten fügt außerdem eine Reihe von Verbraucherrechten in Bezug auf KI-Entscheidungen hinzu, einschließlich der Möglichkeit für Verbraucher, kollektive Rechtsbehelfe einzulegen, wenn ihnen ein KI-System Schaden zugefügt hat.
Die europäische Verbraucherorganisation BEUC begrüßte diese Änderungen, kritisierte jedoch das Parlament dafür, dass es kein vollständiges Verbot des Einsatzes von KI zur emotionalen Erkennung unterstützt (da der Vorschlag die kommerzielle Nutzung auf diesem heiklen Weg nicht einschränkt).
Er glaubt auch, dass die Abgeordneten den Entwicklern zu viel Ermessensspielraum bei der Entscheidung eingeräumt haben, ob ihre Systeme in die Hochrisikokategorie fallen oder nicht, was seiner Meinung nach die Wirksamkeit des risikobasierten Rahmenwerks untergraben könnte.
Dies kann bei dreigliedrigen Diskussionen, bei denen es darum geht, einen Kompromiss zwischen der Position des Rates der EU, dem Gremium der Regierungen der Mitgliedstaaten, und den Gesetzgebern im Parlament zu finden, um die notwendigen politischen Ziele zu erreichen, zu Streitigkeiten führen Einigung über einen endgültigen Text und Versiegelung der Akte.
Generell vertritt der Rat der EU eine eher industriefreundliche Haltung, während sich das Parlament eher mit den Grundrechten beschäftigt. Es bleibt abzuwarten, wo sich die beiden Parteien zur Regulierung der KI treffen werden.
Wenn sie sich nicht einigen können, könnte der EU-Gesetzgebungsprozess ins Stocken geraten oder sogar scheitern. Angesichts der großen weltweiten Aufmerksamkeit, die sich derzeit auf die KI-Regulierung konzentriert, gibt es in Brüssel jedoch Bestrebungen, dieses Dossier hinter sich zu lassen. (Der erste, der mit einem demokratischen Regelwerk für KI zuschlägt, bietet dem Block die Möglichkeit, Einfluss über seine Grenzen hinaus auszuüben, während andere Jurisdiktionen darum kämpfen, ihre eigenen Ansätze zur Regulierung eines komplexen Bereichs sich schnell entwickelnder Technologie zu finden. ).
Der Rat nahm einen Standpunkt zum vorherigen Dossier an Im Dezember. Damals waren die Mitgliedstaaten weitgehend dafür, die Frage, was mit Allzweck-KI geschehen soll, auf zusätzliche Durchführungsgesetze zu verschieben. Aber angesichts dessen, was inzwischen passiert ist, da generative KI-Tools wie ChatGPT in den Mittelpunkt der Technologiediskussion rücken und zahlreiche Warnsignale für die Regulierung (und viele Typologien der Technologiebranche) auslösen, wird es interessant sein zu sehen, worüber sich die Staaten einigen werden . Mitglieder und Abgeordnete über die Notwendigkeit, Verpflichtungen für diese Klasse von KI-Systemen in den Text des KI-Gesetzes selbst aufzunehmen.
Der ursprüngliche Vorschlag für den risikobasierten Rahmen für KI wurde von der EU-Exekutive im April 2021 vorgelegt. Während dieser erste Textentwurf der Kommission das Problem der Allzweck-KI nicht so umfassend behandelte, schlug er Bestimmungen zur Transparenz für Chatbots und andere vor Technologie Deepfake. Schon damals waren die EU-Gesetzgeber der Meinung, dass Verbraucher darüber informiert werden sollten, dass sie mit maschinell generierten Inhalten interagieren.
Während die Kommission weiterhin hofft, dass die dreiseitigen Gespräche über das auf Eis gelegte KI-Gesetz bis Ende dieses Jahres zu einer politischen Einigung führen werden, wird es noch eine Umsetzungsfrist geben, sodass die Gesetzgebung wahrscheinlich nicht vor 2026 umgesetzt wird.
Deshalb arbeitet die EU auch an mehreren freiwilligen Initiativen, die darauf abzielen, Druck auf KI-Unternehmen auszuüben, die Sicherheit inzwischen selbst zu regulieren.
