Es stimmt, dass in den Vereinigten Staaten dank der Verabschiedung verschiedener Gesetze, wie des California Consumer Privacy Act (CCPA), und unverbindlicher Dokumente, wie der Blaupause für eine KI-Bill of Rights. Jedoch Derzeit gibt es keine Standardregelung, die vorschreibt, wie Technologieunternehmen KI-Voreingenommenheit und Diskriminierung mindern sollten.
Als Ergebnis Viele Unternehmen geraten bei der Entwicklung ethischer Tools, die dem Datenschutz Vorrang einräumen, ins Hintertreffen. Fast 80 % der Datenwissenschaftler in den USA sind männlich und 66 % weiß, was einen inhärenten Mangel an Diversität und demografischer Repräsentation bei der Entwicklung automatisierter Entscheidungsfindungstools zeigt, was oft zu voreingenommenen Datenergebnissen führt.
Um dies zu gewährleisten, sind erhebliche Verbesserungen in den Design-Review-Prozessen erforderlich Technologieunternehmen Berücksichtigen Sie alle Menschen, wenn Sie Ihre Produkte erstellen und ändern. Andernfalls riskieren Unternehmen, Kunden an die Konkurrenz zu verlieren, ihren Ruf zu schädigen und ernsthafte Klagen zu riskieren. Laut IBM glauben rund 85 % der IT-Experten, dass Verbraucher Unternehmen wählen, die transparent darüber sind, wie ihre KI-Algorithmen erstellt, verwaltet und verwendet werden. Das können wir erwarten Diese Zahl wird steigen, da sich immer mehr Benutzer gegen die Technologie positionieren schädlich und voreingenommen.
Was also sollten Unternehmen wann beachten? Zeit, Ihre zu analysieren Prototypen? Hier sind vier Fragen, die sich Entwicklungsteams stellen sollten:
Haben wir alle Arten von Bias in unserem Prototyp ausgeschlossen?
Um effektive und vorurteilsfreie Technologie zu schaffen, KI-Teams sollten eine Liste mit Fragen erstellen, die sie während des Überprüfungsprozesses stellen können und die ihnen helfen können um mögliche Probleme in ihren Modellen zu identifizieren.
Es gibt viele Methoden, die KI-Teams verwenden können, um ihre Modelle zu evaluieren, aber bevor Sie dies tun, ist es wichtig, die zu evaluieren Endziel und ob es eine Gruppe gibt, die von den Ergebnissen des Konsums unverhältnismäßig stark betroffen sein könnte der KI.
Beispielsweise sollten KI-Teams bedenken, dass die Verwendung von Gesichtserkennungstechnologien können Menschen unbeabsichtigt diskriminieren von Farbe, etwas, das allzu oft in KI-Algorithmen passiert. Eine von der American Civil Liberties Union im Jahr 2018 durchgeführte Untersuchung ergab, dass die Gesichtserkennung Amazon hat 28 Mitglieder des Kongresses der Vereinigten Staaten mit Fahndungsfotos nicht abgeglichen. Atemberaubende 40 % der falschen Übereinstimmungen waren Farbige, obwohl sie nur 20 % des Kongresses ausmachen.
Indem sie schwierige Fragen stellen, können KI-Teams neue Wege finden, um ihre Modelle zu verbessern und daran zu arbeiten, solche Situationen zu verhindern. Beispielsweise kann eine genaue Prüfung Helfen Sie ihnen festzustellen, ob sie es brauchen mehr Daten analysieren oder wenn sie einen Dritten, z. B. einen Datenschutzexperten, benötigen, um ihr Produkt zu überprüfen.
Plot4AI ist eine großartige Ressource für diejenigen, die loslegen möchten.
Haben wir einen Datenschutzexperten oder -anwalt ernannt?
Aufgrund der Art ihrer Arbeit werden Datenschutzexperten traditionell als Hindernis für Innovationen angesehen, insbesondere wenn sie jedes Produkt, jedes Dokument und jedes Verfahren überprüfen müssen. Anstatt eine Datenschutzabteilung als Hindernis zu betrachten, sollten Unternehmen sie als entscheidenden Wegbereiter für Innovationen betrachten.
Die Unternehmen sollten der Einstellung Vorrang einräumen von Datenschutzexperten und integrieren Sie sie in den Entwurfsüberprüfungsprozess, damit Sie sicherstellen können, dass Ihre Produkte für alle, einschließlich unterversorgter Bevölkerungsgruppen, sicher, konform und frei von Vorurteilen funktionieren.
Während der Prozess für das Onboarding von Datenschutzexperten je nach Art und Umfang der Organisation unterschiedlich sein wird, gibt es einige wichtige Möglichkeiten, um sicherzustellen, dass das Datenschutzteam einen Platz am Tisch hat. Unternehmen sollten zunächst eine Reihe einfacher Verfahren einrichten, um neue oder geänderte Verarbeitungsaktivitäten für personenbezogene Daten zu identifizieren.
La Schlüssel zum Erfolg Eines dieser Verfahren besteht darin, den Prozess mit Führungskräften sowie Produktmanagern und Ingenieuren zu sozialisieren und sicherzustellen, dass sie mit der Definition personenbezogener Daten der Organisation übereinstimmen. Während beispielsweise viele Organisationen im Allgemeinen IP-Adressen und Kennungen von Mobilgeräten als personenbezogene Daten akzeptieren, können veraltete Standards und Standards sie als „anonym“ kategorisieren. Unternehmen müssen sich darüber im Klaren sein, welche Arten von Informationen als personenbezogene Daten gelten.
Darüber hinaus können Organisationen glauben, dass personenbezogene Daten verwendet werden Ihre Produkte und Dienstleistungen stellen das höchste Risiko dar und sollten im Mittelpunkt der Überprüfung stehen, aber sie sollten sich darüber im Klaren sein, dass auch andere Abteilungen wie die Personalabteilung und das Marketing große Mengen an personenbezogenen Daten verarbeiten.
Wenn eine Organisation nicht über die erforderliche Bandbreite verfügt, um einen Datenschutzexperten für jede Abteilung einzustellen, sollte sie erwägen, einen Datenschutzbeauftragten zu ernennen, der Probleme erkennen und sie bei Bedarf an das Datenschutzteam verweisen kann.
Ist unsere Personal- und Kulturabteilung involviert?
Datenschutzteams sollten nicht allein für den Datenschutz in einer Organisation verantwortlich sein. Alle Mitarbeiter, die Zugang zu personenbezogenen Daten haben oder deren Behandlung beeinflussen, sind verantwortlich.
Die Ausweitung Ihrer Einstellungsbemühungen auf Kandidaten aus verschiedenen demografischen Gruppen und Regionen kann unterschiedliche Stimmen und Perspektiven einbringen. Die Einstellung diverser Mitarbeiter sollte nicht auf Einstiegs- und Mittelpositionen beschränkt sein. A Ein vielfältiges Managementteam und ein Vorstand sind absolut notwendig, um diejenigen zu vertreten, die nicht in das Unternehmen kommen können.
Unternehmensweite Schulungsprogramme zu Ethik, Datenschutz und KI können eine integrative Kultur weiter unterstützen und gleichzeitig das Bewusstsein für die Bedeutung von Bemühungen um Vielfalt, Gerechtigkeit und Inklusion (DEI) schärfen. Nur 32 % der Organisationen verlangen irgendeine Form von DEI-Schulung für ihre Mitarbeiter, was den Verbesserungsbedarf in diesem Bereich unterstreicht.
Stimmt unser Prototyp mit dem Blueprint for a AI Bill of Rights überein?
Im Oktober 2022 die Biden-Administration einen Plan veröffentlicht für eine KI-Bill of Rights, die die wichtigsten Prinzipien umreißt, mit detaillierten Schritten und Empfehlungen für die Entwicklung einer verantwortungsbewussten KI und die Minimierung von Diskriminierung in Algorithmen.
Die Richtlinien beinhalten fünf Schutzmaßnahmen:
- Sichere und effektive Systeme.
- algorithmische Diskriminierung.
- Datenprivatsphäre.
- Hinweis und Erklärung.
- Menschliche Alternativen, Rücksichtnahme und Alternativen.
Obwohl die KI-Bill of Rights keine spezifischen Metriken oder Vorschriften rund um KI vorschreibt, die Organisationen sollten dies als Grundlage betrachten für Ihre eigenen Entwicklungspraktiken. Das Framework kann als strategische Ressource für Unternehmen genutzt werden, die mehr über ethische KI erfahren, Voreingenommenheit mindern und Verbrauchern die Kontrolle über ihre Daten geben möchten.
Der Weg zur datenschutzorientierten KI
Technologie hat das Potenzial, die Gesellschaft, wie wir sie kennen, zu revolutionieren, aber sie wird scheitern, wenn sie nicht allen gleichermaßen zugute kommt. Wenn KI-Teams neue Produkte entwickeln oder ihre aktuellen Tools modifizieren, ist es entscheidend, dass sie die notwendigen Schritte unternehmen und die richtigen Fragen stellen, um sicherzustellen, dass sie alle Arten von Voreingenommenheit ausschließen.
Die Entwicklung ethischer Tools, die den Datenschutz priorisieren, wird immer noch in Arbeit sein, aber die obigen Überlegungen können Unternehmen dabei helfen, Schritte in diese Richtung zu unternehmen korrekte Adresse.
