Il est vrai que des progrès en matière de protection des données ont été réalisés aux États-Unis grâce à l'adoption de diverses lois, telles que le California Consumer Privacy Act (CCPA), et de documents non contraignants, tels que le Plan directeur pour une déclaration des droits de l'IA. Cependant, il n'existe actuellement aucune réglementation standard dictant comment les entreprises technologiques doivent atténuer les biais et la discrimination liés à l'IA.
En conséquence, de nombreuses entreprises prennent du retard dans la création d'outils éthiques qui donnent la priorité à la confidentialité. Près de 80 % des scientifiques des données aux États-Unis sont des hommes et 66 % sont blancs, ce qui montre un manque inhérent de diversité et de représentation démographique dans le développement d'outils de prise de décision automatisés, ce qui conduit souvent à des résultats de données biaisés.
Des améliorations importantes des processus d'examen de la conception sont nécessaires pour s'assurer que entreprises technologiques considérez toutes les personnes lors de la création et de la modification de vos produits. Sinon, les organisations risquent de perdre des clients au profit de la concurrence, de ternir leur réputation et de s'exposer à de graves poursuites. Selon IBM, environ 85 % des professionnels de l'informatique pensent que les consommateurs choisissent des entreprises transparentes sur la manière dont leurs algorithmes d'IA sont créés, gérés et utilisés. On peut s'attendre à ce que ce chiffre augmentera à mesure que de plus en plus d'utilisateurs continueront à se positionner contre la technologie préjudiciable et biaisé.
Alors, que doivent prendre en compte les entreprises lorsqu'elles le temps d'analyser votre des prototypes ? Voici quatre questions que les équipes de développement doivent se poser :
Avons-nous exclu tout type de biais dans notre prototype ?
Pour créer une technologie efficace et sans biais, Les équipes d'IA doivent établir une liste de questions à poser pendant le processus d'examen qui peuvent les aider pour identifier les problèmes éventuels dans leurs modèles.
Il existe de nombreuses méthodologies que les équipes d'IA peuvent utiliser pour évaluer leurs modèles, mais avant cela, il est essentiel d'évaluer le objectif ultime et s'il existe un groupe susceptible d'être affecté de manière disproportionnée par les résultats de l'utilisation de l'IA.
Par exemple, les équipes d'IA doivent garder à l'esprit que l'utilisation de les technologies de reconnaissance faciale peuvent, par inadvertance, discriminer les gens de couleur, quelque chose qui arrive trop souvent dans les algorithmes d'IA. Une enquête menée par l'American Civil Liberties Union en 2018 a montré que le reconnaissance faciale Amazon a confondu 28 membres du Congrès des États-Unis avec des photos d'identité. Un stupéfiant 40% des correspondances incorrectes étaient des personnes de couleur, même si elles ne représentent que 20% du Congrès.
En posant des questions difficiles, les équipes d'IA peuvent trouver de nouvelles façons d'améliorer leurs modèles et de travailler pour empêcher que ces situations ne se produisent. Par exemple, un examen attentif peut aidez-les à déterminer s'ils ont besoin analyser plus de données ou s'ils auront besoin d'un tiers, tel qu'un expert en confidentialité, pour examiner leur produit.
Plot4AI est une excellente ressource pour ceux qui veulent se lancer.
Avons-nous nommé un professionnel ou un défenseur de la vie privée ?
En raison de la nature de leur travail, les professionnels de la protection de la vie privée sont traditionnellement considérés comme des obstacles à l'innovation, en particulier lorsqu'ils doivent examiner chaque produit, document et procédure. Plutôt que de considérer un service de protection de la vie privée comme un obstacle, les organisations devraient le considérer comme un catalyseur essentiel de l'innovation.
Les les entreprises doivent privilégier l'embauche d'experts en confidentialité et intégrez-les dans le processus d'examen de la conception afin que vous puissiez vous assurer que vos produits fonctionnent pour tout le monde, y compris les populations mal desservies, en toute sécurité, conformément et sans parti pris.
Bien que le processus d'intégration des professionnels de la protection de la vie privée varie en fonction de la nature et de la portée de l'organisation, il existe des moyens clés de s'assurer que l'équipe de la protection de la vie privée a une place à la table. Les entreprises devraient commencer par établir un ensemble simple de procédures pour identifier toute activité de traitement de données à caractère personnel nouvelle ou modifiée.
La clé du succès L'une de ces procédures consiste à socialiser le processus avec les cadres, ainsi qu'avec les chefs de produit et les ingénieurs, et à s'assurer qu'ils sont alignés sur la définition des informations personnelles de l'organisation. Par exemple, alors que de nombreuses organisations acceptent généralement les adresses IP et les identifiants d'appareils mobiles comme des informations personnelles, des normes et des normes obsolètes peuvent les classer comme « anonymes ». Les entreprises doivent être claires sur les types d'informations considérées comme des informations personnelles.
De plus, les organisations peuvent croire que les renseignements personnels utilisés dans ses produits et les services présentent le risque le plus élevé et doivent faire l'objet d'examens, mais ils doivent être conscients que d'autres départements, tels que les ressources humaines et le marketing, traitent également de grandes quantités d'informations personnelles.
Si une organisation ne dispose pas de la bande passante nécessaire pour embaucher un professionnel de la confidentialité pour chaque service, elle doit envisager de nommer un défenseur de la confidentialité qui peut détecter les problèmes et les référer à l'équipe de confidentialité si nécessaire.
Notre service du personnel et de la culture est-il impliqué ?
Les équipes chargées de la confidentialité ne doivent pas être seules responsables de la confidentialité dans une organisation. Tous les employés qui ont accès aux informations personnelles ou qui en influencent le traitement en sont responsables.
Élargir vos efforts d'embauche pour inclure des candidats de différents groupes démographiques et régions peut apporter des voix et des perspectives diverses. L'embauche d'employés diversifiés ne devrait pas se limiter à des postes de niveau d'entrée et de niveau intermédiaire. UN Une équipe de direction et un conseil d'administration diversifiés sont absolument essentiels pour représenter ceux qui ne peuvent pas entrer dans l'entreprise.
Les programmes de formation à l'échelle de l'entreprise sur l'éthique, la confidentialité et l'IA peuvent soutenir davantage une culture inclusive tout en sensibilisant à l'importance des efforts de diversité, d'équité et d'inclusion (DEI). Seulement 32 % des organisations exigent une certaine forme de formation DEI pour leurs employés, ce qui souligne le besoin d'amélioration dans ce domaine.
Notre prototype est-il conforme au Blueprint for an AI Bill of Rights ?
En octobre 2022, l'administration Biden publié un plan pour une déclaration des droits de l'IA, décrivant les principes clés, avec des étapes et des recommandations détaillées pour développer une IA responsable et minimiser la discrimination dans les algorithmes.
Les lignes directrices comprennent cinq garanties :
- Systèmes sûrs et efficaces.
- discrimination algorithmique.
- Confidentialité des données.
- Avis et explication.
- Alternatives humaines, considération et alternatives.
Bien que la déclaration des droits de l'IA n'impose aucune métrique ou réglementation spécifique autour de l'IA, la les organisations devraient le considérer comme une référence pour vos propres pratiques de développement. Le cadre peut être utilisé comme ressource stratégique pour les entreprises qui souhaitent en savoir plus sur l'IA éthique, atténuer les préjugés et donner aux consommateurs le contrôle de leurs données.
La voie vers l'IA axée sur la confidentialité
La technologie a le potentiel de révolutionner la société telle que nous la connaissons, mais elle échouera si elle ne profite pas à tous de manière égale. Lorsque les équipes d'IA créent de nouveaux produits ou modifient leurs outils actuels, il est essentiel qu'elles prennent les mesures nécessaires et posent les bonnes questions pour s'assurer qu'elles ont exclu toutes sortes de biais.
La création d'outils éthiques qui donnent la priorité à la confidentialité sera toujours un travail en cours, mais les considérations ci-dessus peuvent aider les entreprises à prendre des mesures pour direction correcte.
