Beaucoup ont décrit 2023 comme l’année de l’IA, et le terme est apparu sur plusieurs listes de « mots de l’année ». Bien que cela ait eu un impact positif sur la productivité et l'efficacité dans le lieu de travail, l’IA présente également un certain nombre de risques émergents pour les entreprises.
Dans une sondage développé par AuditBoard, il a été révélé qu'environ la moitié des employés américains (51 %) utilisent des outils basés sur l'IA pour leur travail, sans aucun doute alimentés par ChatGPT et d'autres solutions d'IA générative. Dans le même temps, cependant, près de la moitié (48 %) ont déclaré alimenter les données de l’entreprise dans des outils d’IA non publics pour les aider dans leur travail.
Cette intégration rapide des outils L'IA générative au travail présente des défis éthiques, juridiques, en matière de confidentialité et pratiques, ce qui oblige les entreprises à mettre en œuvre de nouvelles politiques robustes autour des outils d'IA générative. Dans l’état actuel des choses, la plupart ne l’ont pas encore fait : Rapport Gartner a révélé que plus de la moitié des organisations n'ont pas de politique interne sur l'IA générative, et l'enquête d'AuditBoard a montré que seulement 37 % des employés ont une politique formelle concernant l'utilisation d'outils basés sur l'IA non fournis par l'entreprise.
Même si cela peut sembler une tâche ardue, l’élaboration d’un ensemble de politiques et de normes peut épargner aux organisations des problèmes majeurs à l’avenir.
Utilisation et gouvernance de l’IA : risques et défis
L’adoption rapide de l’IA générative a rendu difficile pour les entreprises de suivre le rythme de la gestion des risques et de la gouvernance de l’IA, et il existe un décalage évident entre l’adoption et les politiques formelles. L'enquête AuditBoard mentionnée ci-dessus a révélé que 64 % des personnes interrogées perçoivent l'utilisation des outils d'IA comme sûre, ce qui indique que de nombreux travailleurs et organisations négligent peut-être les risques.
Ces risques et défis peuvent varier, mais trois des plus courants à l’heure actuelle sont :
- Excès de confiance. L’effet Dunning-Kruger est un biais qui se produit lorsque nos propres connaissances ou capacités sont surestimées. Nous avons vu cela se produire en relation avec l’utilisation de l’IA ; beaucoup surestiment les capacités de l’IA sans comprendre ses limites. Cela pourrait produire des résultats relativement inoffensifs, comme fournir des résultats incomplets ou inexacts, mais pourrait également conduire à des situations beaucoup plus graves, comme des résultats violant les restrictions d'utilisation. juridique ou créer des risques de propriété intellectuelle.
- Sécurité et confidentialité. Pour être pleinement efficace, l’IA a besoin d’accéder à de grandes quantités de données, mais cela inclut parfois des données personnelles ou d’autres informations sensibles. L’utilisation d’outils d’IA non approuvés comporte des risques inhérents. Les organisations doivent donc s’assurer qu’elles utilisent des outils qui répondent à leurs normes de sécurité des données.
- Partagez des données. Presque tous les fournisseurs de technologies ont lancé ou lanceront bientôt des fonctionnalités d'IA pour augmenter leur offre de produits, et bon nombre de ces ajouts sont en libre-service ou activés par l'utilisateur. Les solutions gratuites fonctionnent souvent en monétisant les données fournies par les utilisateurs, et dans ces cas-là, il y a une chose à retenir : si vous ne payez pas pour le produit, vous êtes probablement le produit. Les organisations doivent veiller à ce que les modèles d'apprentissage qu'elles utilisent ne soient pas formés avec des données personnelles ou tierces sans consentement et que leurs propres données ne soient pas utilisées pour former des modèles d'apprentissage sans autorisation.
Il existe également des risques et des défis associés au développement de produits intégrant des capacités d'IA, tels que la définition d'une utilisation acceptable des données client pour la formation des modèles. Alors que l’IA s’infiltre dans toutes les facettes de l’entreprise, ces considérations et bien d’autres apparaîtront certainement à l’horizon.
Élaborer des politiques complètes d’utilisation de l’IA
L’intégration de l’IA dans les processus et stratégies d’entreprise est devenue impérative, mais nécessite l’élaboration d’un cadre de politiques et de lignes directrices pour sa mise en œuvre et son utilisation responsable. Cela peut varier en fonction des besoins spécifiques et des cas d'utilisation d'une entité, mais quatre piliers généraux peuvent aider les organisations à tirer parti de l'IA pour l'innovation tout en atténuant les risques et en maintenant les normes éthiques.
Intégrer l'IA dans les plans stratégiques
Adopter l’IA nécessite d’aligner sa mise en œuvre sur les objectifs stratégiques de l’entreprise. Il ne s’agit pas d’adopter une technologie de pointe pour le plaisir ; L'intégration d'applications d'IA qui font progresser la mission et les objectifs définis de l'organisation devrait améliorer l'efficacité opérationnelle et stimuler la croissance.
Atténuer l’excès de confiance
Reconnaître le potentiel de l’IA ne doit pas être synonyme d’une confiance inébranlable. Un optimisme prudent (en mettant l’accent sur « prudent ») devrait toujours prévaloir, car les organisations doivent prendre en compte les limites et les biais potentiels des outils d’IA. Il est essentiel de trouver un équilibre calculé entre tirer parti des atouts de l’IA et être conscient de ses limites actuelles et futures.
Définir des lignes directrices et des bonnes pratiques dans l’utilisation de l’IA
La définition de protocoles pour la confidentialité des données, les mesures de sécurité et les considérations éthiques garantit une utilisation cohérente et éthique dans tous les départements. Ce processus comprend :
- Impliquer diverses équipes dans la création de politiques : Des équipes comprenant des équipes juridiques, des ressources humaines et de sécurité de l’information devraient être impliquées pour créer une perspective holistique, intégrant les dimensions juridiques et éthiques dans les cadres opérationnels.
- Définissez les paramètres d'utilisation et restreignez les applications nuisibles : Articuler des politiques pour l’utilisation de l’IA dans des applications pratiques et technologiques, identifier les domaines dans lesquels l’IA peut être utilisée de manière bénéfique et éviter l’utilisation d’applications potentiellement dangereuses tout en établissant des processus pour évaluer les nouveaux cas d’utilisation de l’IA qui peuvent s’aligner sur les intérêts stratégiques de l’entreprise.
- Effectuer régulièrement une formation des employés et des mises à jour des politiques : L’IA évolue continuellement et cette évolution est susceptible de s’accélérer – les cadres politiques doivent s’adapter ensemble. Des mises à jour régulières garantissent que les politiques s'alignent sur le paysage de l'IA en évolution rapide, et une formation complète des employés garantit la conformité et une utilisation responsable.
Surveillance et détection des utilisations non autorisées de l’IA
La création et l'utilisation de mécanismes robustes de prévention des pertes de données (DLP) et de détections basées sur les points de terminaison ou SASE/CASB jouent un rôle très important dans l'identification des utilisations non autorisées de l'IA au sein de l'organisation et dans l'atténuation des violations potentielles ou des utilisations inappropriées. Il est également crucial de rechercher la propriété intellectuelle dans les modèles d’IA open source. Une inspection méticuleuse protège les informations confidentielles et évite les violations indésirables et donc très coûteuses.
À mesure que les entreprises approfondissent l’intégration de l’IA, la formulation de politiques claires mais larges leur permet d’exploiter le potentiel de l’IA tout en atténuant ses risques.
Concevoir des politiques efficaces encourage également l’utilisation éthique de l’IA et renforce la résilience organisationnelle dans un monde qui sera de plus en plus piloté par l’IA. Ne vous y trompez pas : c’est une question urgente. Les organisations qui adoptent l’IA avec des politiques bien définies se donneront la meilleure opportunité de gérer efficacement cette transformation tout en respectant les normes éthiques et en atteignant leurs objectifs stratégiques.
