Intelligence artificielle
Des chercheurs de l'Université Microsoft et de Carnegie Mellon Ils ont récemment publié une étude sur l’impact de l’utilisation de l’IA générative au travail sur les capacités de pensée critique.
« Lorsqu’elles sont mal utilisées, les technologies peuvent entraîner une détérioration de facultés cognitives qui devraient être préservées », indique le document.
Lorsque les gens s’appuient sur l’IA générative au travail, leurs efforts se déplacent vers la vérification que la réponse d’une IA est suffisamment bonne pour être utilisée, plutôt que d’utiliser des compétences de pensée critique d’ordre supérieur comme la création, l’évaluation et l’analyse d’informations. Si les humains n’interviennent que lorsque les réponses de l’IA sont insuffisantes, indique l’étude, les travailleurs sont privés « d’opportunités routinières d’exercer leur jugement et de renforcer leur musculature cognitive, ce qui les laisse atrophiés et non préparés lorsque des exceptions surviennent ».
En d’autres termes, lorsque nous comptons trop sur l’IA pour penser à notre place, nous devenons moins aptes à résoudre les problèmes nous-mêmes lorsque l’IA échoue.
Français Dans cette étude menée auprès de 319 personnes, qui ont déclaré utiliser l'IA générative au moins une fois par semaine au travail, les répondants ont été invités à partager trois exemples de la façon dont ils utilisent l'IA générative au travail, répartis en trois catégories principales : la création (rédiger un e-mail formel à un collègue, par exemple) ; information (recherche sur un sujet ou résumé d’un long article) ; et des conseils (demander des conseils ou faire un tableau des données existantes). On leur a ensuite demandé s’ils exerçaient leur esprit critique lorsqu’ils faisaient leurs devoirs et si l’utilisation de l’IA générative les incitait à faire plus ou moins d’efforts pour penser de manière critique. Pour chaque tâche mentionnée par les répondants, il leur a également été demandé d’indiquer leur niveau de confiance en eux-mêmes, en l’IA générative et en leur capacité à évaluer les résultats de l’IA.
Environ 36 % des participants ont déclaré utiliser des compétences de pensée critique pour atténuer les conséquences négatives potentielles de l’utilisation de l’IA. Une participante a déclaré qu'elle avait utilisé ChatGPT pour rédiger une évaluation de performance, mais qu'elle avait revérifié le résultat de l'IA de peur de soumettre accidentellement quelque chose qui la ferait suspendre. Un autre répondant a déclaré avoir dû modifier les e-mails générés par l'IA qu'il envoyait à son patron, dont la culture met davantage l'accent sur la hiérarchie et l'âge, afin de ne pas faire de faux pas. Et dans de nombreux cas, les participants ont recoupé les réponses générées par l’IA avec des recherches Web plus générales sur des ressources telles que YouTube et Wikipédia, ce qui va sans doute à l’encontre de l’objectif premier de l’utilisation de l’IA.
Pour que les travailleurs puissent compenser les lacunes de l’IA générative, ils doivent comprendre comment ces lacunes se produisent. Mais tous les participants n’étaient pas conscients des limites de l’IA.
« Les dommages potentiels en aval des réponses GenAI peuvent motiver la pensée critique, mais seulement si l’utilisateur est conscient de ces dommages », indique l’article.
En fait, l’étude a révélé que les participants qui ont déclaré avoir confiance en l’IA ont fait moins d’efforts de réflexion critique que ceux qui ont déclaré avoir confiance en leurs propres capacités.
Bien que les chercheurs hésitent à affirmer que les outils d’IA générative nous rendent moins réfléchis, l’étude montre qu’une dépendance excessive à ces outils peut affaiblir notre capacité à résoudre les problèmes de manière indépendante.
