La FTC avertit que la technologie AI telle que ChatGPT pourrait "accélérer" la fraude

Dans une public Tenu à Capitol Hill et axé sur le travail de la Federal Trade Commission pour protéger les consommateurs américains contre la fraude et autres pratiques trompeuses, le président de la FTC Lina Khan, et d'autres commissaires ont averti les représentants de la Chambre des potentiel des technologies modernes d'IA, comme ChatGPT, être utilisé pour « suralimenter » la fraude. L'avertissement est venu en réponse à une question sur la façon dont la Commission travaillait pour protéger les Américains contre les pratiques déloyales liées aux progrès technologiques.

Khan a répondu en convenant que l'IA présente de nouveaux risques que la FTC doit gérer, malgré les autres avantages qu'elle peut présenter.

"L'IA présente tout un ensemble d'opportunités, mais elle présente également tout un ensemble de risques"Khan a déclaré aux représentants de la Chambre. "Et je pense que nous avons déjà vu comment il pourrait être utilisé pour accélérer la fraude et les escroqueries. Nous avons averti les acteurs du marché que les cas où les outils d'IA sont effectivement conçus pour tromper les gens peuvent les mettre dans le collimateur de l'action de la FTC », a-t-il déclaré.

Khan a en outre averti que la capacité de l'IA à accélérer la fraude devrait être considérée comme une "préoccupation sérieuse".

Pour aider à combattre le problème, la présidente de la FTC a noté que ses technologues étaient intégrés dans le travail de l'agence, tant du côté de la protection des consommateurs que du côté de la concurrence, afin de garantir que tout problème lié à l'IA est correctement identifié et géré.

Rebecca massacre, commissaire de la FTC, a minimisé les propos de Khan, expliquant que la FTC s'est adaptée aux nouvelles technologies au fil des ans et a l'expérience pour s'adapter à nouveau à la lutte contre la fraude basée sur l'IA.

"Il y a beaucoup de bruit autour de l'IA en ce moment et c'est important parce que c'est [une] technologie révolutionnaire à certains égards"dit Massacre. "Mais notre obligation est de faire ce que nous avons toujours fait, c'est-à-dire appliquer les outils dont nous disposons à ces technologies en évolution, nous assurer que nous avons l'expérience pour le faire efficacement, mais ne pas être effrayés par l'idée qu'il s'agit d'une nouvelle technologie révolutionnaire, et nous consacrer pleinement à la protection des personnes", a-t-il déclaré.

Le témoignage de la Commission, livré par Khan, Slaughter et le commissaire Álvaro Bedoya, a été présenté devant le sous-comité de l'énergie et du commerce de la Chambre sur l'innovation, les données et le commerce, et a abordé un large éventail de sujets au-delà de l'IA.

Parmi ceux qui ont croisé la route de la technologie, des représentants de l'agence ont détaillé dans leur témoignage écrit le travail de la FTC pour réduire le fléau des appels téléphoniques indésirables ; votre avertissement à l'acheteur de maison en ligne Opendoor concernant vos affirmations trompeuses sur les prix de vente potentiels ; les allégations trompeuses faites par les membres de la communauté des crypto-monnaies ; son travail pour protéger les données de santé privées des consommateurs collectées par les sites Web et les applications ; sa gestion des violations de la COPPA (Children's Privacy Act) par Epic Games, fabricant de Fortnite ; vos commandes à la plate-forme d'apprentissage en ligne Chegg pour manquement à la protection des données personnelles ; sa lutte contre les frais indésirables et l'incapacité pour les consommateurs d'annuler facilement les abonnements ; les pratiques trompeuses dans l'économie des concerts ; beaucoup plus.

L'agence a également indiqué qu'elle avait lancé un nouveau bureau de la technologie (OT) en février dans le but de soutenir le travail politique et d'application de la loi de l'agence en offrant une expertise technique interne, qui pourrait l'aider à suivre l'évolution de la technologie. Le témoignage de la FTC a spécifiquement fait référence à l'accent mis par OT sur des domaines tels que la sécurité et la confidentialité, les marchés numériques, la réalité augmentée et virtuelle, l'économie des concerts et les technologies de suivi des publicités, en plus de la "prise de décision automatisée" ou de ce que l'IA pourrait inclure.

"La création de l'Office of Technology s'appuie sur les efforts déployés par la FTC au fil des ans pour élargir son expertise technologique interne et aligne l'agence sur d'autres agences antitrust et de protection des consommateurs de premier plan dans le monde", a déclaré la FTC.