FTC alerta que tecnologia de IA como ChatGPT pode "turbinar" fraude

Num público Realizado no Capitólio e focado no trabalho da Federal Trade Commission para proteger os consumidores americanos contra fraudes e outras práticas enganosas, o presidente da FTC Lina Khan, e outros comissários alertaram os representantes da Câmara dos Deputados potencial das modernas tecnologias de IA, como ChatGPT, para ser usado para "turbinar" a fraude. O alerta veio em resposta a uma pergunta sobre como a Comissão estava trabalhando para proteger os americanos de práticas desleais relacionadas aos avanços tecnológicos.

Khan respondeu concordando que a IA apresenta novos riscos que a FTC deve administrar, apesar dos outros benefícios que pode apresentar.

"IA apresenta todo um conjunto de oportunidades, mas também apresenta todo um conjunto de riscos"Khan disse aos representantes da Câmara. “E acho que já vimos maneiras de usá-lo para turbinar fraudes e golpes. Temos alertado os participantes do mercado de que os casos em que as ferramentas de IA são efetivamente projetadas para enganar as pessoas podem colocá-las na mira da ação da FTC”, afirmou.

Khan alertou ainda que a capacidade da IA ​​de turbinar a fraude deve ser considerada uma "preocupação séria".

Para ajudar a combater o problema, a presidente da FTC observou que seus tecnólogos estavam sendo integrados ao trabalho da agência, tanto do lado da defesa do consumidor quanto da concorrência, para garantir que quaisquer problemas com a IA sejam devidamente identificados e gerenciados.

Massacre de Rebeca, comissário da FTC, minimizou as observações de Khan, explicando que a FTC se adaptou às novas tecnologias ao longo dos anos e tem experiência para se adaptar novamente à luta contra a fraude impulsionada pela IA.

"Há muito barulho em torno da IA ​​agora e é importante porque é [uma] tecnologia revolucionária em alguns aspectos"disse Slaughter. “Mas nossa obrigação é fazer o que sempre fizemos, que é aplicar as ferramentas que temos a essas tecnologias em mudança, garantir que tenhamos experiência para fazê-lo de maneira eficaz, mas não nos assustar com a ideia de que essa é uma nova tecnologia revolucionária e nos dedicar totalmente a proteger as pessoas”, disse ele.

O testemunho da Comissão, entregue por Khan, Slaughter e o comissário Álvaro Bedoya, foi apresentado ao Subcomitê de Inovação, Dados e Comércio da Câmara de Energia e Comércio e abordou uma ampla gama de tópicos além da IA.

Entre aqueles que se cruzaram com a tecnologia, representantes da agência detalharam em seu depoimento por escrito o trabalho da FTC para reduzir o flagelo das chamadas telefônicas de spam; o seu aviso ao comprador online da Opendoor relativamente às suas alegações enganosas sobre os preços de venda potenciais; afirmações enganosas feitas por membros da comunidade de criptomoedas; seu trabalho para proteger os dados privados de saúde dos consumidores coletados por sites e aplicativos; seu tratamento das violações da COPPA (Lei de Privacidade das Crianças) pela Epic Games, fabricante do Fortnite; seus pedidos à plataforma de aprendizagem online Chegg por falha em proteger dados pessoais; sua luta contra as taxas de lixo e a incapacidade dos consumidores de cancelar assinaturas com facilidade; práticas enganosas na economia gig; e muito mais.

A agência também observou que lançou um novo escritório de tecnologia (OT) em fevereiro com o objetivo de apoiar a política da agência e o trabalho de aplicação da lei, oferecendo conhecimento técnico interno, o que poderia ajudá-la a acompanhar as mudanças tecnológicas. O testemunho da FTC se referiu especificamente ao foco da OT em áreas como segurança e privacidade, mercados digitais, realidade aumentada e virtual, economia de shows e tecnologias de rastreamento de anúncios, além de “tomada de decisão automatizada” ou o que a IA pode incluir.

“A criação do Escritório de Tecnologia se baseia nos esforços da FTC ao longo dos anos para ampliar sua experiência interna em tecnologia e alinha a agência com outras agências líderes antitruste e de proteção ao consumidor em todo o mundo”, afirmou a FTC.