El riesgo de los deepfakes está en aumento debido a la creciente disponibilidad de herramientas de inteligencia artificial para su creación. Según el proveedor de verificación Sumsub, se ha observado un incremento del 245% en la presencia de deepfakes a nivel mundial entre 2023 y 2024, fenómeno impulsado en parte por los próximos procesos electorales. Este fenómeno también está impactando en el ámbito empresarial, de acuerdo con una encuesta reciente realizada por Business.com, el 10% de las empresas han experimentado casos de fraude utilizando deepfakes, como la clonación de voces.
La tendencia hacia las falsificaciones profundas ha beneficiado a las empresas que ofrecen herramientas para combatirlas, como lo demuestra el reciente préstamo de 100 millones de dólares a Pindrop por parte de Hercules Capital. Según el director ejecutivo, Vijay Balasubramaniyan, estos fondos se destinarán al desarrollo de productos y contrataciones.
Según Balasubramaniyan, los avances en inteligencia artificial generativa han hecho que la clonación de voz sea una herramienta poderosa. Destacó la importancia de la detección de deepfake mediante tecnologías de inteligencia artificial para garantizar la seguridad en los centros de llamadas y prevenir posibles fraudes.
La empresa Pindrop desarrolla productos de autenticación multifactor y de prevención de deepfakes específicamente diseñados para compañías en el ámbito bancario, financiero y sectores relacionados. Según la empresa, sus herramientas tienen la capacidad de reconocer a los usuarios en entornos de atención al cliente con mayor exactitud que las alternativas ofrecidas por otras empresas competidoras.
Argumenta Balasubramaniyan que Pindrop utiliza un extenso conjunto de datos compuesto por más de 20 millones de enunciados, tanto reales como sintéticos, con el fin de capacitar a los modelos de inteligencia artificial en la distinción entre voces humanas auténticas y aquellas generadas de forma artificial. Además, se han desarrollado más de 330 modelos de texto a voz (TTS) con el propósito de detectar los modelos TTS empleados en la creación de deepfakes.
El sesgo es una dificultad frecuente en los modelos de detección de deepfakes. En muchos modelos de audio, se observa una inclinación hacia el reconocimiento de voces occidentales y estadounidenses, lo que resulta en un desempeño deficiente con diversos acentos y dialectos. Esta situación podría ocasionar que un detector clasifique erróneamente una voz auténtica como deepfake.
Existe un debate en torno a si el uso de datos de entrenamiento sintéticos, es decir, datos generados por los modelos de inteligencia artificial, contribuye a reducir o acentuar los sesgos. En este sentido, Balasubramaniyan sostiene que los productos de autenticación de voz de Pindrop se enfocan en las «características acústicas y espectrotemporales» de las voces, en contraposición a la pronunciación o al lenguaje.
Balasubramaniyan señaló que los sistemas de reconocimiento de voz basados en inteligencia artificial presentan resultados sesgados debido a las variaciones tonales, de acento, vernáculas y dialectales, lo cual puede tener implicaciones raciales. Estos sesgos se originan en la uniformidad de los datos utilizados para el entrenamiento de dichos sistemas, los cuales pueden carecer de representación de diversas diferencias étnicas, raciales, de género u otras, lo que restringe la diversidad de los datos con los que se capacitan los sistemas de inteligencia artificial.
Desde su fundación en 2011, la empresa Pindrop ha experimentado avances significativos, independientemente de la efectividad de sus productos. Fue creada por Balasubramaniyan, un antiguo empleado de Google, en colaboración con Paul Judge, ex director de investigación de Barracuda Networks, y Mustaque Ahamad. Con sede en Atlanta, la empresa cuenta con aproximadamente 250 empleados y ha logrado recaudar 234,77 millones de dólares en capital de riesgo de inversionistas como Vitruvian Partners, CapitalG, IVP y Andreessen Horowitz.
Al ser consultado sobre la elección de Pindrop de recurrir a la deuda en lugar de al capital en esta ocasión, Balasubramaniyan explicó que fue una decisión considerada como «atractiva» para adquirir fondos para el crecimiento de la empresa de manera eficiente, sin diluir la participación accionaria de Pindrop. Esta estrategia es frecuentemente empleada en el ámbito empresarial.
Según Balasubramaniyan, los fondos obtenidos a través del préstamo posibilitarán a la empresa Pindrop expandir su tecnología hacia diferentes sectores, tales como el sector de la salud, el comercio minorista, los medios de comunicación y el turismo.
También afirmó que, con la introducción de la Inteligencia Artificial generativa, se ha observado un incremento notable en la demanda de las soluciones de la empresa a nivel global. Además, se tiene la intención de ampliar la presencia a naciones que enfrentan serias amenazas derivadas de las deepfakes. Según sus palabras, Pindrop se encuentra en una posición estratégica para asistir a las compañías en resguardarse a sí mismas y a sus clientes ante el crecimiento de los riesgos de fraude y deepfakes, a través de propuestas de prevención de fraude, autenticación y verificación de la autenticidad.
