A medida que la inteligencia artificial (IA) gana terreno surgen múltiples usos en favor de los consumidores, pero también ya se reportan casos en los que delicuentes clonan la voz de personas para fingir secuestros, emular figuras públicas o estafar a las víctimas.

En aras de prevenir el uso nocivo de la clonación de voz mediante IA, la Comisión Federal de Comercio (FTC, por sus siglas en inglés) abrió una convocatoria para recibir ideas o propuestas para proteger a los consumidores.

El ganador recibirá un premio de $25,000.

“Utilizaremos todas las herramientas disponibles para prevenir daños al público derivados del abuso de la tecnología de clonación de voz”, afirmó Samuel Levine, director de la Oficina de Protección al Consumidor de la FTC. “Queremos abordar los daños antes de que lleguen al mercado y hacer cumplir la ley cuando sea necesario”.

“Este desafío exploratorio aprovecha una de nuestras muchas herramientas en la FTC”, añadió Stephanie T. Nguyen, directora de Tecnología de la FTC. “El desafío está diseñado de manera que las empresas sean responsables de los efectos primarios y secundarios de los productos que lanzan al mercado”.

La tecnología de clonación de voz ha avanzado a medida que la inteligencia artificial de texto a voz ha mejorado y, con ello, se crean usos deseables como asistencia médica para aquellos que pueden haber perdido la voz debido a un accidente o enfermedad.

Pero, a la vez, la FTC ha expresado preocupaciones sobre cómo la tecnología de clonación de voz podría ser utilizada para perjudicar a los consumidores y ya está ocurriendo. Por ejemplo, facilita que delincuentes clonen la voz de una familiar, amigo o socio para fingir secuestros y exigir rescate, así como otros fraudes de suplantación de identidad como engañar a los consumidores con las voces de celebridades.

Ante la situación, la FTC recalcó que seguirá utilizando su autoridad para enfocarse en empresas que abusan de la tecnología para perjudicar a los consumidores y a la competencia. Como complemento, lanzó el “Voice Cloning Challenge” para recabar propuestas innovadoras de productos, políticas o procedimientos que ayuden a prevenir, monitorear y evaluar el uso malicioso de la tecnología de clonación de voz.

Las propuestas del desafío deben abordar al menos uno de estos puntos de intervención:

1. Prevención o autenticación: Debe proporcionar una manera de limitar el uso o la aplicación de software de clonación de voz por parte de usuarios no autorizados.

2. Detección o monitoreo en tiempo real: Debe proporcionar una manera de detectar voces clonadas o el uso de la tecnología de clonación de voz.

3. Evaluación post-uso: Debe facilitarar una manera de verificar si un clip de audio contiene voces clonadas.

La FTC aceptará propuestas en línea desde el 2 de enero hasta el 12 de enero de 2024. La información sobre cómo enviar una propuesta para el desafío, así como las reglas completas del desafío, se pueden encontrar en el sitio web del desafío.

El Desafío de Clonación de Voz es el quinto desafío de la FTC emitido al amparo de la ley federal America Competes. El objetivo de los desafíos es estimular el desarrollo de herramientas para abordar problemas del consumidor, incluido uno en 2012 dirigido a combatir las llamadas automáticas y un desafío en 2017 centrado en abordar vulnerabilidades de seguridad relacionadas con dispositivos de Internet de las cosas.