FTC anuncia ganadores del desafío de clonación de voz, y tiene una palabra o dos para empresas

Clonación de voz: ¿una bendición para personas con problemas médicos o una bonanza habilitada para estafadores? La respuesta depende de quién usa la tecnología y cómo la están utilizando. Es por eso que la FTC está adoptando un enfoque de 360 ​​° en la batalla contra el mal uso de la clonación de la voz. Una parte de esa estrategia integral es el desafío de clonación de voz de la FTC anunciado en noviembre, y estamos entusiasmados de revelar a los ganadores.

Las estafas de imitadores sacaron a los consumidores de $ 1.1 mil millones en 2023. La regla de regulación comercial de la FTC sobre la suplantación del gobierno y las empresas entró en vigencia el 1 de abril de 2024, y ofrece nuevas herramientas para asumir esa forma de fraude. También estamos aceptando comentarios públicos hasta el 30 de abril en un aviso suplementario de reglamentación propuesta que prohibiría la suplantación de las personas.

Así es como la clonación de voz encaja en la imagen. Está familiarizado con las estafas de emergencia familiar en las que una persona llama que afirma ser un pariente cercano que necesita dinero lo antes posible para gastos de fianza o hospital. Y ha oído hablar de los estafadores que se hacen pasar por un "jefe" que llama a un empleado y que los dirige a transferir fondos. Tan daños como las estafas ya son, imagínese si la voz en el otro extremo del teléfono suena idéntica a un miembro o supervisor de la familia real. Ese es solo un peligro que plantea el mal uso de la tecnología de clonación de voz.

La FTC continuará la lucha de la aplicación de la ley, pero los investigadores, empresarios y expertos en tecnología tienen un papel que desempeñar en el enfoque de la agencia. En noviembre anunciamos el desafío de clonación de voz destinado a fomentar ideas innovador sobre la prevención, el monitoreo y la evaluación de la clonación de voz maliciosa. Y ahora, rollo de batería por favor, nos complace anunciar a los tres ganadores que dividirán un premio de $ 35,000:

• Tienes detectar: Esta presentación de Omnispeech está dirigida a aplicaciones y dispositivos de consumo y empresas y usaría algoritmos de IA para diferenciar entre patrones de voz genuinos y sintéticos.
• Desfasionar: Ning Zhang de la Universidad de Washington ha sugerido usar una forma de marca de agua. La propuesta requiere agregar perturbaciones cuidadosamente elaboradas a muestras de voz que las personas no podrían escuchar, pero eso podría desechar los clonadores de voz de IA para que el audio no pudiera clonarse con precisión.
• Historia de origen: Enviado por OriginStory LLC, esta tecnología tiene como objetivo autenticarse en el momento de la grabación que es una voz humana mediante el uso de sensores estándares ya integrados en muchos dispositivos.

Aunque no es elegible para el premio en efectivo debido al tamaño de la compañía, la cuarta entrada ganadora es de Seguridad de Pindrop. Su tecnología de detección de clonación de voz detecta clones de voz y a audio profundos en tiempo real. La tecnología evalúa cada llamada telefónica entrante o audio digital en fragmentos de dos segundos y marca las que son posibles falsificaciones profundas.

La FTC agradece al panel de jueces que evaluaron las presentaciones: el profesor Arvind Narayanan de la Universidad de Princeton, el profesor asistente Britt París de la Universidad de Rutgers, y Beau Woods, CEO de Stratigos Security y un compañero de innovación de seguridad cibernética con el Consejo Atlántico.

Combatir el fraude habilitado para AI es una batalla que la FTC está luchando en muchos frentes y todos tenemos una participación en la protección de los consumidores. Estamos agradecidos con los ganadores, los participantes y los jueces del desafío de clonación de voz y esperamos un compromiso continuo con académicos, tecnólogos, miembros de la industria tecnológica y socios de la ley y los socios gubernamentales.

Dos pensamientos finales para las empresas. Primero, los estafadores también se dirigen a las empresas, por lo que tiene interés en apoyar los esfuerzos para detener el mal uso de la clonación de voz. En segundo lugar, los estafadores rara vez operan solos. Para beneficiarse de sus esquemas, confían en el apoyo de las empresas que ofrecen los servicios adicionales que necesitan: plataformas, pagos, etc., preste atención a la advertencia de que prestar una mano a los delincuentes de clonación de voz podría llevarlo en agua caliente legal.