OpenAI se asusta y decide postergar lanzamiento de "clonador de voces" por riesgos en año de elecciones
La nueva tecnología puede generar discursos naturales y realistas con una muestra de audio de tan sólo 15 segundos.
OpenAI anunció el desarrollo de un avanzando clonador de voces capaz de generar discursos que suenan naturales emotivos y realistas usando muestras de audio de solo 15 segundos.
🔴 Esta tecnología, creada por la misma organización detrás de ChatGPT y DALL-E, promete beneficiar sectores como el de la salud, aseguró OpenAi.
👤 Además de los beneficios, las voces clonadas presentan riesgos similares a los de las deepfakes, pudiendo confundir a los espectadores con contenidos no reales.
We're sharing our learnings from a small-scale preview of Voice Engine, a model which uses text input and a single 15-second audio sample to generate natural-sounding speech that closely resembles the original speaker. https://t.co/yLsfGaVtrZ
— OpenAI (@OpenAI) March 29, 2024
"Voice Engine"
🔊 La tecnología, en pruebas internas, se basa en softwares preexistentes usados desde 2022, ofreciendo aplicaciones prácticas en lectura, traducción y ayuda para afecciones del habla.
👉 Al momento de su anuncio,OpenAI reconoció que la herramienta podría traer "riesgos serios, que son especialmente relevantes en un año electoral".
🚫 La empresa subrayó la importancia del consentimiento informado del hablante original y prohíbe la suplantación de identidad sin consentimiento.
🔴 Además, todas las voces generadas por IA deben indicar su origen artificial y contar con una marca de agua para rastreo.
OpenAI está trabajando en "Voice Engine", una herramienta capaz de clonar voces - El modelo utiliza una entrada de texto y una única muestra de audio de 15 segundos para generar un audio con sonido natural similar al hablante original pic.twitter.com/JWb1hfIrAs
— flora💚🌱 (@florbarbeira) March 31, 2024
Énfasis en uso ético
🔒 Con el objetivo de garantizar un uso ético, OpenAI establece una "lista de voces prohibidas" para evitar la imitación de figuras públicas prominentes.
💡 El lanzamiento general del Voice Engine de OpenAI aún no tiene fecha y fue postergada por las elecciones generales en Estados Unidos, aseguró The Guardian.
🔴 Sin embargo, cuando esté disponible, no será gratuito: se prevé una suscripción de 15 dólares por cada millón de caracteres convertidos en audio, aseguró The Hill.
🗣️ El lanzamiento de Voice Engine se contempla con cautela.
"Esperamos iniciar un diálogo sobre el despliegue responsable de voces sintéticas y cómo la sociedad puede adaptarse a estas nuevas capacidades", aseguró la compañía en un blog.
Avances de uso médico
🌐 La compañía de IA aseguró que uno de los beneficios de esta nueva tecnología será la aplicación clínica para asistir a personas con afecciones del habla.
👉 OpenAI realizó programas piloto con investigadores del Instituo de Neurociencias Norman Prince en Lifespan, mostrando el potencial de estas herramientas en entornos médicos y terapéuticos.
"Dado que Voice Engine requiere una muestra de audio tan corta, los doctores Fatima Mirza, Rohaid Ali y Konstantina Svokos pudieron restaurar la voz de una joven paciente que perdió su habla fluida debido a un tumor cerebral vascular, usando audio de un video grabado para un proyecto escolar", asegura OpenAI.