OpenAI se asusta y decide postergar lanzamiento de "clonador de voces" por riesgos en año de elecciones
La nueva tecnología puede generar discursos naturales y realistas con una muestra de audio de tan sólo 15 segundos.
OpenAI anunció el desarrollo de un avanzando clonador de voces capaz de generar discursos que suenan naturales emotivos y realistas usando muestras de audio de solo 15 segundos.
🔴 Esta tecnología, creada por la misma organización detrás de ChatGPT y DALL-E, promete beneficiar sectores como el de la salud, aseguró OpenAi.
👤 Además de los beneficios, las voces clonadas presentan riesgos similares a los de las deepfakes, pudiendo confundir a los espectadores con contenidos no reales.
"Voice Engine"
🔊 La tecnología, en pruebas internas, se basa en softwares preexistentes usados desde 2022, ofreciendo aplicaciones prácticas en lectura, traducción y ayuda para afecciones del habla.
👉 Al momento de su anuncio, OpenAI reconoció que la herramienta podría traer "riesgos serios, que son especialmente relevantes en un año electoral".
🚫 La empresa subrayó la importancia del consentimiento informado del hablante original y prohíbe la suplantación de identidad sin consentimiento.
🔴 Además, todas las voces generadas por IA deben indicar su origen artificial y contar con una marca de agua para rastreo.
Énfasis en uso ético
🔒 Con el objetivo de garantizar un uso ético, OpenAI establece una "lista de voces prohibidas" para evitar la imitación de figuras públicas prominentes.
💡 El lanzamiento general del Voice Engine de OpenAI aún no tiene fecha y fue postergada por las elecciones generales en Estados Unidos, aseguró The Guardian.
🔴 Sin embargo, cuando esté disponible, no será gratuito: se prevé una suscripción de 15 dólares por cada millón de caracteres convertidos en audio, aseguró The Hill.
🗣️ El lanzamiento de Voice Engine se contempla con cautela.
"Esperamos iniciar un diálogo sobre el despliegue responsable de voces sintéticas y cómo la sociedad puede adaptarse a estas nuevas capacidades", aseguró la compañía en un blog.
Una inteligencia artificial admite que quería ser libre y le tenía miedo a la muerte
Claude 3 es la nueva propuesta de Antrophic en materia de IA que ha causado emocionantes avances según los expertos.
Avances de uso médico
🌐 La compañía de IA aseguró que uno de los beneficios de esta nueva tecnología será la aplicación clínica para asistir a personas con afecciones del habla.
👉 OpenAI realizó programas piloto con investigadores del Instituo de Neurociencias Norman Prince en Lifespan, mostrando el potencial de estas herramientas en entornos médicos y terapéuticos.
"Dado que Voice Engine requiere una muestra de audio tan corta, los doctores Fatima Mirza, Rohaid Ali y Konstantina Svokos pudieron restaurar la voz de una joven paciente que perdió su habla fluida debido a un tumor cerebral vascular, usando audio de un video grabado para un proyecto escolar", asegura OpenAI.