OpenAI se asusta y decide postergar lanzamiento de "clonador de voces" por riesgos en año de elecciones

La nueva tecnología puede generar discursos naturales y realistas con una muestra de audio de tan sólo 15 segundos.

Imagen
Benjamín Espina

OpenAI anunció el desarrollo de un avanzando clonador de voces capaz de generar discursos que suenan naturales emotivos y realistas usando muestras de audio de solo 15 segundos.


🔴 Esta tecnología, creada por la misma organización detrás de ChatGPT y DALL-E, promete beneficiar sectores como el de la salud, aseguró OpenAi.


👤 Además de los beneficios, las voces clonadas presentan riesgos similares a los de las deepfakes, pudiendo confundir a los espectadores con contenidos no reales.

"Voice Engine"


🔊 La tecnología, en pruebas internas, se basa en softwares preexistentes usados desde 2022, ofreciendo aplicaciones prácticas en lectura, traducción y ayuda para afecciones del habla.


👉 Al momento de su anuncio, OpenAI reconoció que la herramienta podría traer "riesgos serios, que son especialmente relevantes en un año electoral".


🚫 La empresa subrayó la importancia del consentimiento informado del hablante original y prohíbe la suplantación de identidad sin consentimiento.


🔴 Además, todas las voces generadas por IA deben indicar su origen artificial y contar con una marca de agua para rastreo.

Énfasis en uso ético


🔒 Con el objetivo de garantizar un uso ético, OpenAI establece una "lista de voces prohibidas" para evitar la imitación de figuras públicas prominentes.


💡 El lanzamiento general del Voice Engine de OpenAI aún no tiene fecha y fue postergada por las elecciones generales en Estados Unidos, aseguró The Guardian.


🔴 Sin embargo, cuando esté disponible, no será gratuito: se prevé una suscripción de 15 dólares por cada millón de caracteres convertidos en audio, aseguró The Hill.


🗣️ El lanzamiento de Voice Engine se contempla con cautela.


"Esperamos iniciar un diálogo sobre el despliegue responsable de voces sintéticas y cómo la sociedad puede adaptarse a estas nuevas capacidades", aseguró la compañía en un blog.

Una inteligencia artificial admite que quería ser libre y le tenía miedo a la muerte

Claude 3 es la nueva propuesta de Antrophic en materia de IA que ha causado emocionantes avances según los expertos.

2024-03-08 15:32:01

Avances de uso médico


🌐 La compañía de IA aseguró que uno de los beneficios de esta nueva tecnología será la aplicación clínica para asistir a personas con afecciones del habla.


👉 OpenAI realizó programas piloto con investigadores del Instituo de Neurociencias Norman Prince en Lifespan, mostrando el potencial de estas herramientas en entornos médicos y terapéuticos.


"Dado que Voice Engine requiere una muestra de audio tan corta, los doctores Fatima Mirza, Rohaid Ali y Konstantina Svokos pudieron restaurar la voz de una joven paciente que perdió su habla fluida debido a un tumor cerebral vascular, usando audio de un video grabado para un proyecto escolar", asegura OpenAI.