Más noticias – Últimas noticias
Investigadores de Microsoft en Asia han publicado un estudio que aborda los riesgos de un programa de inteligencia artificial (IA) diseñado para generar sonidos muy realistas.
Los riesgos de la inteligencia artificial
Los expertos siguen advirtiendo sobre los peligros potenciales de la inteligencia artificial. Un artículo publicado por los propios investigadores de Microsoft revela que la empresa está desarrollando un sistema con «riesgos potenciales».
El modelo VAL-E 2
El modelo de inteligencia artificial en cuestión es VALL-E 2, un programa capaz de convertir texto en voz. Esta tecnología se conoce como TTS (texto a voz).
Habilidades VAL-E 2
Los investigadores del equipo de Microsoft Asia observaron que este nuevo modelo puede pronunciar de forma natural palabras complejas, incluso aquellas que son difíciles de leer o contienen frases repetidas.
Posibles riesgos
También advierten de «riesgos potenciales» de hacer un mal uso de VALL-E 2, como acceder a sistemas de identificación basados en voz o hacerse pasar por otras personas.
recomendaciones
El estudio sugiere que los usuarios tendrían que dar su consentimiento al uso de su voz para que esta IA pueda pronunciar textos. Conociendo los peligros identificados, se recomienda introducir un protocolo que garantice que el «dueño» del sonido aprueba su uso.
Además, se discute la posibilidad de desarrollar un modelo capaz de detectar si un sonido ha sido sintetizado con el VALL-E 2.
Declaraciones de Microsoft
En su página de inteligencia artificial, Microsoft afirmó que la empresa «no tiene planes de incorporar VALL-E 2 en un producto o ampliar su acceso público».
También te puede interesar – Otros medios relacionados