Meta tiene una nueva IA, pero no vas a poder usarla: es una delincuente en potencia, y los peligros superan a los beneficios.
Meta ha presentado Voicebox, su ChatGPT que habla, una nueva inteligencia artificial generativa que por ahora no va a hacer pública, porque considera que es demasiado peligrosa.
Voicebox es una inteligencia artificial generativa que en lugar de generar texto como ChatGPT, genera audio hablado.
Solo hay que tomar una de sus características para darse cuenta de lo peligrosa que puede ser: con solo dos segundos de audio, genera cualquier diálogo imitando a la perfección ese tono de voz.
Es fácil imaginar las aplicaciones malignas de esta característica, en todo tipo de deepfakes, estafas y suplantaciones de personalidad.
Voicebox, la nueva IA de Meta que habla
Voicebox es, según Meta, la inteligencia artificial basada en voz más avanzada que existe. A nivel técnico, su principal ventaja es la forma en que aprende.
Otras IAs de este estilo requieren un entrenamiento muy preciso con voces y grabaciones muy concretas, para poder realizar ciertas tareas.
Voicebox usa una técnica llamada Flow Matching, que solo requiere unos segundos de audio y su traducción, para que Voicebox pueda trabajar con él.
Ya hemos explicado la primera de sus funciones: tomando un audio de una persona de apenas dos segundos, puede recrear cualquier diálogo usando su tono de voz.
Voicebox ha sido entrenada con más de 50.000 horas de audiolibros de dominio público en Inglés, francés, alemán, español, polaco y portugués, así que habla, y traduce, todos estos idiomas.
Puedes darle una frase en un idioma, ya sea en texto o en voz, y la traduce automáticamente a los otros cinco, usando el tono de voz de la persona que pronuncia la frase original.
Voicebox también es capaz de corregir fallos en el audio y eliminar ruidos de fondo, como ladridos de perro, bocinas de coche, puertas que se cierran, etc.
Como vemos, tiene muchas aplicaciones interesantes y beneficiosas. Puede usarse para ayudar a los creadores a editar fácilmente las pistas de audio, permitir a las personas con deficiencias visuales escuchar los mensajes escritos de sus amigos con su voz, y que la gente hable cualquier idioma extranjero con su propia voz.
Pero como toda inteligencia artificial generativa, también tiene su lado oscuro: puede usarse para suplantar la voz de otra persona en todo tipo de estafas y deepfakes.
Voicebox, el ChatGPT que habla de Meta, de momento no se va a hacer público, porque es demasiado peligroso. La compañía de Zuckerberg opta por la cautela, algo que no se puede decir de OpenAI y el resto…
ComputerHoy
