El director ejecutivo de Meta, Mark Zuckerberg, apostó por que evaluadores y asesores independientes analicen los sistemas y los modelos de inteligencia artificial (IA) que desarrollan las empresas, pero no por frenar su desarrollo.
Lo hizo en una entrada en la red social X. Señaló que cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar a sus modelos de una forma segura. También se tiene la capacidad de tomar sus propias medidas para garantizar que eso suceda.
Zuckerberg recordó que Meta retrasó durante meses el lanzamiento de su último modelo de inteligencia artificial (Muse) para centrarse en su seguridad. No exigieron al resto de empresas que lo hicieran también. “Simplemente lo hicimos como parte de nuestro trabajo diario porque era claramente lo correcto para la gente y para nosotros», mantiene.
La gente, según el máximo responsable de Meta, no va a querer usar agentes que no estén «alineados» con ellos y que no hagan lo que se les pide. Los laboratorios tienen a su juicio el incentivo de preparar mejor sus modelos.
Sobre el debate para ralentizar el progreso de las capacidades que proponen los dirigentes de otras grandes tecnológicas, Zuckerberg asegura que la confianza y la alineación se están convirtiendo rápidamente en las capacidades más importantes que diferenciarán a los agentes y modelos.
«Los laboratorios se enfrentan a una responsabilidad significativa si sus modelos causan daño, por lo que también tienen un fuerte incentivo para evitarlo», escribió en X. Mantuvo que contratar evaluadores y asesores independientes es la mejor práctica de la industria.
Afirma que Meta asumió ese compromiso con la seguridad y que otros laboratorios también pueden hacerlo. La clave para construir un futuro positivo para todos reside en mantener el equilibrio de poder adecuado.
ComputerHoy
