Un ingeniero británico de Anthropic, que también trabajó tres años para OpenAI, presentó su dimisión porque dice que ambas compañías no están actuando con responsabilidad. El experto asegura que estas empresas están jugando con las vidas humanas.
Jacob Coxon, ingeniero de software al que los medios identifican como uno de los desarrolladores de GPT-4o y GPT-4.5, aseguró en X que las personas que están tras el desarrollo exponencial de la IA «podrán matarnos a todos al final de esta década», porque «no hay otra actividad humana que suponga este nivel de amenaza».
Para el ingeniero, de 27 años, se está subestimando el poder de la tecnología, pero los proyectos de IA serán pronto sistemas sobrehumanos. Esta tecnología podrá hackear cualquier cosa, revolucionar todos los ámbitos y ganar verdadero poder y recursos.
En su opinión, hay una conciencia de esta realidad tanto en OpenAI como en Anthropic, pero ve una diferencia. OpenAI tal vez no ha internalizado en profundidad los retos civilizacionales, mientras que Anthropic los comprende bien. Sin embargo, están atrapados en la carrera por llegar primero, aun cuando en el caso más optimista se trate de llegar primero para actuar con responsabilidad.
Coxon no ve otra salida que la coordinación entre los distintos proyectos de IA y de las empresas involucradas en ellos. Siente que eso no se está produciendo y aboga entonces por acciones costosas, como una prohibición temporal de mejorar las capacidades del modelo (‘model capabilities’). Además pide a los investigadores de la IA que reflexionen profundamente sobre la cuestión.
«¿Quieren potenciar un ‘aprendizaje por refuerzo’ (RL en la jerga técnica) superinteligente sin un entendimiento riguroso de su mente? -pregunta a sus colegas en la IA- ¿Van a bajar la cabeza porque ‘total, ya está ocurriendo’, o aprovechar este momento para abogar por condiciones diferentes?», concluye Coxon en un hilo que ha tenido ya una enorme repercusión mediática.
ComputerHoy
