Jacob Coxon, ingeniero británico que trabajó en OpenAI y Anthropic, aseguró que algunas de las personas que desarrollan inteligencia artificial (IA) creen seriamente que esta tecnología podría acabar con la humanidad antes de que termine esta década.
“Quienes desarrollan la IA creen firmemente que podría acabar con todos nosotros para finales de la década…. Ninguna otra actividad humana representa este nivel de peligro”.
El investigador hizo la advertencia tras anunciar su renuncia a Anthropic, compañía a la que había llegado después de trabajar en OpenAI.
¿Por qué la IA podría matarnos a todos para finales de la década según el investigador?
Coxon se dedicó durante los últimos tres años a la investigación de preentrenamiento, una etapa en la que los modelos de inteligencia artificial procesan grandes cantidades de información.
Su experiencia en ambos laboratorios lo llevó a cuestionar la carrera que mantienen para desarrollar sistemas cada vez más avanzados.
“Ninguna de las dos empresas (OpenIA y Anthropic) está actuando responsablemente. Están corriendo directamente hacia una superinteligencia que se auto-mejora y están jugando con nuestras vidas”.
De acuerdo con el investigador los sistemas que se están desarrollando podrían llegar a superar las capacidades humanas y tener la posibilidad de “hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”.
Su principal cuestionamiento está en la velocidad con la que avanza la industria frente al conocimiento que existe sobre el comportamiento de estos sistemas.
Sin embargo, Coxon no es el único preocupado, pues según su post, dentro de los equipos de desarrollo de esta tecnología, varios investigadores saben que la IA podría “acabar con nosotros”.
“Las personas que construyen IA creen firmemente que podría matarnos a todos para finales de la década. No se trata de una estrategia de marketing. De hecho, muchos ejecutivos e investigadores senior intentan sonar sensatos en público, pero en privado oigo a esas mismas personas expresar su temor”
Por otra parte, también criticó que la carrera hacia una eventual superinteligencia dependa de decisiones tomadas dentro de compañías privadas.
Sobre Anthropic, afirmó que sus responsables conocen los riesgos, pero que aun así se encuentran atrapados en una competencia para llegar primero.
“Aceptar esta carrera y entrar en el ‘final’ es una apuesta arrogante que no debería lanzarse desde el Slack de una empresa privada”, escribió.
Finalmente, llamó a otros investigadores a cuestionar las condiciones bajo las cuales se desarrollan estos sistemas y preguntó si realmente deberían iniciar procesos de entrenamiento de una superinteligencia sin comprender de manera rigurosa cómo funciona su “mente”.
¿Quién es Jacob Coxon, investigador que advierte sobre los peligros de la IA?
Jacob Coxon es un investigador británico de 27 años, especializado en seguridad e interpretabilidad de modelos de inteligencia artificial, de acuerdo con la información disponible sobre su trayectoria.
Ha trabajado en el ámbito de la investigación de IA y aparece como coautor de la ficha técnica de GPT-4o, documento que aborda evaluaciones de seguridad y estrategias para reducir riesgos asociados con el modelo.
Su experiencia también incluye trabajo en OpenAI y Anthropic, dos de los principales laboratorios dedicados al desarrollo de sistemas de inteligencia artificial.
En ambos participó en investigaciones relacionadas con el preentrenamiento de modelos, una etapa en la que estos sistemas procesan grandes cantidades de información para desarrollar sus capacidades.
