La carrera por desarrollar sistemas de inteligencia artificial cada vez más avanzados volvió a quedar en el centro del debate después de que un ingeniero vinculado a Anthropic anunciara su renuncia y cuestionara públicamente la manera en que las principales compañías del sector están enfrentando los riesgos de esta tecnología.
Se trata de Jacob Coxon, ingeniero de software británico de 27 años, quien aseguró en una serie de publicaciones en X que tanto Anthropic como OpenAI no estarían actuando con la responsabilidad necesaria frente al desarrollo acelerado de la inteligencia artificial.
Coxon, quien trabajó durante aproximadamente tres años en OpenAI y es identificado en medios como uno de los ingenieros relacionados con el desarrollo de GPT-4o y GPT-4.5, aunque sin ocupar cargos ejecutivos, sostuvo que la industria estaría avanzando hacia una tecnología cuyas consecuencias podrían superar ampliamente las capacidades de control de sus propios desarrolladores.
“Podría matarnos a todos”
Una de las advertencias más fuertes realizadas por el ingeniero apunta al riesgo existencial que, según él, podría representar una inteligencia artificial capaz de superar ampliamente las capacidades humanas.
Coxon afirmó que algunas de las personas involucradas en el desarrollo de estos sistemas consideran que la inteligencia artificial podría llegar a representar una amenaza mortal para la humanidad durante esta década.
A su juicio, se está subestimando el potencial de una tecnología que podría convertirse próximamente en sistemas “sobrehumanos”, con capacidad para intervenir en diferentes ámbitos de la sociedad, encontrar vulnerabilidades tecnológicas y obtener recursos y poder de manera autónoma.
El ingeniero considera que el problema no radica únicamente en el avance tecnológico, sino en la velocidad con la que se está produciendo y en la competencia entre las compañías que buscan alcanzar primero los sistemas más avanzados.
La crítica a Anthropic y OpenAI
Coxon aseguró que tanto Anthropic como OpenAI son conscientes de los riesgos asociados con el desarrollo de modelos cada vez más capaces, pero considera que ambas empresas estarían enfrentando el problema de manera diferente.
En el caso de OpenAI, sostuvo que podría existir una comprensión insuficiente de las consecuencias que estos avances tendrían para la humanidad.
Sobre Anthropic, en cambio, planteó una preocupación distinta: que la compañía comprendería mejor los riesgos, pero estaría atrapada en una carrera tecnológica para alcanzar primero determinados objetivos.
Para Coxon, incluso la intención de desarrollar sistemas avanzados con mayores mecanismos de seguridad no elimina el problema si la competencia obliga a las empresas a avanzar cada vez más rápido.
Pide frenar temporalmente el desarrollo de capacidades
Ante este escenario, el exingeniero considera necesaria una mayor coordinación entre las compañías que desarrollan inteligencia artificial.
Entre sus propuestas está incluso una medida que tendría un enorme impacto para la industria: detener temporalmente el incremento de las capacidades de los modelos mientras los investigadores logran comprender mejor el funcionamiento y los riesgos de estos sistemas.
Coxon también cuestionó que la industria avance hacia modelos capaces de realizar procesos cada vez más complejos sin contar, según su percepción, con un conocimiento suficientemente riguroso sobre cómo podrían comportarse esos sistemas.
Su llamado está dirigido especialmente a los investigadores y desarrolladores de inteligencia artificial, a quienes pidió no asumir que el avance tecnológico es inevitable y que, por esa razón, no queda otra alternativa que continuar.
Investigador de Anthropic respalda parte de la advertencia
Las declaraciones adquirieron todavía más repercusión después de que Evan Hubinger, investigador de Anthropic, respondiera públicamente a Coxon.
Hubinger sostuvo que el ingeniero tiene razón al advertir sobre determinados riesgos y afirmó que dentro de Anthropic existe una preocupación real sobre la posibilidad de que una inteligencia artificial extremadamente avanzada pueda representar una amenaza existencial.
El investigador incluso señaló que, personalmente, considera que existe una probabilidad superior al 10 % de que ese escenario pueda producirse durante la próxima década.
Sin embargo, Hubinger introdujo un matiz importante: considera que el riesgo asociado con los modelos actuales es bajo frente al escenario que realmente le preocupa.
Según explicó, el mayor peligro estaría relacionado con el surgimiento de una superinteligencia capaz de mejorar sus propias capacidades de manera recursiva, un proceso que, desde su perspectiva, estaría avanzando más rápido de lo previsto.
No es la primera alarma dentro de la industria
Las advertencias de Coxon se suman a una serie de cuestionamientos que durante los últimos años han surgido desde el propio corazón de la industria tecnológica.
Uno de los casos más conocidos es el de Geoffrey Hinton, considerado uno de los pioneros de las redes neuronales y ganador del Premio Nobel de Física, quien dejó su cargo en Google en 2023 para poder hablar públicamente sobre los riesgos potenciales de la inteligencia artificial.
También en 2024 un grupo de exempleados de OpenAI expresó públicamente su preocupación por la velocidad con la que se estaban desarrollando estos sistemas y reclamó mayores garantías para quienes dentro de las empresas quieran advertir sobre posibles riesgos.
El debate, por tanto, ya no se limita a especialistas externos que observan la evolución de la inteligencia artificial desde fuera de la industria.
Cada vez son más las voces provenientes de las propias compañías tecnológicas que cuestionan si la carrera por alcanzar sistemas más poderosos está avanzando a una velocidad superior a la capacidad de la sociedad, los gobiernos y los propios investigadores para comprender y controlar sus consecuencias.
La renuncia de Coxon vuelve a poner sobre la mesa una pregunta que sigue sin una respuesta definitiva: ¿hasta dónde debería llegar la carrera por crear una inteligencia artificial cada vez más poderosa antes de que sea necesario detenerse a evaluar sus riesgos?