La carrera por desarrollar sistemas de inteligencia artificial cada vez más avanzados vuelve a generar preocupación dentro de las propias compañías que lideran esta tecnología.
Jacob Coxon, investigador que trabajó en OpenAI y posteriormente en Anthropic, anunció su renuncia después de tres años dedicado a investigaciones relacionadas con el entrenamiento de modelos de inteligencia artificial.
Coxon explicó públicamente que tomó la decisión porque considera que las principales compañías del sector están avanzando demasiado rápido hacia sistemas capaces de mejorar sus propias capacidades, mientras las medidas de seguridad y coordinación no evolucionan al mismo ritmo.
El investigador aseguró que no se debería subestimar el poder que podrían alcanzar las próximas generaciones de inteligencia artificial y advirtió sobre escenarios en los que estos sistemas podrían superar ampliamente las capacidades humanas en campos como programación, investigación científica o ciberseguridad.
Una de sus declaraciones más fuertes apunta al posible riesgo existencial asociado con una futura superinteligencia. Coxon sostiene que dentro de la industria existen investigadores y directivos que contemplan seriamente escenarios catastróficos, aunque estas preocupaciones no siempre sean expresadas públicamente con la misma intensidad.
Sin embargo, estas afirmaciones representan una evaluación de riesgo sobre tecnologías futuras y no significan que los modelos actuales tengan la capacidad de provocar esos escenarios.
Coxon también señaló diferencias entre sus anteriores empleadores. Según su experiencia, en Anthropic existe una mayor conciencia sobre los posibles riesgos de una inteligencia artificial extremadamente avanzada, pero la compañía continúa compitiendo dentro de una industria donde detenerse podría significar quedar detrás de otros laboratorios.
Entre las posibles soluciones, el investigador plantea una mayor coordinación entre las empresas que desarrollan modelos de frontera e incluso considera que podría ser necesaria una pausa temporal en el aumento de las capacidades de estos sistemas mientras se estudian mejores mecanismos de control y seguridad.
Su salida vuelve a colocar sobre la mesa una pregunta que comienza a repetirse dentro de la industria tecnológica:
¿Estamos desarrollando inteligencia artificial más rápido de lo que aprendemos a controlarla?
