Alerta en el mundo de la inteligencia artificial: Jacob Coxon, investigador que trabajó en Anthropic y OpenAI, renunció a su puesto y decidió hacer pública su preocupación por el rumbo que está tomando el desarrollo de la IA.
Coxon advirtió que las grandes empresas están avanzando hacia una superinteligencia capaz de mejorarse a sí misma y aseguró que muchos de quienes trabajan en el sector creen que la IA podría llegar a causar la extinción humana antes de que termine la década.
La advertencia fue respaldada por Evan Hubinger, investigador de Anthropic, quien afirmó que personalmente considera que existe una probabilidad superior al 10% de que la IA pueda matar a toda la humanidad durante la próxima década. Aclaró, sin embargo, que el riesgo de los modelos actuales es bajo y que su preocupación principal está puesta en una futura superinteligencia.
Las declaraciones reavivaron el debate internacional sobre hasta dónde debería avanzar la carrera por desarrollar sistemas de IA cada vez más poderosos y qué controles deberían implementarse antes de alcanzar la superinteligencia.