Jacob Coxon, investigador de inteligencia artificial que trabajó en OpenAI y Anthropic, renunció a esta última compañía y lanzó una dura advertencia sobre el rumbo que está tomando esta tecnología.
Coxon aseguró que las compañías están compitiendo por desarrollar sistemas cada vez más capaces, hasta llegar a una inteligencia artificial que pueda superar capacidades humanas y mejorarse a sí misma.
“Están apostando con nuestras vidas”, escribió el investigador al explicar su salida. Coxon sostuvo que pasó los últimos tres años trabajando en investigación de preentrenamiento entre OpenAI y Anthropic.
¿Por qué Jacob Coxon renunció a Anthropic?
Su decisión fue anunciada el martes 8 de septiembre. Coxon cuestionó tanto a Anthropic como a OpenAI y aseguró que, desde su perspectiva, ninguna está actuando responsablemente frente a los riesgos.
La advertencia más inquietante llegó cuando afirmó que personas dedicadas al desarrollo de estos sistemas creen que una IA futura podría representar incluso una amenaza para la supervivencia humana.
Coxon fue más allá y situó ese escenario antes de que termine esta década. Sin embargo, se trata de su valoración sobre un riesgo futuro y no de evidencia de que exista una fecha para una eventual extinción.
Otro investigador de Anthropic respalda la preocupación
Evan Hubinger, responsable de Alignment Science de Anthropic, respaldó la preocupación de Coxon y estimó en más del 10% el riesgo de que una IA provoque la extinción humana en la próxima década.
Hubinger señaló que todavía no existe una solución definitiva para alinear una eventual superinteligencia con los intereses humanos, aunque Anthropic trabaja en cómo reducir estos riesgos.
¿La inteligencia artificial actual puede acabar con la humanidad?
Aquí existe una diferencia fundamental. Hubinger aclaró que considera bajo el riesgo de los modelos disponibles actualmente. Su preocupación está puesta en una tecnología futura mucho más avanzada.
El escenario que inquieta a estos investigadores es la denominada “automejora recursiva”: una IA capaz de participar en el diseño de sistemas posteriores cada vez más avanzados, acelerando su propio desarrollo.
Anthropic reconoce que sus sistemas ya realizan una parte creciente del trabajo relacionado con el desarrollo de inteligencia artificial. Pero también admite que todavía no se ha alcanzado una automejora recursiva completa.
Por eso, las declaraciones de Coxon y Hubinger no significan que la humanidad tenga una fecha de extinción ni demuestran que una superinteligencia necesariamente vaya a escapar del control humano.
Lo que sí revelan es que el debate sobre los riesgos extremos de la IA ya no ocurre únicamente fuera de las compañías tecnológicas: investigadores directamente involucrados en su desarrollo están haciendo públicas sus preocupaciones.