Evan Hubinger, investigador senior en Anthropic, declaró que la probabilidad de que la IA provoque la extinción de la humanidad supera el 10% en los próximos diez años
"LA IA PODRÍA EXTREMINARNOS EN 10 AÑOS": EXPERTOS DE ANTHROPIC REVELAN UN RIESGO REAL DEL 10%
Evan Hubinger, investigador senior en alineación de inteligencia artificial en Anthropic, declaró que la probabilidad de que la IA provoque la extinción de la humanidad supera el 10% en los próximos diez años.
La estimación fue emitida tras la renuncia de su colega Jacob Coxon, exentrenador de modelos en OpenAI y Anthropic. Coxon dimitió señalando que los principales laboratorios tecnológicos están compitiendo por desarrollar sistemas automejorables sin contar con un marco de seguridad efectivo.
Hubinger reconoció abiertamente que Anthropic carece actualmente de un plan técnico definitivo para resolver el problema de la alineación en sistemas de superinteligencia.
Por su parte, Coxon afirmó que los líderes del sector construyen estas tecnologías conscientes de que existe la posibilidad real de causar un cataclismo global para finales de esta década, asumiendo ese margen de peligro en un entorno competitivo público.
Analistas en gobernanza tecnológica destacan que la cifra de Hubinger resulta alarmante al provenir de un especialista encargado directamente de mitigar riesgos catastróficos. La advertencia evidencia la brecha entre el ritmo de avance de la IA y el desarrollo de salvaguardas éticas.
Comentaris
Publica un comentari a l'entrada