Geoffrey Hinton, científico británico y uno de los mayores referentes de la inteligencia artificial, volvió a encender las alarmas con una predicción inquietante: en dos décadas, máquinas superinteligentes podrían reemplazar a los seres humanos, con un riesgo real de extinción.
“Dentro de 20 años, seres superinteligentes nos reemplazarán. Corremos el riesgo de extinguirnos”, afirmó en una entrevista reciente con El Mundo. Sus palabras no provienen de un tecnófobo ni de un novelista de ciencia ficción, sino de alguien que acaba de recibir el Premio Nobel de Física en 2024, reconocimiento a sus contribuciones decisivas al aprendizaje automático con redes neuronales.
Para algunos, suena a visión apocalíptica. Para él, es simple realismo: la historia demuestra que cuando no se ponen límites al poder de una tecnología, este se termina abusando.
La urgencia de regular la IA
Hinton lleva años defendiendo la necesidad de una regulación internacional sólida. No se trata de un capricho ni de un gesto preventivo: según él, ya existen riesgos concretos que amenazan la estabilidad social y política.
En la entrevista, valoró el esfuerzo de la Unión Europea con su marco legal sobre IA, pero señaló un vacío crítico: la exclusión del uso militar. “Varios países europeos son grandes productores de armas y quieren desarrollar sistemas letales y autónomos”, advirtió, subrayando que este tipo de excepciones son las más peligrosas.
El científico también se mostró crítico con la prioridad inicial de la normativa, centrada en cuestiones de privacidad o discriminación, dejando en segundo plano amenazas de mayor alcance, como el uso bélico, criminal o incluso bioterrorista de estas herramientas.
Otro aspecto que preocupa a Hinton es el comportamiento de las grandes corporaciones. Señaló a empresas como Google, que en los últimos años abandonaron compromisos éticos sobre el desarrollo de sistemas con aplicación militar y relajaron políticas de inclusión, muchas veces por presiones políticas o comerciales.
A su juicio, estos movimientos confirman que los intereses económicos prevalecen sobre la seguridad a largo plazo, lo que agrava la necesidad de una supervisión independiente.
Hinton también cree que la discusión no debe quedarse en despachos técnicos ni en laboratorios corporativos. Por eso ha confirmado un próximo encuentro con el Papa León XIV, con la intención de sumar voces influyentes al debate.
Según él, líderes religiosos como el Papa o el Dalái Lama poseen una capacidad real de incidencia política. Si el pontífice, con más de mil millones de fieles, se pronunciara a favor de una regulación estricta, podría contrarrestar la narrativa triunfalista de las tecnológicas, que celebran la ausencia de normas.
Los riesgos inmediatos
Aunque Hinton habla de escenarios extremos —como la posibilidad de una superinteligencia que acabe reemplazando al ser humano— insiste en que los peligros más urgentes ya están aquí. Entre ellos, menciona:
- El desempleo masivo, derivado de la automatización de trabajos cualificados.
- La corrupción de las democracias, con la manipulación de información a gran escala.
- Los ciberataques avanzados, cada vez más difíciles de detectar.
- El bioterrorismo, facilitado por IA capaz de diseñar virus o armas químicas.
“Estos son riesgos de corto plazo, provocados por actores malintencionados. No hay que entrar en debates metafísicos para entenderlos, basta con ver lo que ya está ocurriendo”, enfatizó.
Un reconocimiento histórico
En 2024, Geoffrey Hinton compartió el Nobel de Física con John Hopfield, galardón concedido por sus aportes a las bases del aprendizaje automático mediante redes neuronales artificiales. Ambos contribuyeron a cimentar la tecnología que hoy impulsa asistentes virtuales, modelos generativos y sistemas de visión computacional.
Al recibir el premio, Hinton confesó sentirse “atónito” y expresó su agradecimiento a la Universidad de Princeton, donde es profesor emérito. Su trayectoria lo convierte en una voz difícil de ignorar, incluso cuando sus advertencias resultan incómodas para gobiernos y empresas.
La reflexión de Hinton plantea un dilema clave: ¿estamos preparando a la sociedad para convivir con una tecnología que evoluciona más rápido que la legislación? Para él, la respuesta es clara: sin regulación internacional, el riesgo existencial será inevitable.
Su mensaje, aunque sombrío, también es un llamado a la acción. Reconoce que la IA ofrece beneficios enormes, pero advierte que esos avances solo serán sostenibles si se acompañan de reglas claras, transparencia y control democrático.
[Fuente: Infobae]
