Control de la IA: Hassabis alerta sobre riesgos
La incertidumbre en el desarrollo de sistemas de IA avanzados
Los riesgos de la inteligencia artificial representan una preocupación creciente en el sector tecnológico actual. Desde hace apenas cuatro años, la IA ha pasado de ser una tecnología marginal a convertirse en el eje central de la estrategia empresarial de grandes corporaciones mundiales. Este cambio acelerado ha generado inversiones masivas en infraestructura, centros de datos y capacidades computacionales que se expanden a nivel global.
La velocidad con que avanzan estos desarrollos ha superado nuestra capacidad de comprensión. Gobiernos como Estados Unidos y China invierten recursos significativos en infraestructura tecnológica, viéndola como un factor estratégico en la competencia económica internacional. Sin embargo, los riesgos de la inteligencia artificial que emergen de esta carrera acelerada merecen atención inmediata de especialistas, reguladores y desarrolladores.
La voz de autoridad dentro del sector tecnológico
Demis Hassabis, cofundador y consejero delegado de Google DeepMind, representa una posición única en este debate. Su laboratorio ha generado avances revolucionarios como AlphaGo, que venció al campeón mundial de Go, y AlphaFold, capaz de predecir estructuras de proteínas con precisión sin precedentes. En 2024, Hassabis y John Jumper compartieron el Premio Nobel de Química por sus contribuciones en la predicción de estructuras proteicas mediante inteligencia artificial.
Su autoridad en el campo le permite articular una perspectiva que combina optimismo sobre las aplicaciones beneficiosas con preocupación genuina respecto a los riesgos de la inteligencia artificial. A diferencia de críticos externos, Hassabis participa activamente en la construcción de esta tecnología mientras simultáneamente reclama mecanismos robustos de control y supervisión.
El desafío de la inteligencia artificial general
Hassabis plantea que la inteligencia artificial general, sistemas capaces de exhibir todas las capacidades cognitivas del cerebro humano, podría arribar en apenas unos años. Aunque no presenta esto como certeza absoluta, considera que su llegada representa una posibilidad cercana que exige preparación anticipada. Los riesgos de la inteligencia artificial en este contexto abarcan dimensiones múltiples: ciberseguridad, amenazas biológicas y nucleares, además de sistemas cada vez más autónomos con capacidad de mejorar sus propias capacidades sin supervisión constante.
Necesidad de controles y evaluación
En un extenso artículo publicado en redes sociales, el ejecutivo sostiene una posición dual: la inteligencia artificial posee un potencial extraordinario para transformar la ciencia, medicina y economía, pero ese potencial no elimina la necesidad de establecer controles rigurosos. La propuesta de Hassabis no se basa en esperar a que materialicen amenazas concretas, sino en actuar preventivamente, pues las medidas tardías podrían resultar inefectivas.
El diagnóstico fundamental que subyace a su propuesta señala: "Estamos atrapados en una carrera comercial y geopolítica intensísima. Aunque estas dinámicas competitivas impulsan avances rápidos y beneficios extraordinarios, los progresos en la frontera de la IA están superando nuestra comprensión de la tecnología. Nadie en el mundo sabe con certeza qué va a ocurrir a partir de ahora, y ni siquiera los expertos están de acuerdo."
Propuesta de regulación: un organismo especializado
Para abordar los riesgos de la inteligencia artificial, Hassabis propone establecer en Estados Unidos un organismo especializado dedicado a evaluar los modelos de IA más avanzados. Su marco institucional contemplaría una asociación público-privada o entidad autorregulada con supervisión federal, dirigida por una junta que incluya especialistas independientes y representantes del ecosistema de código abierto.
Funciones y responsabilidades del organismo
Esta institución definiría qué umbrales convierten a un sistema en modelo de frontera y diseñaría evaluaciones exhaustivas sobre múltiples dimensiones críticas: ciberseguridad, amenazas biológicas, detección de intentos para eludir salvaguardas, e identificación de comportamientos engañosos. En una fase inicial, los laboratorios compartirían voluntariamente sus modelos treinta días antes del lanzamiento comercial.
Evolución hacia requisitos obligatorios
El esquema inicial podría transformarse progresivamente en un requisito obligatorio. Cualquier modelo considerado de frontera requeriría aprobación evaluativa antes de acceder al mercado estadounidense. Las pruebas serían revisadas periódicamente para reemplazar evaluaciones desfasadas y medir nuevas capacidades, mientras auditores independientes ampliarían la efectividad del sistema. Potencialmente, el marco podría utilizarse para coordinar ralentizaciones en el desarrollo entre principales laboratorios si la gravedad de los riesgos lo justificara.
Consenso y disenso en la comunidad científica
La inquietud que expresa Hassabis no es aislada. Geoffrey Hinton ha manifestado dudas respecto a nuestra capacidad para mantener control sobre sistemas más inteligentes que los seres humanos. Yoshua Bengio reclama investigación intensiva y mecanismos específicos de supervisión. En 2023, Elon Musk suscribió una carta abierta solicitando pausar durante seis meses el entrenamiento de sistemas de IA superiores a GPT-4, aunque posteriormente anunció xAI compitiendo directamente en el sector.
Estas voces convergen en la demanda de prudencia, pero no existe acuerdo sobre la probabilidad de que efectivamente perdamos control sobre estos sistemas. La comunidad científica permanece dividida entre optimistas que confían en la capacidad regulatoria y pesimistas que advierten riesgos existenciales.
Un futuro abierto a múltiples escenarios
La historia de la inteligencia artificial continúa escribiéndose, aunque sus efectos iniciales ya hayan transformado nuestra relación con la tecnología y las decisiones estratégicas de quienes la desarrollan. Permanecen incógnitas cruciales: si el organismo propuesto por Hassabis sería viable, si sus evaluaciones resultarían efectivamente protectoras, y si laboratorios y gobiernos aceptarían someterse a ellas cuando confluyeran con intereses económicos o geopolíticos.
También es posible que algunos riesgos estén sobrevalorados o no lleguen a materializarse. Mientras tanto, la propuesta de Hassabis contribuye un marco concreto a un debate donde todavía predominan las incógnitas sobre las certezas, ofreciendo un camino potencial para navegar los desafíos que plantean los sistemas de inteligencia artificial cada vez más avanzados y autónomos.