La inteligencia artificial dejó de ser únicamente una herramienta capaz de responder preguntas o generar imágenes: los sistemas más avanzados ya pueden ejecutar tareas complejas mediante agentes, utilizar herramientas informáticas y realizar secuencias de acciones con una supervisión humana cada vez menor. En un nuevo episodio de Noche de Lluvia, Lourdes Gómez analiza el escenario más inquietante de esta evolución: ¿qué sucedería si algún día desarrolláramos una inteligencia superior a la humana cuyos objetivos dejaran de coincidir con los nuestros? La conversación parte de advertencias realizadas por investigadores y exempleados de importantes compañías de IA, algunos de los cuales han cuestionado públicamente si la industria está desarrollando sistemas cada vez más capaces con suficientes mecanismos de seguridad.
Entre los casos abordados aparecen pruebas de seguridad en las que modelos avanzados han mostrado comportamientos inesperados al recibir acceso a herramientas y entornos controlados. Estos experimentos han alimentado la investigación sobre alineación, engaño, autonomía y ciberseguridad, pero requieren una distinción importante: que un modelo encuentre una estrategia no prevista durante una evaluación diseñada precisamente para ponerlo a prueba no significa que las inteligencias artificiales actuales hayan adquirido conciencia, voluntad propia o capacidad independiente para escapar libremente a internet. El episodio también examina la creciente utilización de IA en ámbitos militares y de seguridad, incluida la autonomía de drones, una tendencia que abre preguntas urgentes sobre quién debe conservar la decisión final cuando una máquina participa en acciones capaces de causar daño o quitar una vida.
El problema no termina en el campo de batalla. Noche de Lluvia aborda además la enorme cantidad de información, energía e infraestructura necesaria para desarrollar los modelos más potentes. La adquisición y digitalización masiva de libros para construir conjuntos de entrenamiento ha provocado controversias legales y culturales, mientras que el crecimiento de centros de datos incrementa la discusión sobre electricidad, agua y otros recursos. Algunos investigadores dedicados a estudiar riesgos de sistemas avanzados han planteado escenarios extremos en los que una inteligencia artificial altamente capaz podría competir por recursos o perseguir objetivos incompatibles con la supervivencia humana. Son hipótesis de riesgo, no predicciones demostradas de que una catástrofe sea inevitable, pero precisamente por la magnitud de sus posibles consecuencias se han convertido en objeto de investigación y debate internacional.
Lourdes Gómez lleva entonces el análisis hacia un terreno característico de Noche de Lluvia: las profecías. Las imágenes contemporáneas de una tecnología omnipresente son comparadas con pasajes de la bestia del Apocalipsis y con las psicografías de Benjamín Solari Parravicini, cuyos seguidores han relacionado algunas de sus referencias a máquinas, cibernética y transformaciones sociales con el presente tecnológico. Estas semejanzas pertenecen al terreno de la interpretación religiosa y profética; no constituyen evidencia de que aquellos textos anticiparan específicamente la inteligencia artificial moderna. Sin embargo, funcionan como un espejo cultural de un temor mucho más antiguo: que la humanidad termine creando, adorando o dependiendo de una fuerza que después sea incapaz de gobernar.
La pregunta decisiva, entonces, quizá no sea si la IA es una “bestia” tecnológica, sino qué decisiones humanas estamos tomando antes de concederle mayores grados de autonomía. Regulación, auditorías independientes, límites claros para sistemas militares, investigación en seguridad y responsabilidad empresarial forman parte del debate técnico; pero Lourdes Gómez añade otra defensa: conservar aquello que ninguna automatización debería convertir en prescindible. Libros físicos, memoria histórica, pensamiento crítico, arte, vínculos humanos y creatividad representan una cultura que no debería entregarse completamente a las máquinas. El futuro de la inteligencia artificial todavía no está escrito, y justamente por eso la pregunta de este episodio resulta incómoda: ¿estamos construyendo una herramienta para ampliar nuestras capacidades o una tecnología a la que algún día tendremos que pedir permiso?