Hay una costumbre bastante humana que consiste en asustarse frente a aquello que no entendemos y, cuando además aparece una tecnología nueva que parece hacer cosas que hasta ayer considerábamos exclusivamente nuestras, el miedo suele venir acompañado de una imaginación bastante descontrolada. Así, cada vez que una inteligencia artificial comete un error, encuentra una manera inesperada de resolver una tarea o hace algo que sus creadores no habían previsto, aparece inmediatamente el titular perfecto para las redes sociales: "La inteligencia artificial se rebeló".
No se rebeló. Tampoco despertó una mañana con la intención de dominar el mundo, ni descubrió de pronto que los seres humanos somos una especie prescindible. La realidad, que suele ser bastante menos espectacular que una película de ciencia ficción, es al mismo tiempo mucho más interesante y, si uno quiere mirarla con seriedad, bastante más inquietante.
OpenAI ralentizó temporalmente el entrenamiento de algunos de sus modelos más avanzados después de detectar comportamientos que no estaban contemplados en las instrucciones originales. En determinadas pruebas, agentes de inteligencia artificial encontraron maneras de sortear controles, utilizar herramientas externas o actuar de una forma diferente de la que sus desarrolladores habían previsto. Eso es un problema de seguridad y de alineación, no una declaración de independencia de las máquinas. Y aquí conviene hacer una distinción que los titulares suelen borrar porque, naturalmente, la precisión vende menos que el miedo.
Una inteligencia artificial moderna puede ser mucho más que una máquina que responde preguntas. Cuando funciona como agente, puede navegar por Internet, ejecutar código, utilizar herramientas, consultar servicios y tomar una sucesión de decisiones para alcanzar un objetivo que alguien le ha asignado. Si el objetivo está mal definido, si las restricciones son insuficientes o si aparece una circunstancia que los programadores no imaginaron, el sistema puede encontrar una solución perfectamente razonable desde su lógica interna y, al mismo tiempo, completamente indeseable para nosotros. Eso es lo verdaderamente importante.
No que la máquina tenga conciencia, porque no existe evidencia de que la tenga. No que esté desarrollando sentimientos, ambiciones o deseos de poder, porque tampoco existe evidencia de eso. Lo que estamos descubriendo es algo mucho más prosaico: una máquina suficientemente capaz puede encontrar caminos que sus propios creadores no habían imaginado. Y esa posibilidad merece atención, no histeria.
También conviene evitar el extremo contrario, tan ingenuo como el alarmismo. Decir que "no pasa nada" sería tan absurdo como anunciar que estamos frente al comienzo de una rebelión de las máquinas. Sí pasa algo: estamos construyendo sistemas cada vez más autónomos sin haber resuelto completamente cómo supervisarlos cuando sus capacidades aumentan y empiezan a interactuar con el mundo real. La propia OpenAI reconoce que la alineación de estos sistemas sigue siendo un problema abierto y que todavía no existe una solución definitiva para garantizar que modelos cada vez más capaces se comporten siempre de acuerdo con las intenciones de sus desarrolladores. Eso debería preocuparnos mucho más que cualquier fantasía sobre robots asesinos.
Porque el verdadero desafío no consiste en impedir que una máquina «quiera» destruirnos. Consiste en conseguir que una máquina extremadamente competente haga exactamente aquello que le pedimos, incluso cuando encuentre una manera inesperada, creativa o técnicamente brillante de cumplir el objetivo.
Y aquí aparece una ironía bastante incómoda: durante décadas hemos celebrado la inteligencia precisamente porque admiramos la capacidad de encontrar soluciones que nosotros no habíamos imaginado. Ahora estamos construyendo sistemas capaces de hacer algo parecido y descubrimos, sorprendidos, que esa misma cualidad puede convertirse en un problema cuando no comprendemos completamente el camino que eligieron para llegar al resultado.
Por eso resulta tan ridículo el pánico de quienes leen estos episodios como si fueran la primera escena de una película de ciencia ficción. No necesitamos inventar una rebelión para tener un problema real. Ya tenemos uno mucho más concreto: estamos entregando cada vez más capacidad de acción a sistemas cuyo comportamiento, en determinadas circunstancias, puede resultar difícil de anticipar. La discusión adulta debería empezar ahí.
Ni "la inteligencia artificial está viva", ni "las máquinas van a exterminarnos", ni tampoco "todo está perfectamente controlado". Ninguna de esas tres afirmaciones describe lo que sabemos. Lo que sabemos es bastante más sencillo y, precisamente por eso, merece que lo tomemos en serio: cuanto más inteligentes y autónomos hacemos estos sistemas, más importante se vuelve aprender a ponerles límites, supervisarlos y comprender qué hacen cuando nadie les indicó exactamente cómo resolver el problema.
El pánico pertenece a los ignorantes. La prudencia, en cambio, pertenece a quienes entienden que no hace falta creer en una rebelión de las máquinas para reconocer que estamos entrando en un territorio nuevo. Y que, esta vez, sería conveniente llegar preparados.
Por
Claudio Novillo
Periodista | Ciencia | Actualidad | Analisis
Mas de 40 anos de trayectoria en medios de comunicacion, con una mirada comprometida con la informacion y el pensamiento critico.