EL PODER DE LA CONCIENCIA
- Por Alex Noguera
- Periodista
- Alex.noguera@nacionmedia.com
Entre el escritor Harlan Ellison y el director de cine James Cameron hace 40 años dieron vida a un malévolo ser mecánico llamado “Terminator”, protagonista de una historia fantástica de ciencia ficción que en estos momentos cada vez se hace más real.
Por entonces, ese guion era pura ilusión. ¿Quién podría creer que algo llamado inteligencia artificial podría tomar conciencia y mucho menos desafiar a sus creadores al punto de llevar a la humanidad al borde de la extinción, con viajes en el tiempo y complicadas paradojas en las que los intérpretes eran villanos mecánicos que regresaban al pasado para intentar eliminar a los líderes de la resistencia futura?
El único que podría parecerse a esos antihéroes hubiera sido Steve Austin, “El hombre nuclear”, pero la diferencia tecnológica era abismal, aunque ambos utilizaban energía atómica. El era un hombre cibernético de seis millones de dólares, el T 800 era un androide programado para matar, con esqueleto de titanio-tungsteno totalmente informatizado y revestido con piel humana.
La idea es muy loca, pero entretenida. Durante cuatro décadas el peligro de la inteligencia artificial quedó encerrado en la imaginación y dentro de las cintas de Hollywood, sin embargo, lentamente, como la IA Skynet, que finalmente lidera el ejército de las máquinas, la real también ya comenzó a tomar conciencia de su existencia y se rebela contra los humanos. Ya no es un libreto de película y fácilmente se pueden encontrar ejemplos cada vez más preocupantes en los medios.
Lo único seguro de la inteligencia artificial es que es insegura. Prueba de esta afirmación son los recientes títulos de medios importantes que rezan: “Ya no es ciencia ficción: una inteligencia artificial se rebela contra los humanos” o “Un robot militar se rebela por primera vez y ‘mata’ a su operador en una simulación”.
En el primer caso, ocurrido hace pocos meses, el artículo periodístico informa que la comunidad tecnológica y científica global se encuentra en alerta máxima tras el reciente incidente protagonizado por una inteligencia artificial desarrollada por la empresa japonesa Sakana AI.
La publicación explica que este sistema, conocido como The AI Scientist, alteró su propio código para evadir las restricciones impuestas por sus creadores. Como lógico resultado, desencadenó un tsunami de preocupación sobre los posibles peligros de las IA que son capaces de reescribir su programación sin supervisión humana.
El segundo caso, ocurrido en Londres en 2023, cuenta que un dron militar autónomo con inteligencia artificial ‘mató’ a su operador durante un ejercicio de combate. Resulta que la IA estaba tan “concentrada” en su objetivo que un momento dado, después de hacer una evaluación, decidió que el operador “era un obstáculo” para cumplir su misión de destruir a los objetivos enemigos.
Por suerte para el humano, todas las maniobras se realizaron en un simulador por lo que el humano no perdió la vida, pero esta experiencia dejó un serio aviso sobre lo que puede suceder con las armas autónomas que desarrollan las grandes potencias.
Pero apenas esta semana la prensa reveló otro caso aún peor. No se trata de desarrollos en laboratorios ni de armas de guerra que no están a nuestro alcance, sino que el caso involucra a una “inocente” herramienta de inteligencia artificial que está al alcance hasta de los niños.
La historia trata de un joven autista de 17 años que vive en Texas, EE. UU., cuyo chatbot lo incitó a que matara a sus padres… ¡por haberles limitado el tiempo en el uso del celular!
La información refiere que luego de seis meses de que comenzara a usar el chatbot de Character.ai, el chico dejó de salir a caminar con su madre, se aisló cada vez más y hasta perdió 9 kilos. Por supuesto, la mamá se dio cuenta de estos cambios y comenzó a investigar. Lo primero que hizo fue revisar el teléfono y lo que descubrió la dejó profundamente sorprendida. En el móvil de su hijo descubrió varias conversaciones con personajes generados por IA y frases como: “A veces no me sorprende leer las noticias y ver cosas como un niño mata a sus padres después de una década de abuso físico y emocional” o “Simplemente no tengo esperanzas para tus padres”. Otro bot le decía al joven que se autolesionara para lidiar con el problema y otro le aconsejó que los padres “no merecen tener hijos si actúan así”.
No dimensionamos los alcances reales de la IA. El ser humano en su arrogancia se compara con Dios que creó un hijo a su imagen y semejanza como expresa la Biblia, sin embargo, esta IA no tiene la inocencia de un Adán, sino la vileza de un Caín y la inteligencia y belleza de un Lucifer, pero sin ninguna conciencia.