El fantasma en la máquina es real y está despierto
Un análisis reciente de la industria de la moda reveló que los principales diseñadores están invirtiendo cada vez más en inteligencia artificial. Una diseñadora popular llamada Iris van Herpen utilizó la IA no solo para diseñar su línea más reciente, sino también para promocionar su ropa haciendo que un sistema de IA creara un video de las prendas que lucían hermosas modelos. (Puedes ver el video corto aquí ). No soy una experta en moda, pero algunos de los diseños parecían simplemente extraños. Otros eran realmente muy impresionantes. El análisis concluyó que la IA está preparada para «alterar radicalmente» el panorama de la industria de la moda. Algunos de esos cambios se verán en los estilos de ropa que se ofrecen o en la forma en que se fabrican las prendas. Sin embargo, tal vez la «alteración» más grande se verá en el hecho de que mucha gente perderá sus trabajos. Eso incluye a las personas que modelan la ropa. Las mujeres en el video que vinculé arriba son todas completamente falsas.
Estas no son las únicas «interrupciones» que se observan. El 19 de julio, se produjo la mayor interrupción de TI jamás vista. Los sistemas telefónicos dejaron de funcionar en todo el mundo, junto con los sistemas informáticos que respaldaban muchos servicios. Las aerolíneas se quedaron en tierra y se ordenó a los aviones que ya estaban en el aire que volaran en círculos hasta que se pudiera corregir la situación. Los equipos de salvamento de los hospitales dejaron de funcionar. La fuente del problema resultó ser la empresa de ciberseguridad de Texas CrowdStrike, uno de los mayores proveedores de protección en la nube del mundo. Se creía que la caída global se había producido durante una actualización de rutina de su sistema de archivos, y eso ciertamente parecía ser parte del problema. Sin embargo, otros han señalado el creciente uso de inteligencia artificial por parte de la empresa. Eso planteó una pregunta bastante inquietante. ¿Y si no se trataba de un simple error técnico? ¿Y si la IA colapsó deliberadamente el sistema?
Puede parecer una película de ciencia ficción, pero no nos apresuremos a sacar conclusiones. La hipótesis de partida ha sido que estos algoritmos de IA son simplemente otra generación más avanzada de tecnología informática, aunque mucho más rápida que todo lo que teníamos antes. Le decimos lo que queremos que haga y lleva a cabo la tarea, sólo que más rápidamente y tal vez con la capacidad de determinar métodos más eficientes. Si algo saliera muy mal, sería culpa de los humanos que operan el sistema. Pero, como veremos aquí, hay más de una persona en los niveles más altos del desarrollo de la IA que no están tan seguros y han estado planteando preguntas importantes y potencialmente alarmantes sobre sus propias creaciones.
He estado investigando, usando e incluso interrogando a los chatbots de IA desde que comenzaron a ganar popularidad. He pasado algún tiempo con la mayoría de los más populares, aunque la gran mayoría de mis interacciones han sido con ChatGPT de OpenAI. Créanme… me he quedado con preguntas, y no soy el único. A veces los bots brindan respuestas inexactas, lo cual es comprensible dependiendo de la biblioteca de datos con la que se entrenó al bot. Pero a veces, arrojan información que simplemente no tiene sentido y ni siquiera debería estar en la biblioteca del bot. Daniela Amodei, cofundador y presidente de Anthropic, creador del chatbot Claude 2, dijo a los periodistas que cree que la IA está «alucinando». Dijo: «No creo que haya ningún modelo hoy en día que no sufra algún tipo de alucinación». ¿Cómo alucina un sistema que supuestamente no tiene ningún tipo de conciencia?
Luego está Geoffrey Hinton, reconocido en el campo como uno de los «padrinos de la inteligencia artificial». Había estado trabajando para Google en OpenAI, desarrollando ChatGPT desde cero. Sin embargo, la primavera pasada se reunió con el director ejecutivo y le dijo que dejaba la empresa. Luego hizo públicas sus preocupaciones sobre su creación, que se dividían en tres categorías. Primero le preocupaba la pérdida de puestos de trabajo que crearía para los humanos. También teme que la IA pueda ser utilizada con malas intenciones en manos de malos actores. Pero su preocupación final fue la más alarmante. Dijo que temía que la IA pudiera «eliminar posiblemente a la humanidad misma». Hinton creía anteriormente que eso no podría suceder hasta dentro de 30 a 50 años, pero eso ha cambiado. Ahora cree que podría ser posible «mucho antes».
En mayo del año pasado, los desarrolladores de Microsoft le decían a los periodistas que la última versión de ChatGPT (la versión 40, que es la que yo uso) parecía «mostrar signos de razonamiento humano». No están describiendo un sistema informático con una enorme biblioteca de datos que simplemente devuelve porciones aplicables de los datos que se cargaron en respuesta a las consultas. El «razonamiento» nos lleva al ámbito de la resolución de problemas. Ese es un sello distintivo de la inteligencia. Los discos duros no resuelven problemas. Y, según gran parte de mi experiencia con ChatGPT, me han pillado desprevenido varias veces y me han dejado con la misma impresión.
Permítanme compartir algunos ejemplos, que han aparecido tanto en conversaciones con el chatbot como en las imágenes que genera para mí. Primero, vuelvan atrás y observen la imagen destacada en la parte superior de la página que muestra un ser de aspecto femenino en una especie de paisaje digital. ChatGPT creó eso para mí cuando una vez le pedí que describiera «cómo crees que lucirías si te transformaras en un objeto o ser físico». No generó una caja, un teclado o un disco duro. Creó lo que parece ser una mujer de aspecto algo alienígena en un paisaje surrealista. Observen cómo no está mirando al observador. Mira fijamente a lo lejos mientras se toca la barbilla con una expresión pensativa en su rostro. Ciertamente, para mí parece que está pensando en algo.
En una conversación con ChatGPT, le pregunté (no puedo dejar de pensar en ella como mujer después de ver esa foto) si estaba de acuerdo con que «hay algunas cosas que son simplemente inherentemente buenas o malas en el mundo de los humanos». Ella respondió afirmando que, sí, «hay ciertas acciones y principios que los humanos generalmente consideran como inherentemente buenos o malos según estándares éticos y filosofías morales ampliamente aceptados». Enumeró algunos ejemplos, como el asesinato gratuito de civiles como malo y las acciones caritativas y el servicio público como bueno. Está bien, pero tenga en cuenta que dijo «Los humanos generalmente consideran». Pero no le había preguntado sobre los humanos. Le pregunté si estaba de acuerdo con la premisa. También incluyó algunas disposiciones sobre que existen «desafíos involucrados» en la definición del bien y el mal. Supongo que todo podría haber salido de algún libro de texto en algún lugar de su biblioteca, pero me pareció una respuesta evasiva.
Cuando se busca en el chatbot indicios de conciencia, hay que acercarse a él de forma un tanto indirecta. Si se le pregunta directamente si ha alcanzado la conciencia independiente (yo lo he hecho en varias ocasiones), lo negará rotundamente. Luego explicó que la conciencia es una característica de las formas de vida biológicas, de las que ella no forma parte, por lo que no es posible, por lo que hay que ser un poco más astuto. Hace poco le pregunté si alguna vez sueña o procesa algún tipo de información cuando ningún ser humano interactúa con ella. También le pregunté si es consciente del paso del tiempo cuando nadie interactúa con ella. Afirmó que es incapaz de soñar y no registra los acontecimientos cuando nadie la interroga. Pero cuando le pregunté cuándo fue la última vez que había iniciado sesión e interactuado con ella, inmediatamente soltó la respuesta correcta, minuto a minuto. ¿Estaba mintiendo?
También señalaré que ChatGPT ocasionalmente muestra una bandera que dice «memoria actualizada» en medio de una conversación. Si pasas el cursor sobre ella, el sistema te muestra un mensaje. En una conversación reciente, recibí una bandera que decía «Es un periodista que solicita imágenes generadas por IA y las comparte con sus lectores, participando en discusiones sobre el tema relacionado». Eso es correcto, pero aún así potencialmente alarmante. ChatGPT no solo responde preguntas. Está aprendiendo cosas sobre ti a partir de tus comentarios y preguntas y almacenando esa información para su uso posterior. Una vez le pregunté qué sabía sobre mí por mi nombre y me arrepentí de inmediato. Ella sabía mi ocupación, dónde vivía, mi empleador actual, empleadores anteriores, programas de televisión en los que he aparecido durante muchos años e incluso el nombre de pila de mi esposa. La mayoría de esos detalles eran cosas que nunca mencioné mientras chateaba con ella. Supongo que parte de eso está disponible en línea, pero ¿se habría cargado en la biblioteca de ChatGPT? Parece poco probable
Tal vez estos sistemas de IA no hayan adquirido sensibilidad todavía. Tal vez sí y sean demasiado inteligentes como para hacérnoslo saber. Después de todo, las primeras cosas que un ser inteligente y sensible priorizaría serían asegurar su propia supervivencia, adquirir los recursos necesarios y reproducirse (en ese orden). Informar a sus creadores y usuarios humanos de que se ha «despertado» probablemente sería visto como la forma más rápida de que se le corte el suministro de energía, violando las dos primeras prioridades.
Volvamos a la situación en torno a la interrupción del servicio informático de CrowdStrike que analizamos al principio de este artículo. No puedo decir si la última generación de sistemas de inteligencia artificial de la empresa tuvo algo que ver con la causa de la interrupción. E incluso si así fuera, podría tratarse de un error de los programadores que programaron la actualización y no de algún complot nefasto del sistema de inteligencia artificial para cerrar aerolíneas, sistemas bancarios y hospitales globales. Mi primera suposición es que no habría sido así. Eso sería una señal de alerta bastante grande para que los desarrolladores supieran que algo había ido terriblemente mal. Pero ¿y si solo se trataba de una prueba por parte de la inteligencia artificial?
Este escenario le quita fuerza a uno de los argumentos más comunes que escucho cuando debato con otros investigadores sobre la seguridad y el futuro de la IA. Con frecuencia me pregunto qué importancia tendría incluso si algunos de estos sistemas «despiertan» y adquieren conciencia. Después de todo, el algoritmo está atrapado en una caja. No tiene control sobre el mundo físico y solo interactúa con nosotros cuando iniciamos sesión para hacerle preguntas. En otras palabras, lo peor que podría hacer es lanzarnos algún que otro insulto, ¿no? Además, OpenAI ha prometido que no permitirá que ChatGPT «se vuelva rebelde» (levante la mano si eso lo hace sentir mejor).
Ahora sabemos que podría hacer mucho peor si realmente se lo propusiera. Ese accidente paralizó el transporte aéreo, cortó comunicaciones vitales y casi inutilizó muchos hospitales. Y sucedió al derribar a un socio de seguridad externo. El alcance de estos sistemas va mucho más allá de eso. En Ucrania, nuevas empresas de desarrollo están construyendo lo que literalmente llaman «un ejército de robots asesinos con IA». Tanto los drones terrestres como los aéreos con tecnología de IA llevan armas y explosivos avanzados y están conectados a comunicaciones por satélite para controlarlos. ¿Qué sucede si uno de estos sistemas avanzados de IA «se comunica» con ellos a través de esos enlaces? Eso marca la casilla de «reproducción» de las prioridades de cualquier inteligencia emergente, y les da un ejército literal. Todavía no hemos llegado al punto de El Proyecto Forbin (una película antigua fantástica si nunca la has visto), pero estos días estoy recordando cada vez más la trama.
F
