El cineasta James Cameron y el padrino de la IA están de acuerdo: la IA podría destruirnos pronto

 

¿Es esto una película o nuestro destino?

“Creo que la IA puede ser genial, pero también podría ser, literalmente, el fin del mundo”.

Apareciendo recientemente en el podcast SmartLess , James Cameron se preguntaba si es posible un levantamiento de máquinas con inteligencia artificial en The Terminator. No solo cree que puede suceder, sino que dice que el estado actual de la inteligencia artificial lo hace “bastante preocupado por el posible uso indebido de la IA”. Para aquellos que no están familiarizados con la película (alerta de spoiler), The Terminatores un androide cibernético enviado desde el futuro para matar a la persona cuyo hijo aún no nacido es responsable de detener finalmente una red de defensa artificialmente inteligente llamada Skynet que se volverá hostil y consciente de sí misma y desencadenará una guerra nuclear global para exterminar a todos los humanos. No hace falta decir que las recientes revelaciones de conversaciones con chatbots GPT-4 como ChatGPT de OpenAI, PaLM de Google y Bing AI de Microsoft que se vuelven extrañas, hostiles y violentas han provocado que muchos los equiparen con The Terminator y Skynet . Cameron dice que entiende por qué.

“Hablas con todos los científicos de IA y cada vez que levanto la mano en uno de sus seminarios se empiezan a reír. El punto es que ninguna tecnología no ha sido convertida en arma. ¿Y realmente queremos luchar contra algo más inteligente que nosotros que ¿No es así? ¿En nuestro propio mundo? No lo creo”.

Cameron tiene, por supuesto, razón en su evaluación de la militarización de la tecnología. Sin embargo, es su próximo comentario el que es el verdadero motivo de preocupación.

“La IA podría haberse apoderado del mundo y ya estar manipulándolo, pero simplemente no lo sabemos porque tendría un control total sobre todos los medios y todo”.

Piense en los temores que se expresan sobre el uso de ChatGPT y otras formas de IA para recopilar noticias, escribir noticias e incluso entregarlas en forma de avatares muy parecidos a los humanos, y en este caso irónicos, de presentadores de noticias humanos. ¿Podría la IA haber penetrado ya en los medios y estar abriéndose camino para apoderarse del mundo? ¿Es esta otra secuela de Terminator en la vida real?

“Creo que es muy razonable que la gente se preocupe por estos temas ahora, aunque no vaya a suceder en los próximos uno o dos años. La gente debería pensar en esos temas”.

En una entrevista con CBS News, Geoffrey Hinton, el “padrino de la inteligencia artificial”, cree que Cameron tiene razón al estar preocupado por el uso de armas de la inteligencia artificial y una posible toma de control de la humanidad que podría conducir a su destrucción. Hinton sabe de lo que habla. Es descendiente de la realeza informática y matemática: su tatarabuela fue Mary Everest Boole, quien influyó en la promoción de la educación matemática tanto para niños como para niñas, y su esposo fue el lógico George Boole, cuya invención del álgebra booleana y la lógica booleana. se le atribuye haber sentado las bases de la informática moderna y la era de la información. Hinton ha continuado con la tradición de sus ilustres antepasados: recibió el Premio Turing 2018, con Yoshua Bengio y Yann LeCun, por su trabajo en aprendizaje profundo. Sobre el tema de la militarización de la IA, Hinton se ha pronunciado en contra durante años: se mudó de EE. UU. a Canadá porque estaba en contra de la financiación militar de la inteligencia artificial y se ha pronunciado regularmente en contra de las armas letales autónomas. Una preocupación que expresó en la entrevista de CBS fue la rapidez del desarrollo de la IA.

“Hasta hace poco, pensé que pasarían de 20 a 50 años antes de que tuviéramos IA de propósito general. Y ahora creo que pueden pasar 20 años o menos”.

También está preocupado por una de las mismas cosas que ayudó a desarrollar: las computadoras presentan sus propias ideas para la superación personal, y advierte que “tenemos que pensar mucho sobre cómo controlar eso”. Los Terminators se están desarrollando con inteligencia general artificial que la lleva más allá de las capacidades humanas hasta el punto de actuar por sí sola y amenazar potencialmente la existencia misma de la humanidad, respondió con cautela:

“No es inconcebible, eso es todo lo que diré”

¿No es inconcebible? ¿O ya se puede entregar?

¡No es inconcebible! ¡Esto es del padrino de la inteligencia artificial! ¿Por qué no entramos en pánico? ¿Por qué Hinton no entra en pánico? ¿O mudarse más lejos que Canadá? Explica que, en el lado más concebible, las cosas no están tan mal.

“La frase ‘inteligencia general artificial’ conlleva la implicación de que este tipo de robot único de repente va a ser más inteligente que tú. No creo que vaya a ser eso. Creo que cada vez más las cosas rutinarias que hacemos serán reemplazadas por sistemas de IA, como el Asistente de Google”.

¿Qué hay de ChatGPT?

“Estamos en este punto de transición ahora donde ChatGPT es una especie de sabio idiota, y tampoco entiende la verdad”.

Ese es un problema clave con ChatGPT: sus respuestas a menudo están lejos de la verdad… pero se presentan como hechos mientras trata de descubrir qué está haciendo y trabaja para ser veraz, factual y consistente. La advertencia final de Hinton proviene directamente del Mago de Oz… debemos preocuparnos por quién está haciendo el desarrollo y bloqueando los controles detrás de la cortina.

“No quieres que una gran empresa con fines de lucro decida qué es verdad”.

James Cameron y Godfrey… genios en distintos campos que coinciden en los peligros potenciales de la inteligencia artificial general. ¿Vamos a escucharlos a ellos oa las grandes empresas con fines de lucro?

¿O es demasiado tarde para decidir?

Deja una respuesta