“ES DIFÍCIL VER CÓMO PUEDES EVITAR QUE LOS MALOS ACTORES LO USEN PARA COSAS MALAS”.

campanas de alarma

Geoffrey Hinton, como uno de los principales pioneros de la inteligencia artificial, a menudo es aclamado como el “padrino de la IA”. Su trabajo seminal en redes neuronales le ganó la atención de Google, donde ha trabajado durante más de una década, y eventualmente incluso un Premio Turing, el premio más prestigioso en informática.

Pero ahora, en una nueva entrevista con The New York Times , Hinton revela que ha dejado Google, advirtiendo de las peligrosas implicaciones de la misma tecnología que innovó. Una parte de él, dice, lamenta el trabajo de su vida.

“Me consuelo con la excusa normal: si no lo hubiera hecho yo, alguien más lo habría hecho”, dijo Hinton a NYT .

“Es difícil ver cómo puedes evitar que los malos actores lo usen para cosas malas”, agregó más tarde.

No podría haber elegido un momento más crítico y audaz. El aumento explosivo de los sistemas de IA generativa como ChatGPT de OpenAI y las capacidades de su último modelo GPT-4 ha preocupado tanto a los expertos de la industria que más de 1,000 de ellos, incluidos líderes tecnológicos como Elon Musk, firmaron recientemente una carta abierta pidiendo una moratoria en el desarrollo . algo más avanzado. Para Hinton intervenir ahora es un presagio infernal, por decir lo menos.

Guerra por lo peor

Según Hinton, le dijo a Google que se iría el mes pasado, lo cual no habría sido mucho después de su entrevista con CBS en la que advirtió que estábamos en un “momento crucial” para la IA.

En su mayor parte, Hinton consideraba a Google un “administrador adecuado” de la IA hasta el año pasado. Las cosas empeoraron cuando Microsoft, que tiene invertido miles de millones en OpenAI , lanzó su motor de búsqueda Bing AI impulsado por GPT-4, una posible amenaza directa al dominio de Google en la tecnología de búsqueda. Google, a su vez, ahora se apresura a desarrollar su propia búsqueda integrada de IA .

Además de su amenaza para los trabajos de las personas, a Hinton le preocupa que esta creciente carrera armamentista de IA conduzca a una Internet tan inundada de imágenes y textos falsos que nadie “podrá saber más lo que es verdad”, una amenaza que él considera inmediato.

Sin embargo, el verdadero factor decisivo es que Hinton cree que el día en que la IA se vuelva más inteligente que los humanos y comience a aumentarse a sí misma puede caer sobre nosotros antes de lo que pensamos.

“La idea de que estas cosas podrían volverse más inteligentes que las personas, algunas personas lo creían”, comentó Hinton.

“Pero la mayoría de la gente pensó que estaba muy lejos. Y yo pensé que estaba muy lejos”, continuó. “Pensé que faltaban entre 30 y 50 años o incluso más. Obviamente, ya no pienso eso”.

F