Esta antigua leyenda judía es una advertencia sobre la IA generativa

La automatización es poderosa pero también peligrosa

En la antigua Praga, dice una vieja leyenda judía , un rabino creó una poderosa criatura: el golem. Como un robot y con inteligencia artificial, el golem inicialmente hizo lo que su amo le ordenaba, pero al final todo salió terriblemente mal.

Esta historia inicial sobre las ventajas y desventajas significativas de la automatización puede enseñarnos mucho sobre los sistemas modernos de IA como ChatGPT y Midjourney.

Específicamente, esta antigua leyenda puede darnos algunas ideas sobre dónde estas tecnologías son beneficiosas para la humanidad y dónde tienen el potencial de resultar desastrosas.

Entra el Golem

Aunque el cuento de Praga del golem es quizás el más conocido, la historia del golem se repite cientos o miles de veces en diferentes formas a lo largo de la literatura judía.

La palabra “golem” aparece en el Talmud , uno de los textos centrales de la fe judía. Las variantes de la historia del golem se han repetido y reinterpretado a través de generaciones en todo, desde poesía y novelas hasta un episodio de Los Simpson.

Aunque los detalles varían, la historia básica es la misma. Un rabino o místico judío crea una criatura artificial, usando palabras hebreas o encantamientos para darle una especie de vida artificial y un nivel básico de inteligencia artificial.

Por lo general, hay alguna razón de peso para hacer esto. En algunos casos, el protagonista necesita proteger a su comunidad contra una amenaza externa, como los pogromos. Y en otros casos, simplemente quieren un ayudante automatizado para ayudarlos con el trabajo duro.

Los golems en estos cuentos generalmente se representan como poderosos , pero en última instancia brutales. Realizan el trabajo más rápido de lo que podría hacerlo una persona, pero no son criaturas reflexivas y conmovedoras.

En esencia, son robots o autómatas con inteligencia artificial. Al igual que los robots que tenemos hoy, los golems siguen instrucciones ciegamente pero no piensan por sí mismos. Son lo suficientemente inteligentes como para comprender las órdenes de los humanos, pero no lo suficientemente inteligentes como para comprender los matices o las sutilezas humanas.

En el cuento clásico del golem, las cosas inicialmente van bien. El protagonista obtiene grandes beneficios del golem: puede trabajar más rápido o puede proteger a su familia y comunidad de una amenaza.

En casi todos los casos, sin embargo, las cosas terminan saliendo mal. La mayoría de las historias terminan con el protagonista destruyendo su golem porque se vuelve demasiado poderoso o dañino.

Por lo general, logran desactivar su golem. Pero destruirlo a menudo tiene un costo grave para ellos mismos. En una narración, el creador de un golem logra desactivar su creación, pero el golem primero deja cicatrices en su rostro . Y en una variante contada en Brothers Grimm, un golem destruido choca contra su creador , aplastándolo hasta la muerte.

ChatGPT, el golem de hoy

Esta antigua leyenda recurrente puede enseñarnos mucho sobre los poderosos sistemas de IA de hoy.

Al igual que los golems de antaño , los sistemas de inteligencia artificial actuales, como Midjourney, ChatGPT y Stable Diffusion, se crearon imitando a los humanos.

Los antiguos rabinos de las leyendas solían crear sus golems moldeándolos en arcilla, imbuyéndolos de una forma pseudohumana. Del mismo modo, hoy en día hemos moldeado sistemas de IA imitando el funcionamiento del cerebro humano . La mayoría de los grandes modelos de lenguaje funcionan utilizando redes neuronales que imitan (pero no duplican) las funciones de las neuronas humanas.

Al igual que sus contrapartes de arcilla antiguas, estos sistemas están inspirados por los humanos, pero menos que humanos.

Y al igual que los golems antiguos, estos sistemas inicialmente han demostrado ser increíblemente poderosos y útiles. ChatGPT no se levantará para defenderte de un ejército invasor, pero los sistemas de inteligencia artificial ya se están integrando en los flujos de trabajo de miles de empresas, automatizando tareas que van desde la redacción hasta el trabajo médico.

Cuando los protagonistas antiguos crean golems, generalmente comienzan regocijándose. Eso ciertamente parece ser lo que estamos haciendo en este momento, con la emoción sin aliento sobre ChatGPT y su clase.

Sin embargo, sería bueno que notáramos que en los cuentos antiguos de autómatas golem, las cosas van mal y rápido. Los humanos finalmente se dan cuenta, generalmente demasiado tarde, de que los poderes desatados en el mundo al crear un golem finalmente amenazan a la humanidad.

La reacción de la IA

Ya estamos empezando a ver esto con los sistemas de IA. Los artistas se están rebelando contra la capacidad de los sistemas para imitar y reemplazar el arte humano, y muchas empresas se han movido para prohibir el código, las fotos y mucho más generados por IA.

El final de la leyenda tradicional del golem también ofrece algunas predicciones escalofriantes para el futuro. Una vez que se ha creado un golem, no desaparece simplemente. Destruir un golem una vez que se ha desatado casi siempre requiere dolor y sacrificio.

Es poco probable que los servidores de ChatGPT colapsen como el golem de los hermanos Grimm. Pero como los reguladores y los creativos están comenzando a ver, vivir junto a los sistemas de IA, y tratar de mantener sus creaciones fuera de nuestros procesos creativos humanos, se está volviendo cada vez más difícil.

Sea como sea, el proceso de exorcizarnos de nuestros modernos golems de IA sería doloroso. Las empresas que se nieguen a implementar tecnologías de IA quizás obtengan una ventaja en la humanidad, pero perderán las cosas poderosas que estos sistemas automatizados pueden hacer.

Al igual que con los golems antiguos, los golems de hoy ofrecen una compensación. Podemos ganar en eficiencia pero potencialmente crear amenazas graves, o arriesgarnos a perder nuestra propia humanidad.

Manejo del golem

Sin embargo, hay otra lección que podemos aprender de estos cuentos antiguos más allá de la perdición y la destrucción. Si bien muchas leyendas de golems terminan en destrucción, no todas lo hacen.

En las primeras versiones de la leyenda , el golem se vuelve tan poderoso que los enemigos que oprimen a su creador se ven obligados a ofrecer a la comunidad del creador un puerto seguro. Cuando esto sucede, el creador del golem inhabilita cuidadosamente el golem sin destruirlo ni sacrificarlo, pero no lo destruye.

Fundamentalmente, el creador mantiene al golem cerca en caso de que sus poderes vuelvan a ser necesarios. Cuenta la leyenda que el golem original todavía está escondido en el ático de una sinagoga en Praga, listo para emerger si la comunidad judía local requiere protección.

En esta versión de la historia del golem, los creadores del golem usan sus creaciones como una herramienta. El poder del golem les ayuda a lograr su objetivo (en este caso, defender a su comunidad). Pero lo más importante, una vez que ese objetivo es r, los creadores del golem saben cuándo dejar de usar la criatura artificialmente inteligente.

Al desactivar su golem en lugar de sucumbir a la tentación de abusar de su poder, los creadores originales del golem se benefician de sus poderes, pero no permiten que el golem destruya su humanidad o amenace a su comunidad.

A medida que usamos ChatGPT y otras herramientas de IA, todos podemos aprender una lección de esa narración original del antiguo cuento del golem. La IA generativa es una herramienta poderosa que puede ayudarnos a lograr nuestros objetivos. Pero para usarlo de manera segura, necesitamos saber cuándo aplicarlo, pero también cuándo dejarlo.

F

Deja una respuesta