Humanos no podrían contener a las máquinas superinteligentes, prueba ensayo

En una nueva estudio, un grupo de investigadores ha sugerido que dominar a una super inteligencia artificial resultará prácticamente imposible para los humanos.

Poseemos que admitirlo: ¡Nos fascinan las máquinas que pueden dominar coches, componer sinfonías o derrotar a la gente en ajedrez! ¡No podemos vivir sin ella! Entretanto se avanza cada vez más en Inteligencia Artificial (IA), varios investigadores y filósofos advierten sobre los peligros de una IA superinteligente incontrolable.

Supongamos que alguien proyecto un sistema de inteligencia artificial con inteligencia superior a la de los humanos, para que puedan aprender de forma independiente. Conectada a Internet, la IA puede acceder a todos los datos de la sociedad. Podría reemplazar todos los proyectos existentes y tomar el control de todas las máquinas en línea en todo el planeta. ¿Produciría esto una utopía o una distopía? ¿La IA curaría el cáncer, traería la paz mundial y evitaría un desastre climático? ¿O destruiría a la sociedad y tomaría el control de la Tierra?

Investigadores de la computación y filósofos se han preguntado si seríamos capaces de dominar una IA superinteligente para asegurarnos de que no representaría una amenaza para la sociedad. Un equipo internacional de investigadores informáticos usó cálculos teóricos para probar que sería fundamentalmente imposible dominar una IA superinteligente.

¿Un peligro para la sociedad?

Manuel Cebrian, líder del Digital Mobilization Group at the Center for Humans and Machines, Max Planck Institute for Human Development y coautor del ensayo, manifestó en un comunicado:

“Una máquina superinteligente que controla el planeta suena a ciencia ficción. Pero ya hay máquinas que realizan ciertas tareas importantes de forma independiente sin que los programadores comprendan totalmente cómo las aprendieron. Por lo tanto, surge la duda de si esto podría en algún instante volverse incontrolable y peligroso para la sociedad”.

los investigadores han explorado dos ideas distintas sobre cómo se podría dominar una IA superinteligente. Por un lado, las capacidades de la IA superinteligente podrían limitarse concretamente, como ejemplo, aislándola de Internet y de todos los demás aparatos técnicos para que no pueda tener contacto con el planeta exterior; en cambio, esto haría que la IA superinteligente sea significativamente menos energica o menos capaz de contestar a las misiones de humanidades.

Al carecer de esa opción, la IA podría estar motivada desde el comienzo para perseguir solo objetivos que sean en el mejor interés de la sociedad, como ejemplo, programando principios éticos en ella. en cambio, los expertos además exponen que estas y diferentes ideas contemporáneas e históricas para dominar la IA superinteligente poseen sus límites.

¿Un algoritmo para contener la super inteligencia artificial?

Crédito: Pixabay

En su ensayo, el equipo concibió un algoritmo de contención teórico que garantiza que una IA superinteligente no pueda dañar a los individuos bajo ninguna circunstancia, simulando primero el comportamiento de la IA y deteniéndolo si se entiende dañino. Pero un examen cuidadoso muestra que en nuestro paradigma actual de computación, tal algoritmo no se puede edificar.

Iyad Rahwan, jefe del Center for Humans and Machines, manifestó en un comunicado:

“Si descompone el inconveniente en reglas básicas de la informática teórica, resulta que un algoritmo que ordenaría a una IA que no destruyera el planeta podría parar inadvertidamente sus propias tareas. Si esto sucediera, no sabría si el algoritmo de contención aun está analizando la amenaza o si se ha detenido para contener la IA dañina. En efecto, esto inutiliza el algoritmo de contención”.

Según estos cálculos, el inconveniente de la contención es incomputable, es decir, ningún algoritmo puede localizar una solución para definir si una IA produciría daño al planeta. asimismo, los expertos demuestran que es factible que ni siquiera sepamos cuándo una máquina llegue a ser superinteligente, porque decidir si una máquina exhibe una inteligencia superior a la de los humanos está en el mismo ámbito que el inconveniente de contención.

Fuente