Los científicos dicen que esta es la probabilidad de que la IA extinga a los humanos

Según una nueva investigación que tuvo en cuenta las aportaciones de 2.778 investigadores, existe un riesgo no insignificante de que la Inteligencia Artificial (IA) desencadene la extinción humana.

¡La señal que viene del espacio!
Crédito de imagen ilustrativa

Poco más de la mitad de los investigadores de IA encuestados dicen que hay un cinco por ciento de posibilidades de que los humanos sean llevados a la extinción, entre otros “resultados extremadamente malos”.

El diez por ciento de los encuestados, por ejemplo, dijo que es posible que las máquinas superen a los humanos en ” todas las tareas posibles” para 2027. La mitad de los encuestados dijo que esto sería posible para 2047.

Pero no todo es pesimismo: el 68,3% de los encuestados dijo que “ los buenos resultados de la IA sobrehumana ” son más probables que los malos.

Sobre todo, la encuesta destaca la enorme cantidad de desacuerdo e incertidumbre entre los investigadores, con un desacuerdo generalizado sobre si el progreso debe acelerarse o desacelerarse.

Juego de números

Sin embargo, la cifra del cinco por ciento es reveladora y apunta a la percepción de un peligro significativo.

La autora Katja Grace, del Instituto de Investigación de Inteligencia Artificial de California, dijo a New Scientist :

“Es una señal importante de que la mayoría de los investigadores de IA no consideran muy improbable que la IA avanzada destruya a la humanidad.

Creo que esta creencia general en un riesgo no pequeño es mucho más reveladora que el porcentaje exacto de riesgo”.

Como señala la investigación, “ hacer pronósticos es difícil en general y se ha observado que los expertos en la materia tienen un desempeño deficiente ”.

El artículo continúa:

“La experiencia de nuestros participantes es en IA y, hasta donde sabemos, no tienen ninguna habilidad inusual en predicciones en general”.

Conjeturas

Pero esto no significa que su palabra deba quedar desacreditada.

Los investigadores escriben:

“Aunque no son fiables, todos deberíamos confiar en conjeturas fundamentadas, y éstas están fundamentadas por expertos en el campo pertinente. Estas predicciones deberían ser parte de un conjunto más amplio de evidencia proveniente de fuentes como tendencias en hardware informático , avances en capacidades de inteligencia artificial, análisis económicos y conocimientos de expertos en pronósticos”.

A corto plazo, en lugar de esperar un evento de extinción distópico desencadenado por una IA maliciosa, la gran mayoría de los investigadores de IA encuestados advirtieron sobre los deepfakes , la manipulación de la opinión pública, la creación de virus peligrosos o sistemas de IA que permiten a los individuos prosperar a expensas de otros. .

Y a la luz de las próximas elecciones presidenciales de Estados Unidos, todas las miradas estarán puestas en la IA y su inquietante capacidad para distorsionar la verdad de una manera creíble.

F

Deja una respuesta