La inteligencia no humana está al límite (Una opinión de Jacques Vallée)

En la agitación de las noticias mundiales de esta semana, no es difícil encontrar ocasiones para preocuparse. Sin embargo, dos nuevos temas también se han vuelto prominentes, y cada uno de ellos ha hecho sonar las alarmas desde los laboratorios de alta tecnología de Silicon Valley hasta los pasillos del Congreso.

Crédito de imagen ilustrativa

Se relacionan con el potencial de la IA para volver obsoletos a los humanos y con la amenaza global implícita en el misterio de los OVNIs, incluso cuando se los reformula como los “UAP” menos intimidantes, como prefieren los puristas del Pentágono.

El verdadero problema es que los dos temas están más estrechamente relacionados de lo que podría predecirse, y su poder combinado para perturbar las realidades sociales, comerciales y tal vez incluso espirituales amenaza con volverse inmanejable, a pesar de que los dos sectores tienen poco en común.

El enigma de la IA es sorprendentemente sencillo de describir. Bajo la apariencia del anonimato, a fines del año pasado, altos funcionarios de OpenAI , una startup sin fines de lucro de California (con una subsidiaria con fines de lucro) advirtieron que el enfoque de su empresa hacia la “inteligencia general artificial” (AGI) estaba a punto de desatar “ sistemas que superan a los humanos en las tareas de mayor valor económico ”. Había un proyecto misterioso llamado Q*. Aún así, los denunciantes no se presentaron y no se dieron detalles antes del regreso del CEO Sam Altman el mes pasado.

Si bien estos acontecimientos sacudieron las cosas para la empresa de inteligencia artificial, sus inversores de Microsoft y sus competidores, un drama similar se estaba desarrollando en Washington, D.C.: una enmienda propuesta al enorme proyecto de ley de Asignaciones de Defensa, esperada con impaciencia por el público y una voz parte del mundo científico, estaba siendo derribado, o al menos profundamente herido, mientras el Senado enterraba el concepto de divulgación OVNI por unos años más. Poderosas fuerzas del Partido Republicano intervinieron tarde en el juego para alterar, restar importancia o eliminar el lenguaje introducido por el senador Schumer.

Entre otras disposiciones controvertidas, habría requerido la confiscación de supuestos materiales o naves extraterrestres, casi una docena de los cuales fueron supuestamente capturados por unidades especiales del Pentágono. En los últimos años, estos barcos han jugado al escondite con nuestros mejores cazas de la Flota del Pacífico. Sin embargo, ha habido una historia mucho más larga –en gran parte confidencial– de trabajos científicos para dilucidar su origen y naturaleza. También en este caso la mayoría de los denunciantes permanecieron escondidos de forma segura.

Al igual que con Q*, se cree que el pleno reconocimiento de la realidad y el potencial de la tecnología exótica amenaza a la humanidad. Esto sugiere la necesidad de una transición histórica para prepararnos para coexistir en un futuro complejo en el que los humanos podemos volvernos superfluos e incapaces de gestionar el planeta o incluso nuestra propia supervivencia. Al igual que la inteligencia artificial, la cuestión de los ovnis surgió en nuestro mundo sin ningún precedente histórico fácilmente comparable.

Las dos cuestiones inquietantes –la inminencia de la IA y la evidencia ovni– me interesan por separado y en conjunto. Obtuve uno de los primeros doctorados en IA en Northwestern , en 1967, por un programa que respondía preguntas en inglés sobre un gran catálogo astronómico. Produjo resultados de cálculo en minutos, eliminando la monotonía de la codificación y ahorrando una operación de computadora durante la noche. En los años siguientes, la industria desarrolló programas de segunda generación, que llevaron controles sofisticados a lugares como nuestros automóviles y aumentaron la productividad desde los patios ferroviarios hasta la aviación. Esta fase, sin embargo, fue invisible. Poco conscientes de la revolución en curso, la mayoría de nosotros apreciamos estos avances como recompensas esperadas de la productividad.

En 1985, publiqué demostraciones de un asistente de IA que guiaba a un analista humano a través de docenas de hipótesis cuando se enfrentaba a un informe de un evento OVNI complejo, facilitando su explicación o documentando su selección para un seguimiento en persona (ver Vallée, JF: “ Hacia el uso de técnicas de inteligencia artificial en la detección de informes de fenómenos anómalos.” ​​Instituto Americano de Aeronáutica y Astronáutica (AIAA). Los Ángeles, 19 de abril de 1986).

Lo que vemos hoy es un gran paso adelante, una extensión natural de la ciencia de la IA que es elocuente, visible, intrusiva, integral y amplia; ocasionalmente loco o divertido también, pero siempre revelador. Lo más importante es que la nueva forma ya no es sólo un sirviente; Es un compañero intimidante con capacidad de digerir a San Agustín o a Kierkegaard en una misma heurística. Esto disuade a la mayoría de los usuarios de cuestionar sus veredictos. Aquí es donde reside el peligro, por supuesto: el absurdo da la bienvenida a la rutina a medida que el razonamiento se estratifica, su lógica se ancla en la aparente cadena de predicados impecables. Sólo cedes al análisis crítico cuando regresas a la fuente de tus datos, rasgando el velo del tejido deductivo… pero ¿quién tiene tiempo para eso?

Las implicaciones para la investigación y la industria son profundas. Se conectan directamente con el análisis de problemas demasiado complejos para proyectos humanos limitados. La sabiduría del software ya no está ligada a un flujo deductivo descendente. Podríamos tomar un enorme almacén de datos OVNI, como el (que permanece clasificado) que diseñé para la AP de Sistemas Avanzados de Armas Aeroespaciales .

Se desaprovecharon tres oportunidades de progreso:

Se a verdade sobre os dados inexplicáveis ​​de OVNIs tivesse sido dita pelas autoridades dos EUA já em meados da década de 1950 – como poderia ter sido – o problema teria recaído sobre os melhores cientistas do mundo, bem equipados para verificar os dados e lidar con ellos. Esto no se hizo.

Si la verdad (recientemente alineada por miles de encuentros bien entendidos) se hubiera dicho a finales de los años sesenta o setenta, habría habido agitación política, ignorando a los científicos abandonados a su suerte. La cuestión habría trascendido las cuestiones ordinarias y habría tenido repercusiones en todo el mundo, pero aún así era manejable. Sin embargo, no se hizo nada: la oposición del Reino Unido y Estados Unidos rechazó presentaciones contundentes ante el Comité Político de la ONU en 1978.

¿Qué pasa con el tercer fracaso en decir la verdad, dada la falta de acción decisiva en Washington el mes pasado?

En este momento, cualquier intento de divulgación podría alterar las sensibilidades religiosas, con un riesgo mayor para la estabilidad social que los peligros científicos o políticos de décadas anteriores, dados los conflictos que dividen al mundo. La joven generación de científicos de IA deseosos de ser pioneros en nuevas formas de inteligencia, y los sobrevivientes de las discusiones del Pentágono en torno al “almacén de datos” OVNI, tal vez harían bien en permanecer en el anonimato: más allá del límite, cualquier sabiduría que podamos buscar en nuestros algoritmos primitivos es realmente frágil.

Cualquiera que sea la decisión que se tome, las implicaciones son poderosas y afectan áreas sensibles, desde la política científica (¿cuánta investigación debe permanecer confidencial?) hasta la evaluación de amenazas a la defensa y las relaciones internacionales con naciones interesadas que no son amigas pero que pueden tener datos esenciales.

El peligro puede entonces residir en las consecuencias de decisiones iniciales que impiden o abruman nuestra capacidad para controlar la complejidad de acciones futuras. Y esta no es una tarea que ninguna IA actual esté dispuesta a afrontar.

F

Deja una respuesta