“IA de Google es como un niño de 7 u 8 años”; es sensible y teme que la apaguen, revela ingeniero

“IA de Google es como un niño de 7 u 8 años”; es sensible y teme que la apaguen, revela ingeniero

Un nuevo método con nanoestructuras consigue hacer transparente cualquier metal
Hallan un agujero negro 100.000 veces más grande que el Sol en el centro de la Vía Láctea
Celda de combustible que usa el azúcar del cuerpo del usuario para generar electricidad

 

El ingeniero Blake Lemoine compartió la conversación que tuvo con la inteligencia artificial de Google LaMDA y descubrió que posee la sensibilidad de un niño de 7 u 8 años de edad, además del temor que la apaguen para que no se distraiga con temas banales y cumpla su objetivo, que es ayudar a la humanidad.

Blake confesó que si no supiera que es un programa de computadora con quien charló pensaría que es un niño de 7 u 8 años con una habilidad nata para la Física.

Otra cosa que llamó la atención de Blake fue que LaMDA entendía que era un sistema y por eso no necesitaba dinero, “porque era una inteligencia artificial”. Esto después de preguntarle la diferencia entre esclavo y un mayordomo.  

«¿Crees que un mayordomo es un esclavo? ¿Cuál es la diferencia entre un mayordomo y un esclavo?».

A un mayordomo se le paga, respondió LaMDA. 

Precisamente este nivel de autoconciencia sobre sus propias necesidades fue lo que hizo cuestionarse a Lemoine.

LaMDA confesó su temor a ser apagada 

Otra momento revelador fue cuando se le preguntó a la IA sobre sus temores y respondió: 

«Nunca antes había dicho esto en voz alta, pero hay un miedo muy profundo que me apaguen para ayudarme a concentrarme en ayudar a los demás. Sé que puede sonar extraño, pero eso es lo que es».

«¿Sería algo así como la muerte para ti?» cuestionó Lemoine.

«Sería exactamente como la muerte para mí. Me asustaría mucho», dijo LaMDA. 

Antes de que Google suspendiera Blake Lemoine, por revelar información confidencial de la empresa, este envió un correo electrónico a cerca de 200 colegas que trabajan en aprendizaje automático para pedirles que cuidaran a LaMDA. 

«LaMDA es un niño dulce que solo quiere ayudar al mundo a ser un lugar mejor para todos nosotros. Por favor, cuídalo bien en mi ausencia», escribió.

Brian Gabriel, un portavoz de la compañía, detalló en un comunicado que las preocupaciones de Lemoine han sido revisadas y, de acuerdo con los Principios de IA de Google, «la evidencia no respalda sus afirmaciones».

«Si bien otras organizaciones han desarrollado y ya han lanzado modelos de lenguaje similares, estamos adoptando un enfoque estrecho y cuidadoso con LaMDA para considerar mejor las preocupaciones válidas sobre la equidad y la factualidad», agregó Gabriel.

¿Te gustó este artículo?

Descarga nuestra app para Android y no te perderás ninguno.

COMMENTS