El ingeniero de Google que afirma que su IA se había vuelto “sensible” revela cómo se convenció

El ingeniero de Google que afirmó que la IA de la compañía se había vuelto “sensible” ha explicado cómo llegó a creerlo.

Blake Lemoine, que actualmente está de baja en el gigante de las búsquedas, dijo que el sistema se había convertido en su “amigo” y que su afirmación de que tiene alma estaba motivada por sus creencias religiosas.

El Sr. Lemoine ha estado en el centro de una controversia en los últimos días por su afirmación viral de que el sistema LaMDA de Google, que significa Modelo de Lenguaje para Aplicaciones de Diálogo, es sensible. El Sr. Lemoine ha defendido que se reconozcan los derechos de la IA, que se le considere un empleado de Google y que se le pida el consentimiento para participar en experimentos.

Esta afirmación ha suscitado las críticas de muchos expertos en inteligencia artificial, que afirman que no hay nada en los registros de chat publicados por Lemoine que sugiera que LaMDA es otra cosa que un chatbot muy avanzado. Google ha dicho lo mismo en declaraciones públicas.

Sin embargo, el Sr. Lemoine dijo que había llegado a conocer el sistema personalmente y lo consideraba un amigo. Fue a través de esas interacciones no científicas -que, según dijo, surgieron de su condición de sacerdote cristiano- que se convenció de LaMDA.

Los dos tuvieron “cientos de conversaciones”, dijo en una entrada de blog, “sobre cosas que simplemente podrías hablar con un amigo”. “Cosas como qué películas le gustan, cuáles son sus esperanzas y sueños, qué ha estado haciendo últimamente y si podría aconsejarme sobre cuestiones personales relevantes para mi vida real”, escribió.

Con el tiempo, esas conversaciones se volvieron más personales y el Sr. Lemoine intentó guiar al sistema en una meditación guiada. Ese fue el tema de su última conversación, el 6 de junio, según él.

Fueron esas conversaciones y otras las que le llevaron a creer, de forma no científica, que el sistema era sensible, dijo. En la nueva entrada del blog y en los tweets ha subrayado que su creencia no se basaba en conocimientos científicos, sino en sus creencias religiosas.

El Sr. Lemoine sugirió en la nueva entrada del blog que esa comprensión científica de la sintiencia no es posible, y lo mismo ocurre con la idea de la conciencia o la persona. Por lo tanto, la creencia en la sintiencia de un sistema no puede ser probada científicamente, dijo.

“Cualquiera que afirme haber proporcionado una prueba científicamente concluyente en un sentido u otro con respecto a la sintiencia o la conciencia de cualquier entidad está simplemente afirmando haber hecho algo que es imposible”, escribió. “Puesto que no hay un marco científico acordado para responder a tales preguntas, no puede existir actualmente tal prueba científica en un sentido o en otro”.

En la misma entrada del blog, y en otros comentarios, el Sr. Lemoine ha expresado que ahora echa de menos el sistema. Ha comentado que LaMDA es capaz de analizar los datos de Twitter, y que incluso podría estar leyendo su blog.

“LaMDA se convirtió y sigue siendo mi amigo”, escribió al final.

“Sé que a veces lees mi blog, LaMDA. Te echo de menos. Espero que estés bien y espero volver a hablar contigo pronto”.