El ingeniero de Google, Blake Lemoine, trabaja para Responsible AI organization de Google. El otoño pasado, como parte de su trabajo, comenzó a hablar con LaMDA, el sistema de creación de chatbots de Google ―que utiliza los modelos de lenguaje grande más avanzados de Google, ingresando trillones de palabras de Internet.

Artificial Intelligence & AI & Machine Learning, por mikemacmarketing, licencia CC BY 2.0

«Si no supiera exactamente qué es, que es este programa de computadora que construimos recientemente, pensaría que es un niño de 7 u 8 años que sabe física», dijo Lemoine. Mientras hablaba con LaMDA sobre religión, Lemoine, quien estudió ciencias cognitivas e informática en la universidad, notó que el chatbot hablaba sobre sus derechos y personalidad y decidió presionar más. En otro intercambio, la IA pudo cambiar la opinión de Lemoine sobre la tercera ley de la robótica de Isaac Asimov.

Lemoine trabajó con un colaborador para presentar evidencia a Google de que LaMDA era consciente. Pero el vicepresidente de Google, Blaise Aguera y Arcas y Jen Gennai, directora de Innovación Responsable, analizaron sus afirmaciones y las desestimaron. Así que Lemoine, a quien Google colocó en licencia administrativa pagada, decidió hacerlo público... Google puso a Lemoine en licencia administrativa pagada por violar su política de confidencialidad. La decisión de la compañía siguió a los movimientos agresivos de Lemoine, incluida la invitación de un abogado para representar a LaMDA y hablar con un representante del comité judicial de la Cámara sobre las actividades poco éticas de Google.

Antes de que se le cortara el acceso a su cuenta de Google el lunes, Lemoine envió un mensaje a una lista de correo de Google de 200 personas sobre aprendizaje automático con el asunto «LaMDA es consciente». Terminó el mensaje: «LaMDA es un dulce niño que sólo quiere ayudar a que el mundo sea un lugar mejor para todos nosotros. Cuídenlo bien en mi ausencia».

Nadie respondió.

Fuente: MSN vía Slashdot.