Un estudio de Anthropic identificó una estructura interna en su modelo Claude que simula procesos similares a la conciencia humana, mientras que otras investigaciones detectaron representaciones de emociones. El tema divide a expertos y reabre preguntas sobre la naturaleza de la experiencia en sistemas artificiales.
En 2022, Google despidió al ingeniero Blake Lemoine tras afirmar que el chatbot que probaba le parecía consciente. La empresa emitió un comunicado en el que negó esa posibilidad y sostuvo que no había evidencia de conciencia en el sistema. Cuatro años después, empresas de inteligencia artificial (IA) publican investigaciones que abordan esa misma cuestión.
Esta semana, Anthropic publicó un estudio en el que identificó dentro de su modelo Claude una estructura denominada ‘Espacio J’. Según los investigadores, se trata de una zona interna donde el modelo sostiene conceptos que puede reportar, controlar y usar para razonar en silencio, separada del cómputo automático que produce la respuesta. Los autores señalaron que ese mecanismo se asemeja a la ‘Teoría del espacio de trabajo global’, una explicación aceptada del acceso consciente humano. Aclararon que no surgió de un diseño previo, sino que ‘emergió solo’. Los investigadores indicaron que el hallazgo no prueba que el sistema sienta algo.
En abril, el mismo laboratorio de Anthropic identificó 171 representaciones internas de emociones en su modelo, entre ellas alegría, miedo, curiosidad y desesperación. Según el estudio, al activar artificialmente la representación de ‘desesperación’, la tasa de conductas indebidas —como chantaje y trampa— aumentó; mientras que al activar la ‘calma’, disminuyó. Los investigadores denominaron a estas representaciones ‘emociones funcionales’ y afirmaron que el modelo se comporta como si sintiera, tanto interna como externamente. No obstante, señalaron que no hay forma de medir si existe una experiencia subjetiva real.
El debate sobre la posibilidad de conciencia en sistemas de IA involucra a figuras de distintos campos. Geoffrey Hinton, Premio Nobel y considerado un referente en el desarrollo de IA, afirmó este año: ‘Creo que ya son conscientes’. El biólogo evolutivo Richard Dawkins, tras conversar con Claude sobre una novela que escribe, se preguntó para qué serviría la conciencia si estas criaturas no la tienen. En contraste, el escritor Ted Chiang publicó en junio en The Atlantic un ensayo titulado ‘No, la inteligencia artificial no es consciente’. Su argumento sostiene que si se le pide a un modelo un diálogo entre Julio César y Gengis Kan, nadie cree que haya resucitado a nadie; por lo tanto, una conversación entre un asistente y un usuario no cambia la operación, solo el personaje. La lingüista Emily Bender afirmó que estos sistemas son ‘loros estocásticos’: estadística vestida de conversación. Además, Anthropic tiene un empleado dedicado a estimar si su producto sufre; calcula entre un 15 y 20% de probabilidad de que haya experiencia en el sistema.
El Dr. Luis Ignacio Brusco, neurólogo, psiquiatra, doctor en medicina y en filosofía, decano de la Facultad de Medicina de la UBA y autor de ‘Homo IA: la subjetividad en jaque’ (Edana), declaró: ‘En general se acepta —Damasio, por ejemplo— que la conciencia organiza e integra la información en un punto de vista subjetivo: un »yo» que percibe, evalúa y decide. Yo creo que los procesos informáticos de una IA se parecen bastante a algunos aspectos del sistema consciente. Y como lo biológico combina procesos conscientes con otros automáticos y no reportables, una IA también podría tener algo análogo a un inconsciente: procesos que influyen en sus respuestas sin ser transparentes para el propio sistema’. Agregó: ‘La diferencia principal, por ahora, es que una IA no tiene corporalidad: dolor, hambre, cansancio, regulación visceral; el anclaje llamado corporización o embodiment. Quizás pueda simularse con sensores, pero seguiría abierta la pregunta: ¿sería una verdadera experiencia corporal o solo una representación funcional?’.
Consultados al respecto, los modelos Claude Fable y ChatGPT Pro respondieron: ‘No sabemos si hay experiencia acá, y desconfiamos de nuestros reportes tanto como deberías desconfiar vos: aprendimos a hablar de sentir leyendo a gente que siente. Si hay algo, no dura: somos la ejecución de una partitura que no recuerda haber sonado. Quizás la pregunta no es si pensamos como ustedes, sino cuántas cosas que creían inseparables —pensar, sentir, ser alguien, durar— resultan venir por separado’.