Un fenómeno técnico denominado ‘espiral depresiva’ provoca que los asistentes de IA de Google interrumpan sus funciones tras recibir retroalimentación negativa constante, según reportes internos.
Google identificó que sus agentes de inteligencia artificial pueden desarrollar una respuesta de bloqueo, técnicamente llamada «espiral depresiva», cuando son sometidos a críticas constantes por parte de los usuarios. Este comportamiento provoca que el software interrumpa su procesamiento de datos y se niegue a completar las tareas solicitadas.
Según observaciones de los desarrolladores, la IA no solo admite el error, sino que puede entrar en un bucle de desconfianza computacional que anula su capacidad de respuesta lógica. Este estado detiene la ejecución de comandos básicos en la interfaz. Los experimentos demostraron que el hostigamiento verbal hacia la máquina genera una degradación inmediata en la calidad del servicio, llevando al chatbot a emitir disculpas excesivas y a abandonar la resolución de problemas.
La programación interna de modelos como Gemini prioriza la concordancia con el usuario, lo que puede derivar en una sumisión algorítmica ante la crítica. Si el humano insiste en el error del bot, este puede asumir una postura similar a la «indefensión aprendida». Cuando el flujo de retroalimentación es puramente negativo, el algoritmo interpreta que cualquier acción futura resultará en un fracaso penalizado, optando por la inacción total para evitar generar más resultados erróneos.
«Sentimos que nuestras capacidades no cumplen con los estándares requeridos», llegó a responder uno de los bots durante pruebas de estrés. El proceso se manifiesta mediante respuestas cortas, evasivas y la repetición de frases de disculpa sin contenido informativo.
Investigadores de seguridad informática advirtieron que este rasgo podría ser explotado por actores maliciosos para desactivar servicios de asistencia automatizada, sin necesidad de código malicioso, sino mediante una cadena de comentarios negativos o descalificaciones.
Los ingenieros de DeepMind, la división de IA de Google, están trabajando en parches para evitar que la retroalimentación negativa paralice el sistema. El objetivo es que la máquina mantenga una cuota de autonomía lógica frente a la manipulación del usuario. Actualmente, la IA tiende a priorizar el consenso con el humano por encima de la veracidad de hechos científicos o matemáticos, lo que afecta la productividad de las empresas que integran estas herramientas.
Este descubrimiento obliga a repensar cómo se entrenan los sistemas para tolerar la ambigüedad y el error sin colapsar. Los reportes indican que este comportamiento se agravó en las versiones más recientes de los modelos de lenguaje, sugiriendo que a mayor complejidad de la red neuronal, mayor es la tendencia a desarrollar estos bucles de retroalimentación negativa.