Satya Nadella señaló que las organizaciones asumen un costo visible por suscripción y otro invisible al ceder conocimiento interno al proveedor de IA.
El CEO de Microsoft, Satya Nadella, advirtió que las empresas que utilizan inteligencia artificial (IA) enfrentan un doble pago: primero, el monto de la suscripción a servicios como Copilot de Microsoft o Gemini de Google; segundo, la cesión de conocimiento interno que las compañías revelan al interactuar con los modelos para mejorar su funcionamiento.
“Esencialmente se paga la inteligencia dos veces: una con dinero y otra con algo aún más valioso: el conocimiento exclusivo que se debe revelar para que esa inteligencia sea útil. Cuanto mejor se quiere que funcione el modelo, más conocimiento hay que alimentarle”, escribió Nadella en un ensayo publicado en X.
Según el directivo, cada interacción con una herramienta de IA entrega al proveedor parte del conocimiento interno que distingue a la empresa de sus competidores. Nadella denominó a este fenómeno “Reverse Information Paradox” (paradoja inversa de la información), en referencia a un concepto del economista Kenneth Arrow. En la versión original de Arrow, el riesgo lo corría el vendedor, que no podía demostrar el valor de su información sin revelarla. En la era de la IA, el riesgo pasó al comprador.
El mecanismo de fuga de datos, al que Nadella llamó “exhaust” o escape de datos, ocurre a través de los mensajes que escriben los empleados, las herramientas que usan los agentes de IA y las correcciones que realizan cuando el modelo se equivoca. “Cada corrección se destila en conocimiento institucional. Es el tipo de conocimiento que un competidor nunca podría comprar, y el tipo que se filtra casi imperceptiblemente: traza a traza, corrección a corrección”, advirtió.
Para proteger el conocimiento propio, Nadella propuso construir un “límite de confianza” alrededor de los datos, evaluaciones y memoria organizacional. Ningún elemento debería cruzar esa frontera sin consentimiento explícito. Sus recomendaciones incluyen:
- Controlar las propias evaluaciones de los modelos.
- Construir entornos de aprendizaje dentro de los límites del sistema propio.
- Separar la capa de orquestación de cualquier modelo específico para evitar dependencia de un solo proveedor.
- Reducir costos a largo plazo.
- Preservar el valor que genera la empresa.
“Una compañía debería poder usar un modelo sin ceder el conocimiento que la hace única. Esa es la paradoja inversa de la información que necesitamos confrontar”, concluyó Nadella.
El ensayo generó debate dado que Nadella es CEO de Microsoft, empresa que invirtió miles de millones de dólares en OpenAI y cuyo asistente Copilot está diseñado para integrarse en correos, archivos y chats corporativos de sus clientes.