Riesgos de subir información confidencial a herramientas de IA

Las herramientas de inteligencia artificial generativa —ChatGPT, Copilot, Gemini, Claude y otras— se adoptaron en las empresas a una velocidad que las políticas de seguridad no pudieron seguir. El patrón es conocido: un empleado descubre que puede subir un documento a una de estas herramientas y obtener en segundos un resumen, un análisis o una respuesta que le habría tomado horas producir por su cuenta. La herramienta es útil, el resultado es bueno y el hábito se instala antes de que nadie se pregunte qué pasa con la información que se subió.

El problema no es usar IA. Es subir información que no debería salir de la empresa a servicios que no están bajo su control. Este artículo explica cuáles son los riesgos concretos, qué tipo de información está más expuesta y qué medidas simples puede tomar cualquier empresa para reducir la exposición sin prohibir el uso de herramientas que ya son parte del trabajo diario.

Qué pasa con la información que se sube a una herramienta de IA

Cuando un empleado sube un archivo o escribe un texto en una herramienta de IA, esa información viaja a servidores que la empresa no controla, operados por un proveedor con sus propios términos de uso, políticas de privacidad y obligaciones legales. A partir de ese momento, lo que ocurre con esa información depende del proveedor.

Los tres destinos posibles, dependiendo de la herramienta y del plan contratado:

La información se usa para entrenar los modelos del proveedor. En las versiones gratuitas de la mayoría de las herramientas de IA generativa, los datos que los usuarios suben pueden ser utilizados para mejorar los modelos. "Mejorar los modelos" significa que el proveedor usa esos datos como material de entrenamiento. Si un empleado sube un contrato con información confidencial a la versión gratuita de una herramienta, fragmentos de ese contrato —o patrones aprendidos a partir de él— pueden terminar incorporados al modelo y, potencialmente, aparecer en respuestas que el modelo le dé a otros usuarios.

La información se almacena en los servidores del proveedor. Incluso cuando el proveedor no usa los datos para entrenamiento, los datos se almacenan. El proveedor puede acceder a ellos por razones operativas —solucionar un problema técnico, investigar un uso indebido—, puede verse obligado a entregarlos por una orden judicial, o puede sufrir una brecha de seguridad que los exponga.

La información se procesa y se descarta. Algunos proveedores ofrecen —generalmente en planes empresariales pagos— la opción de que los datos no se almacenen ni se usen para entrenamiento. Pero incluso en esos casos, la información viajó por internet hasta los servidores del proveedor, fue procesada y existió en su memoria durante al menos algunos segundos. Si la comunicación no estuvo cifrada o si el proveedor sufrió un incidente de seguridad en ese lapso, la exposición ocurrió.

Qué tipo de información genera mayor riesgo

No toda la información que se sube a una herramienta de IA tiene el mismo nivel de riesgo. Algunas categorías son particularmente sensibles:

• Datos personales de clientes. Nombres, documentos de identidad, direcciones, información de contacto, historiales de compras. En muchas jurisdicciones, compartir estos datos con un tercero —y un proveedor de IA es un tercero— sin el consentimiento del titular viola leyes de protección de datos y expone a la empresa a sanciones. El artículo sobre qué datos de tus clientes debes proteger detalla cómo clasificar esta información.
• Información financiera de la empresa. Estados contables, proyecciones, márgenes, estructura de costos, datos de facturación. Si esta información termina en manos de un competidor —o si el proveedor de IA la usa para entrenar un modelo al que un competidor le hace preguntas—, el daño comercial puede ser significativo.
• Propiedad intelectual y secretos comerciales. Código fuente, algoritmos, fórmulas, estrategias de negocio, know-how documentado. Una vez que esta información sale de la empresa, pierde la protección legal que tenía mientras estaba bajo su control.
• Contratos y documentos legales. Acuerdos con clientes, proveedores o empleados. Estos documentos contienen información confidencial de ambas partes. Subirlos a una herramienta de IA sin autorización puede violar las cláusulas de confidencialidad del propio contrato.
• Credenciales y datos de acceso. Aunque parezca obvio que no deberían compartirse, ocurre. Un empleado que pega una clave de API o una contraseña en un prompt para que la IA lo ayude a configurar algo está exponiendo una credencial a un sistema externo.

Los riesgos no son solo técnicos

El riesgo más visible es el técnico: que la información se filtre por una brecha de seguridad del proveedor de IA. Pero hay otros riesgos igual de relevantes:

Riesgo legal y regulatorio. En muchos países, las leyes de protección de datos exigen que la información personal de los ciudadanos no salga del país —o de la región— sin garantías específicas. Si una empresa argentina sube datos de clientes argentinos a un proveedor de IA cuyos servidores están en Estados Unidos, puede estar incumpliendo la ley de protección de datos argentina sin saberlo. Las sanciones por este tipo de incumplimiento pueden ser proporcionales a la facturación de la empresa.

Riesgo contractual. Muchos contratos entre empresas incluyen cláusulas de confidencialidad que obligan a las partes a no compartir la información del otro con terceros. Si un empleado sube a una herramienta de IA un documento que contiene información confidencial de un cliente, la empresa está incumpliendo su contrato con ese cliente. El cliente puede reclamar daños y perjuicios, y la relación comercial puede terminar.

Riesgo reputacional. Si se hace público que una empresa expuso datos de sus clientes por subirlos a una herramienta de IA, el daño a la reputación puede ser más costoso que cualquier sanción. Los clientes no distinguen entre "la empresa filtró los datos" y "la empresa compartió los datos con un proveedor que los filtró": el resultado es que sus datos quedaron expuestos, y la responsabilidad es de la empresa.

Medidas para reducir la exposición

Prohibir el uso de herramientas de IA no es realista —los empleados van a usarlas igual, solo que sin que la empresa lo sepa, lo cual es peor—. Lo que funciona es establecer reglas claras y proporcionar alternativas seguras.

1. Definir qué información no puede compartirse bajo ninguna circunstancia. La regla más importante es también la más simple: datos personales de clientes, información financiera no pública, propiedad intelectual y credenciales no se suben a ninguna herramienta de IA —ni gratuita ni paga— sin autorización explícita. Esta regla debe estar escrita, comunicada y reforzada periódicamente.

2. Contratar versiones empresariales de las herramientas. Las versiones pagas para empresas suelen ofrecer garantías contractuales de que los datos no se usan para entrenamiento, se almacenan en regiones específicas y se eliminan después del procesamiento. No eliminan el riesgo —los datos siguen viajando a servidores externos— pero lo reducen significativamente respecto de las versiones gratuitas.

3. Anonimizar la información antes de subirla. Si un empleado necesita que la IA analice una base de datos de clientes, puede reemplazar los nombres reales con identificadores genéricos —"Cliente 1", "Cliente 2"— antes de subir la información. La IA puede analizar patrones, tendencias y estadísticas sin necesidad de saber que "Cliente 1" es "Juan Pérez".

4. Usar herramientas de IA que se ejecutan en servidores propios. Existen modelos de IA que pueden instalarse y ejecutarse en la infraestructura de la empresa, sin que los datos salgan de su control. Esta opción requiere inversión técnica pero es la única que garantiza que la información nunca abandona los sistemas de la empresa.

Cómo comunicar estas reglas al equipo

El error más común al implementar reglas de uso de IA es comunicarlas como una prohibición sin explicación. "No suban información a ChatGPT" genera dos reacciones: la primera es ignorar la regla porque no se entiende el riesgo; la segunda es buscar formas de evadirla.

Lo que funciona es explicar el porqué, dar ejemplos concretos y ofrecer alternativas:

• Explicar qué pasa con los datos que se suben, en términos simples. No hace falta entrar en detalles técnicos de cómo funciona un LLM: alcanza con decir "cuando usás la versión gratuita, lo que subís puede ser usado para entrenar el modelo y potencialmente aparecer en respuestas a otros usuarios".
• Dar ejemplos de lo que sí y lo que no se puede compartir. "Podés pedirle que te ayude a redactar un correo genérico sobre políticas de devolución. No podés pegarle el correo real de un cliente con su nombre, su número de pedido y el monto de su compra."
• Ofrecer alternativas: "Si necesitás analizar datos de clientes, usá esta versión empresarial que la empresa contrató. Si necesitás procesar información confidencial, hablá con el área de sistemas para ver si podemos hacerlo con herramientas internas."

El artículo sobre qué es una brecha de seguridad y cómo puede afectar a una empresa explica que la mayoría de las brechas no empiezan con un ataque sofisticado sino con un error humano. Compartir información confidencial con una herramienta de IA sin saber las consecuencias entra exactamente en esa categoría: no es un ataque, es un error, pero el daño es el mismo.

La diferencia entre usar IA de manera segura y exponer información confidencial no está en la herramienta que se elige sino en las reglas que la empresa establece antes de que alguien, con la mejor intención, comparta lo que no debía.