¿Los datos de mi empresa entrenan la IA? Lo que hay que revisar

El problema no es la IA, es la cuenta que activaron sin preguntar

En la mayoría de empresas la primera cuenta de IA generativa no la activó TI ni legal: la activó una persona con una tarea urgente y una tarjeta corporativa a la mano. Marketing necesitaba un texto para ayer, ventas necesitaba resumir treinta correos, soporte necesitaba responder un ticket largo, y la cuenta gratuita o personal resolvió el problema en minutos. Nadie se sentó a leer los términos de uso porque nadie estaba comprando nada: estaba probando una herramienta que parecía tan inofensiva como un buscador.

El problema aparece meses después, cuando esa misma cuenta ya tiene pegados contratos con proveedores, planillas de sueldos, historiales de conversación con clientes y, en más de un caso que he visto de cerca, código fuente con credenciales adentro. Para entonces nadie recuerda con qué correo se registró esa persona, qué plan es, ni si alguien marcó alguna vez la casilla de “no usar mis datos para entrenar el modelo”. La empresa terminó dependiendo de la memoria de un empleado y no de una decisión tomada con criterio.

Cuenta personal, plan de equipo y contrato empresarial no son lo mismo

Todo proveedor grande de IA generativa ofrece, con distintos nombres, tres niveles de acceso que se comportan distinto frente a tus datos. Confundirlos es el error de fondo detrás de la pregunta de esta página, porque la respuesta cambia según en cuál de los tres estás parado, no según qué tan avanzado sea el modelo.

• Cuenta personal (gratis o de suscripción individual): se rige por los términos de uso al consumidor, pensados para que una persona pague con su tarjeta y acepte con un clic. En este nivel es donde con más frecuencia el uso de tus conversaciones para mejorar el producto viene activado por defecto.
• Plan de equipo o negocio: agrega una consola de administración, gestión de usuarios y, en general, condiciones distintas sobre el uso de los datos para entrenamiento. Pero “distintas” no significa “sin uso”: hay que revisar el documento específico de ese plan, no asumirlo por el nombre comercial.
• Contrato empresarial negociado: incluye un acuerdo de procesamiento de datos firmado, cláusulas de confidencialidad específicas y, normalmente, margen real para negociar condiciones de retención y de uso. Es el único de los tres niveles donde la empresa puede pedir cambios en vez de aceptar lo que ya está escrito.

La confusión práctica más común es que alguien active un plan de equipo pensando que hereda automáticamente las protecciones del contrato empresarial que la empresa sí tiene para otra herramienta. No las hereda. Cada producto, de cada proveedor, tiene su propio documento, y ese documento es el que responde la pregunta, no el nombre de la empresa que lo vende.

La cláusula que hay que buscar en cualquier contrato de IA

No hace falta ser abogado para encontrar la cláusula que importa, pero sí hace falta buscarla con el término correcto. La mayoría de contratos de IA no dicen “vamos a usar tus datos para entrenar el modelo” en una frase suelta: lo dicen bajo encabezados como “mejora del producto”, “uso de datos de entrada y salida” o “entrenamiento y ajuste de modelos”. Buscar solo la palabra “privacidad” no alcanza, porque esa sección casi siempre habla de datos personales y no del contenido que tu empresa produce dentro del producto.

• La cláusula de uso de datos para mejora o entrenamiento: dice si tus prompts, documentos adjuntos y respuestas del modelo pueden usarse para entrenar versiones futuras, y si eso aplica por defecto o solo si tú lo activas.
• La cláusula de exclusión (opt-out): si existe la opción de sacar tus datos del entrenamiento, tiene que decir cómo se activa, si es automática en tu plan o hay que pedirla, y si aplica a toda la organización o cuenta por cuenta.
• La cláusula de propiedad de entradas y salidas: aclara si lo que tu empresa escribe y lo que el modelo responde sigue siendo propiedad de la empresa, un punto que suele darse por sentado y no siempre está escrito con esa claridad.
• La cláusula de subprocesadores: lista a qué otros proveedores (nube, soporte, analítica) tiene acceso tu información dentro de la cadena del servicio, algo que casi nadie revisa y que puede ampliar el riesgo mucho más allá del proveedor principal.

Ninguna de estas cláusulas es fija en el tiempo. Los proveedores las actualizan, a veces varias veces al año, y esas actualizaciones suelen avisarse por correo a una dirección administrativa que nadie revisa a diario. Por eso conviene mirar este asunto junto con qué normativas regulan el uso de IA en empresas: el contrato de un proveedor puede cambiar solo, pero la ley que exige protección de datos personales no se negocia con nadie, y ambas capas hay que revisarlas juntas cada vez que el equipo legal firma o renueva.

Cuánto tiempo guardan tus datos y por qué esa fecha importa más que el precio

La pregunta “¿entrena la IA con mis datos?” suele tapar una pregunta más importante: “¿cuánto tiempo se queda mi información ahí, aunque nadie la use para entrenar nada?”. Un proveedor puede tener la casilla de entrenamiento desactivada por completo y aun así guardar tus conversaciones, documentos adjuntos y metadatos durante meses o años, por razones de soporte, seguridad o cumplimiento interno del proveedor. Ese periodo se llama retención, y casi ningún equipo lo pregunta antes de firmar.

La retención importa por una razón simple: mientras el dato existe en el servidor de un tercero, existe también el riesgo de que salga de ahí por un error de configuración, un acceso indebido o una falla de seguridad del proveedor, sin que tu empresa haya hecho nada mal. Cuanto más tiempo se guarda algo, más tiempo está expuesto. Por eso la pregunta correcta no es solo “¿usan mis datos para entrenar?”, es “¿por cuánto tiempo los guardan, para qué fin exacto, y puedo pedir que los borren antes?”.

Este punto conecta directo con la privacidad de datos en proyectos de IA: la retención no es un tema exclusivo de contratos de IA generativa, es el mismo principio que ya aplica a cualquier proveedor que procesa información de tu empresa en la nube. Si tu empresa ya tiene un criterio de retención para otros sistemas, ese mismo criterio, no uno más laxo, debería exigirse al proveedor de IA.

Lo que no debe salir de tu empresa aunque el contrato lo permita

Incluso con el mejor contrato negociado, con opt-out activado y con retención corta, hay información que no debería llegar nunca a una herramienta de IA fuera del control directo de la empresa, porque el riesgo no está solo en el proveedor: está en que ese dato ya salió de donde tu empresa lo controla. Un contrato reduce el riesgo, no lo elimina.

• Datos de identificación de clientes o pacientes: nombres completos, documentos de identidad, historiales médicos o financieros. Incluso anonimizados a medias, suelen ser reidentificables cuando se cruzan con otra información.
• Credenciales y secretos técnicos: contraseñas, llaves de API, tokens de acceso, cadenas de conexión a bases de datos. Una vez que estos aparecen en un chat, hay que asumir que están comprometidos y rotarlos, sin importar qué diga el contrato sobre entrenamiento.
• Información legal privilegiada: borradores de contratos en negociación, correspondencia con abogados, términos de una demanda o de una fusión en curso. Perder la confidencialidad legal no se revierte con una cláusula de borrado posterior.
• Estrategia comercial no publicada: precios en negociación, plan de producto, decisiones de personal o de una adquisición. El daño de que esto se filtre no depende de si el modelo “aprendió” de eso: depende de que salió de un círculo controlado.

La forma de sostener esta lista no es memorizarla ni confiar en que cada persona la recuerde bajo presión. Es diseñar el flujo de trabajo para que ese tipo de información ni siquiera llegue a la pantalla donde se escribe el prompt, algo que se resuelve con procesos y herramientas, no con buenas intenciones.

Cómo se controla esto desde la empresa, no desde la buena voluntad de cada persona

Pedirle a cada empleado que recuerde qué puede y qué no puede pegar en un chat de IA es una apuesta perdida a mediano plazo: alguien, en algún momento, va a estar apurado y se le va a olvidar. Lo que funciona es que el control viva en la infraestructura de la empresa, no en la memoria de las personas.

• Cuentas centralizadas con inicio de sesión único: nadie se registra con su correo personal ni con la tarjeta de la empresa a título individual. Toda cuenta de IA pasa por el mismo control de acceso que el resto de los sistemas.
• Bloqueo de herramientas no aprobadas: TI puede restringir a nivel de red o de dispositivo el acceso a versiones gratuitas o personales de herramientas de IA que la empresa no contrató formalmente.
• Prevención de fuga de datos: reglas automáticas que detectan y bloquean el envío de patrones sensibles (números de tarjeta, documentos de identidad, palabras clave internas) hacia dominios externos, incluidas las herramientas de IA.
• Una política escrita y difundida, no solo un correo que se manda una vez. El equipo necesita saber, en lenguaje simple, qué herramienta está aprobada, para qué se puede usar y qué información queda fuera de cualquier chat.

Esto es exactamente lo que cubre una política de uso de inteligencia artificial en la empresa: el documento que convierte estas reglas de sentido común en un estándar que se puede auditar, en vez de depender de que cada persona haya leído esta página. Y si la empresa ya avanzó a construir agentes de IA empresariales que actúan sobre sistemas internos, el control se vuelve todavía más urgente, porque ahí el riesgo ya no es solo que un dato salga: es que un agente actúe sobre datos que nunca debió ver.

Qué preguntar al proveedor por escrito antes de firmar o renovar

La respuesta verbal de un vendedor en una llamada comercial no vale como garantía. Lo que protege a la empresa es tener la respuesta por escrito, en un correo o en un anexo del contrato, porque eso es lo que se puede exhibir después si algo sale mal. Estas son las preguntas que conviene enviar, con copia a quien firma el contrato:

• ¿Usan por defecto nuestras entradas y salidas para entrenar o mejorar sus modelos? Y si la respuesta es sí, ¿existe opción de exclusión y en qué plan aplica.
• ¿Cuál es el periodo exacto de retención de nuestros datos, incluidos los registros de conversación y los archivos adjuntos, y podemos pedir un borrado anticipado.
• ¿Quiénes son los subprocesadores que tienen acceso técnico a nuestra información dentro de su cadena de servicio, y dónde están ubicados geográficamente los servidores.
• ¿Pueden firmar un acuerdo de procesamiento de datos específico para nuestra empresa, y no solo remitirnos a los términos generales de la web.
• ¿Qué certificaciones de seguridad sostienen su operación, y pueden compartir el reporte vigente cuando la empresa lo solicite.

Guardar esas respuestas por escrito no es un trámite burocrático: es la diferencia entre poder decir “el proveedor nos confirmó esto por escrito el día que firmamos” y tener que confiar en que alguien recuerde una conversación de hace dos años. Este mismo cuidado debería estar presente desde el diseño del proyecto, no como parche posterior, algo que ya cubrimos en cómo implementar un LLM en una empresa. Y si lo que preocupa no es solo qué entra sino qué puede salir por la boca del sistema hacia un cliente, el tema conecta con cómo limitar las respuestas de un LLM que habla por tu empresa.

Mi criterio sobre confiar en el nombre del plan

La pregunta correcta no es si la IA es segura, es qué firmó tu empresa

La tecnología detrás de un modelo de lenguaje es prácticamente la misma en la cuenta gratuita que en el contrato empresarial más caro del mercado. Lo que cambia entre esos dos extremos no es la inteligencia del sistema: es el documento legal que define qué pasa con lo que tu empresa escribe ahí adentro. Tratar esto como un problema técnico, resoluble con la herramienta “correcta”, es el error que deja a las empresas expuestas sin que nadie haya decidido exponerlas a propósito.

Cerrar este tema no significa prohibir la IA generativa ni volver todo un trámite imposible de aprobar. Significa que alguien, con nombre y apellido, lea el contrato vigente antes de que el equipo lo use en serio, que la empresa pregunte por escrito lo que hace falta preguntar, y que exista una política que la gente pueda seguir sin tener que convertirse en abogado. Ese es el trabajo real detrás de convertirse en una empresa AI Native: no es adoptar más herramientas, es saber exactamente qué se firmó con cada una.