Qué es la privacidad de datos en proyectos de IA
Un analista de una aseguradora mediana en Colombia copia una lista de treinta pólizas, con nombres, números de documento y montos de siniestro, y la pega en un chat de inteligencia artificial abierto en el navegador para pedirle un resumen. Nadie se lo prohibió expresamente, nadie firmó nada raro: la herramienta estaba ahí y el resumen le tomó veinte segundos en vez de dos horas de trabajo manual. Ese gesto, repetido cientos de veces por semana en empresas de todos los tamaños, es el momento exacto en que la privacidad de datos deja de ser una cláusula de contrato que nadie leyó y pasa a ser un problema operativo real, con consecuencias que la empresa ya no controla.
Definición
La privacidad de datos en IA es el control sobre qué información personal entra a un modelo, con qué permiso, dónde queda guardada y quién puede verla después, incluido el proveedor del modelo.
El equipo ya está pegando datos de clientes donde no debería
En una empresa de logística mediana en Perú, el equipo de atención al cliente empezó a usar un asistente de IA gratuito para redactar respuestas a reclamos. Pegaban el mensaje del cliente completo: nombre, número de guía, dirección, a veces el motivo del reclamo con detalles de un producto médico o financiero. Lo hacían porque el asistente respondía mejor y más rápido que la plantilla oficial. Nadie del área legal lo sabía. Nadie de sistemas lo había aprobado. El equipo simplemente encontró una forma de trabajar menos mal y la usó.
Esto no es una anécdota aislada. Pasa en clínicas donde un médico pega el historial de un paciente para pedir una segunda opinión redactada. Pasa en estudios contables donde alguien sube el estado financiero completo de un cliente para que la IA le arme un resumen ejecutivo. Pasa en áreas de recursos humanos que pegan currículums y evaluaciones de desempeño para que la IA le ayude a redactar una carta de despido. El denominador común es el mismo: el dato sale de la empresa, entra a un sistema que nadie audita, y nadie sabe con certeza qué pasa con él después.
El problema no es que un empleado use IA. El problema es que la empresa no tiene ninguna respuesta clara cuando alguien pregunta qué se puede pegar y qué no. Sin esa respuesta, cada persona improvisa su propio criterio, y el criterio de la persona más apurada del equipo termina siendo la política real de privacidad de datos de toda la empresa.
Qué es la privacidad de datos en un proyecto de IA
En criterio de negocio, la privacidad de datos en proyectos de IA no es un capítulo que le toca revisar a Legal una vez al año antes de firmar un contrato. Es una pregunta operativa que se repite cada vez que alguien, en cualquier área, abre una herramienta de IA con información real de la empresa o de sus clientes adentro.
La privacidad de datos en IA es el control sobre qué información personal entra a un modelo, con qué permiso, dónde queda guardada y quién puede verla después, incluido el proveedor del modelo.
La palabra clave ahí es control, no prohibición. No se trata de bloquear el uso de IA, eso ya lo intentó más de una empresa y perdió: el equipo encuentra la forma de usarla igual, solo que ahora sin que nadie lo sepa. Se trata de que la empresa decida, de forma explícita, qué dato puede entrar a qué sistema, en lugar de que esa decisión la tome por default cada persona que abre una pestaña nueva del navegador. Esto conecta directo con la gobernanza de datos de la empresa: si nadie sabe qué información sensible existe ni dónde vive, tampoco puede decidir qué proteger de una IA.
Las tres preguntas que hay que responder por cada sistema de IA
No hace falta un comité ni un documento de cuarenta páginas para empezar. Hace falta responder tres preguntas concretas por cada herramienta de IA que el equipo usa, desde el asistente de redacción hasta el sistema que analiza contratos. Si nadie en la empresa puede responderlas hoy, ahí está el problema.
Qué dato entra
No es lo mismo pegar un texto genérico que pegar una base de clientes con nombre, documento y monto. La empresa necesita saber, sistema por sistema, si lo que entra incluye datos personales, datos financieros, datos de salud o información que identifica a una persona específica. La mayoría de las empresas no lo sabe porque nunca se lo preguntó.
Dónde se procesa
El dato que entra a una IA no siempre se queda en el mismo país, ni siquiera en el mismo continente, que la empresa que lo generó. Esto importa doblemente cuando la empresa ya está sujeta a alguna normativa que regula la IA o el tratamiento de datos personales en su sector, y todavía más cuando decide entre una nube pública y una infraestructura propia, la disyuntiva real detrás de IA en la nube vs on-premise.
Si se usa para entrenar
Esta es la pregunta que casi nadie hace y la que más le importa a un proveedor. Hay herramientas que, por defecto, usan lo que el usuario pega para mejorar el modelo general, el mismo que después usan miles de empresas más. Eso significa que un fragmento de tu información puede terminar, de forma indirecta, dentro de las respuestas que el modelo le da a otra empresa. La mayoría de los proveedores serios ofrece una opción para desactivar esto en el plan empresarial, pero por defecto suele venir activada.
- Datos de identificación directa: nombre completo, número de documento, dirección.
- Datos financieros: montos, cuentas, historial de pago o de crédito.
- Datos de salud: diagnósticos, historiales clínicos, resultados de exámenes.
- Datos laborales sensibles: evaluaciones de desempeño, sanciones, motivos de despido.
- Secretos del negocio: contratos, márgenes, estrategia comercial, código propio.
Qué mirar en la letra chica del proveedor de IA
Casi nadie lee los términos de servicio de una herramienta de IA antes de empezar a usarla, y el equipo legal casi nunca se entera de que se está usando hasta que ya lleva meses en producción. El problema es que ahí, en esa letra chica, está la respuesta a si la empresa realmente controla el dato o no.
- Retención: cuánto tiempo guarda el proveedor los datos que se le entregaron y si existe un mecanismo real para pedir el borrado.
- Entrenamiento: si el plan que usa la empresa entrena el modelo general con las conversaciones, o si existe (y está activada) la opción de exclusión empresarial.
- Subprocesadores: qué otras empresas, además del proveedor principal, tienen acceso al dato en algún punto de la cadena.
- Ubicación: en qué región o país quedan almacenados los datos, y si eso es compatible con las normativas que regulan la IA en el sector de la empresa.
- Nivel de plan: si las garantías de privacidad que promete el proveedor aplican solo al plan empresarial pagado, y no a la versión gratuita que el equipo probablemente ya está usando.
La pregunta incómoda que hay que hacerle a cualquier proveedor no es si es seguro. Es qué pasa exactamente con el dato el día en que la empresa decida dejar de usar la herramienta.
Dónde se cuela el riesgo en el día a día, no en el contrato
El riesgo más grande casi nunca está en la herramienta de IA que la empresa contrató formalmente. Está en las que nadie contrató: las que cada persona instaló por su cuenta porque le resolvían el trabajo más rápido.
- Extensiones de navegador que resumen correos o reuniones y que, para hacerlo, leen todo lo que pasa por la pantalla.
- Asistentes de IA personales, usados con la cuenta gratuita del empleado, para tareas que en realidad son de la empresa.
- Subir un PDF completo, con datos de clientes o proveedores, a una herramienta gratuita para pedirle un resumen o una traducción.
- Copiar y pegar conversaciones de soporte o reclamos, con datos del cliente incluidos, para que la IA redacte la respuesta.
- Compartir credenciales o accesos internos dentro de un mensaje para que la IA revise un sistema o una base de datos.
Ninguno de estos casos pasa por un proceso de aprobación. Todos pasan por la necesidad legítima de una persona de trabajar más rápido, sin que nadie le haya dado una alternativa mejor. Esa alternativa, y no una prohibición que nadie va a respetar, es el verdadero punto de partida. Antes incluso de anonimizar un dato hay que decidir si es necesario que ese dato entre a una IA en primer lugar.
El mínimo viable: qué no se pega nunca y una alternativa aprobada
No hace falta escribir una política de privacidad de cuarenta páginas antes de que el equipo pueda seguir usando IA con criterio. Hace falta resolver dos cosas, y las dos son manejables en una empresa de cualquier tamaño.
Lo primero es una lista corta y explícita de lo que nunca se pega en una IA que no esté aprobada por la empresa:
- Datos de identificación completa de clientes: nombre, documento, dirección y teléfono combinados en un mismo mensaje.
- Datos financieros o de salud de terceros, con o sin nombre asociado.
- Contratos, propuestas comerciales o información con cláusulas de confidencialidad hacia otra empresa.
- Credenciales, contraseñas o accesos a sistemas internos.
- Cualquier dato que, si se hiciera público mañana, obligara a la empresa a dar explicaciones a un cliente o a una autoridad.
Lo segundo es dar una alternativa real: una herramienta de IA con contrato empresarial, con la opción de no entrenar activada y con claridad sobre dónde vive el dato, puesta a disposición del equipo antes de prohibirle nada. Si la empresa solo prohíbe sin ofrecer alternativa, el equipo va a seguir usando la herramienta gratuita, solo que ahora escondido. Esto es, en el fondo, una decisión de gobernanza de datos aplicada a un caso concreto, y en sectores con más exposición conviene revisarla junto con el marco de IA responsable de la empresa, no como un anexo aislado.
Mi criterio
Lo que más me ha costado que las empresas acepten es que la privacidad de datos en IA no se resuelve con un documento, se resuelve con una alternativa. He visto comités enteros redactar políticas extensas mientras el equipo, en paralelo, seguía pegando datos de clientes en la primera herramienta gratuita que encontraba, porque nadie les dio nada mejor con qué trabajar. Una política sin alternativa aprobada es una foto para el archivo, no un control real. Lo segundo que descarto de entrada es la idea de que esto se arregla con un contrato de confidencialidad firmado con el proveedor. Un contrato no cambia dónde vive físicamente el dato ni si el modelo lo usa para entrenar, eso lo define la configuración técnica del servicio, no la cláusula legal. He revisado casos donde la empresa tenía el contrato perfecto y la configuración por defecto seguía enviando todo a entrenamiento. Lo que sí funciona, cuando lo he visto funcionar, es simple: una lista corta de lo que nunca se pega, una herramienta aprobada con la configuración correcta activada, y alguien responsable de revisar esa configuración cada cierto tiempo, porque los proveedores la cambian sin avisar.
Cuándo es urgente resolver esto y cuándo ya lo tienes bajo control
No toda empresa necesita el mismo nivel de control desde el primer día, pero sí necesita saber en qué momento dejó de ser opcional revisarlo.
Señales de que tu empresa ya tiene un problema de privacidad de datos con IA
- Nadie en la empresa puede decir qué herramientas de IA usa cada área, ni con qué datos.
- El equipo pega información de clientes o pacientes en herramientas gratuitas porque la oficial es más lenta.
- Existe un contrato con un proveedor de IA que nadie del área legal revisó antes de firmarlo.
- La empresa maneja datos de salud, financieros o de menores y no sabe si algún sistema de IA los procesa.
- Un cliente o una autoridad ya preguntó qué pasa con sus datos cuando la empresa usa IA, y no hubo una respuesta clara.
Señales de que tu política de privacidad de datos está funcionando
- Existe una lista corta y conocida por todo el equipo de lo que nunca se pega en una IA no aprobada.
- Hay al menos una herramienta de IA con contrato empresarial y configuración de no entrenamiento verificada, no asumida.
- Alguien puede nombrar, sin buscarlo, dónde se procesan los datos de los dos o tres sistemas de IA más usados.
- El equipo tiene una alternativa aprobada antes de que se le prohíba usar la herramienta gratuita.
- La configuración de privacidad de cada proveedor se revisa cada cierto tiempo, no se asume que sigue igual que el día de la contratación.
Cierre
El error más común es empezar esta conversación por la herramienta: qué IA comprar, qué cláusula pedirle al proveedor, qué candado técnico instalar. El orden correcto es el inverso. Primero está el dolor real, el equipo pegando datos porque necesita trabajar más rápido y nadie le dio una alternativa. Después está el proceso, decidir qué información puede salir de la empresa y bajo qué condición. Después el dato, saber exactamente qué categorías de información maneja cada área y cuáles son sensibles. Recién al final llega la herramienta, elegida porque cumple con lo que el proceso exige, no al revés.
Una empresa que compra primero la herramienta de IA y después trata de acomodarle una política de privacidad termina, casi siempre, con un documento que no describe lo que realmente pasa todos los días. La privacidad de datos en IA no es un problema que se resuelve una vez. Es un criterio que hay que aplicar cada vez que entra una herramienta nueva, y la empresa que lo entendió antes de la primera fuga es la que no tiene que explicarle nada a un cliente después.
Preguntas frecuentes
¿Qué datos nunca deberíamos pegar en una herramienta de IA que no sea la aprobada por la empresa?
La lista corta que funciona en la práctica incluye datos de identificación completa de clientes (nombre, documento, dirección y teléfono juntos), información financiera o de salud de terceros, contratos con cláusulas de confidencialidad, credenciales de acceso a sistemas internos y cualquier dato que, si se filtrara, obligue a la empresa a explicarle algo a un cliente o a una autoridad. No hace falta memorizar una lista larga: la pregunta rápida que le sirve a cualquier empleado es si estaría cómodo viendo ese mismo texto publicado en una pantalla pública mañana. Si la respuesta es no, ese dato no entra a una IA sin contrato empresarial y sin verificar antes dónde queda guardado.
¿Cómo sé si el proveedor de IA que usamos entrena sus modelos con nuestros datos?
Se revisa en la configuración de privacidad de la cuenta empresarial, no en el contrato general. La mayoría de los proveedores serios ofrece una opción explícita, a veces llamada exclusión de entrenamiento o similar, que hay que activar de forma manual porque casi nunca viene activada por defecto en los planes básicos. La forma más confiable de confirmarlo no es preguntarle al vendedor, es pedirle al área técnica que entre a la configuración de la cuenta y verifique el estado real de esa opción, y que lo vuelva a revisar cada cierto tiempo, porque los proveedores cambian estas condiciones sin avisar con la frecuencia que uno quisiera.
¿Necesito anonimizar los datos antes de usarlos en un proyecto de IA?
Depende de qué tan sensible sea el dato y de qué tan aprobada esté la herramienta donde va a entrar. Si el sistema es de uso interno, con contrato empresarial y configuración verificada, anonimizar todo puede ser un costo innecesario. Si el dato va a entrar a una herramienta de uso general, o si nadie ha verificado la configuración del proveedor, anonimizar antes es la opción más segura y a menudo la más barata frente al riesgo de una fuga. La anonimización de datos y la privacidad de datos en IA resuelven el mismo problema desde ángulos distintos: una reduce el riesgo del dato mismo, la otra controla por dónde pasa.
¿Sirve con firmar un contrato de confidencialidad con el proveedor de IA?
Un contrato de confidencialidad es necesario, pero no resuelve por sí solo el problema. Lo que determina qué pasa con el dato es la configuración técnica del servicio (dónde se procesa, si entrena al modelo, cuánto tiempo se retiene), y esa configuración puede estar mal aunque el contrato sea impecable. Es común encontrar empresas con el contrato correcto firmado y la opción de entrenamiento todavía activada porque nadie fue a verificarla. Un contrato protege legalmente a la empresa si algo sale mal, no evita que salga mal. Las dos cosas hay que revisarlas por separado, y ninguna reemplaza a la otra.
¿En qué se diferencia la privacidad de datos de la seguridad de datos en un proyecto de IA?
La seguridad de datos protege el dato de accesos no autorizados: contraseñas, cifrado, permisos, ataques externos. La privacidad de datos define qué información puede entrar a un sistema, con qué permiso y quién tiene derecho a verla después, incluido el propio proveedor de la IA, que no es un atacante pero sí es un tercero con acceso. Una empresa puede tener sistemas perfectamente seguros, sin filtraciones ni accesos indebidos, y aun así tener un problema serio de privacidad si nadie decidió qué dato podía entrar a esa IA en primer lugar. Son controles complementarios, no intercambiables, y normalmente los revisan equipos distintos dentro de la misma empresa.
Fuentes
Este artículo sintetiza y pone en contexto de negocio material público de estas fuentes. Léelas directo; aquí solo se agrega criterio de implementación.
- El marco de gestión de riesgo de IA del NIST es la referencia más citada para estructurar, sistema por sistema, qué dato entra y qué riesgo de privacidad implica antes de ponerlo en producción. nist.gov
- El marco regulatorio europeo de IA es el punto de referencia más completo para entender por qué el país donde se procesa el dato no es un detalle menor sino una obligación legal en varios sectores. digital-strategy.ec.europa.eu
- El observatorio de políticas de IA de la OCDE agrupa cómo distintos países están abordando la privacidad de datos en IA, útil para una empresa que opera en más de un país. oecd.ai
- La cobertura de IBM sobre inteligencia artificial empresarial explica en términos prácticos cómo funcionan las políticas de retención y entrenamiento de datos que suelen aparecer en la letra chica de un proveedor. ibm.com
Sigue explorando
Qué es la anonimización de datos y cuándo es obligatoria
Qué es la anonimización de datos, en qué se diferencia de la seudonimización y cuándo tu empresa está obligada a aplicarla antes de usar datos con IA.
GlosarioQué normativas regulan el uso de IA en empresas
Qué normativas regulan el uso de IA en empresas: enfoque por riesgo, protección de datos personales en Latinoamérica y qué tiene que documentar tu empresa.
GlosarioQué es la gobernanza de datos (data governance) y por qué la IA la exige
Qué es la gobernanza de datos y por qué la IA la exige: quién es dueño de cada dato, quién puede usarlo y con qué calidad, sin burocracia inútil.
TecnologíasIA en la nube vs on-premise: cuál conviene a tu empresa
IA en la nube vs on-premise: qué se decide de verdad (control del dato, costo, quién opera) y en qué casos la regulación obliga a servidores propios.
GlosarioQué es la IA responsable y cómo se aplica en una empresa
Qué es la IA responsable y cómo se aplica de verdad en una empresa: dónde puede decidir la IA, quién responde por el error y qué se documenta antes de encender.
Sigue por aquí
Quiero entender el marco completo
Quiero verlo más táctico, aplicado al proceso
Quiero implementarlo en mi empresa
Ver todas las páginas de Glosario A-Z · Ver todo el Playbook AI Native
