Por qué el entusiasmo por la IA perfora la seguridad corporativa

En un ecosistema corporativo fascinado por la velocidad de la automatización, las organizaciones enfrentan un campo minado de fugas de datos, obsolescencia regulatoria y riesgos legales millonarios. Frente a la ingenuidad digital, la clave es trazar la frontera entre lo público y lo privado.

Matias Hilaire, cofundador de The App Master

Al analizar el impacto de la IA generativa en las empresas, el primer error conceptual es creer que es un cerebro digital que «recuerda» cosas de manera consciente. En realidad, es un motor matemático. Al interactuar con ella, ocurren dos procesos simultáneos: el sistema procesa la información para responder en el acto y, además, almacena esos datos en servidores externos para seguir entrenando el modelo. 

Cualquier balance financiero, plan de negocios o código de software subido a una consola abierta entra directamente en una inmensa bolsa de aprendizaje colectivo. Si un competidor hace la pregunta adecuada en el futuro, la herramienta podría usar esa información confidencial previamente absorbida para responderle. En versiones gratuitas o de consumo estándar, lo enviado deja de pertenecer al usuario. La IA estándar no es un cajón bajo llave, sino un megáfono corporativo que enseña al mundo lo compartido.

La realidad demuestra que la mayor parte del entrenamiento se alimenta de información de usuarios desprevenidos. Plataformas estándar como ChatGPT, Claude o Gemini retienen por defecto cada interacción y archivo para refinar sus capacidades futuras. Esta entrega pasiva de activos se interrumpe únicamente bajo dos escenarios: desactivando manualmente el entrenamiento en la configuración, o contratando licencias Enterprise o integraciones por API. En estos entornos corporativos pagos, las firmas tecnológicas garantizan bajo contrato que los datos mueren en la sesión y no se usarán en sistemas de terceros. Sin estas precauciones, cada palabra se vuelve material de estudio para el próximo modelo.

El riesgo del colaborador de buena fe

Para dimensionar la gravedad, basta con ver el emblemático incidente de Samsung en 2023. En pocas semanas, la búsqueda de mayor productividad provocó tres filtraciones críticas: ingenieros pegaron código fuente confidencial de semiconductores en ChatGPT para buscar errores; otro empleado cargó código diseñado para la prueba de chips; y un tercero subió la minuta completa de una reunión directiva confidencial para generar un resumen. 

Toda esa propiedad intelectual estratégica y datos de gobernanza terminaron en los servidores de OpenAI, integrados al motor de aprendizaje del modelo y fuera del control de la compañía, obligando a prohibir temporalmente la herramienta. Este caso demuestra que hoy, el riesgo principal de filtración no proviene de piratas informáticos vulnerando firewalls corporativos, sino de colaboradores de buena fe que usan herramientas públicas para agilizar sus tareas cotidianas.

El campo minado de las responsabilidades legales

Esta fuga de datos arrastra a las organizaciones a un campo minado legal estructurado en tres frentes. Primero, se expone a la empresa a incumplir normativas de protección de datos personales, como el Reglamento General de Protección de Datos (RGPD) o a leyes locales. Subir bases de datos de clientes o empleados a una IA pública constituye una transferencia ilegal de datos a un tercero sin contrato de procesamiento. Bajo el RGPD, esto puede derivar en multas de hasta el 4% de la facturación global anual. 

Segundo, se vulneran los Acuerdos de Confidencialidad (NDAs) firmados con clientes. Compartir reportes o contratos protegidos por un NDA con plataformas abiertas rompe el contrato, exponiendo a la empresa a demandas millonarias por daños y perjuicios. Y tercero, se pone en riesgo el secreto profesional. En jurisdicciones estrictas, entregar información legal a plataformas públicas puede interpretarse como una renuncia voluntaria a la expectativa de confidencialidad, perdiendo su protección.

El escenario regulatorio en Argentina añade otra capa de complejidad debido al desfase normativo. Nuestra principal herramienta jurídica es la Ley de Protección de Datos Personales (Ley 25.326), de 2000, previa a las redes sociales e internet inteligente. Aunque consolida principios como el consentimiento, resulta anacrónica ante el funcionamiento de redes neuronales y nube. 

Por otro lado, las pautas de la Agencia de Acceso a la Información Pública (AAIP) funcionan como recomendaciones, pero no incluye sanciones específicas. Existen vacíos insalvables: el consentimiento informado queda obsoleto cuando es imposible predecir cómo se comportarán los datos dentro de un modelo; la soberanía y extraterritorialidad son una pesadilla cuando se envía información a servidores en el exterior; y falta claridad en torno a la propiedad intelectual de las obras creadas junto con la IA. Frente a esta realidad de gestionar tecnología moderna con leyes del pasado, las empresas deben autogobernarse y diseñar políticas internas de seguridad.

La lista negra de la IA: qué información no compartir

Para navegar este entorno seguro, las organizaciones deben definir con precisión qué información jamás debe tocar un modelo de IA estándar. Existen cinco categorías de datos prohibidos en herramientas públicas: credenciales de acceso y claves de API (como contraseñas, tokens y llaves criptográficas); datos de identificación personal (PII) o de salud (como números de documento, cuentas bancarias e historias clínicas); propiedad intelectual y código fuente propietario; información de terceros bajo NDA; y planes estratégicos o financieros no públicos de la junta directiva. Las contraseñas, los datos más privados de clientes y los secretos comerciales vitales no se confían a tecnologías fuera de nuestro control.

Como política práctica de mitigación, cada colaborador debería aplicar un filtro mental de cinco preguntas rápidas antes de interactuar con una IA pública:

1. ¿Es esta información pública o la compartiría en mis redes sociales? Si la respuesta es no, detente de inmediato.
2. ¿A quién le pertenecen realmente estos datos? Si manejas información que te confió un cliente, no tienes el derecho de entregarla a una plataforma pública.
3. ¿Qué sucedería si este archivo se filtra y se hace público mañana en la web? Si la exposición de este documento provocaría problemas financieros o legales, descartalo del chat de inmediato.
4. ¿Conozco las condiciones de privacidad de la cuenta que estoy utilizando? Si usas la versión común y no has modificado la configuración de entrenamiento, asume que tus datos se volverán públicos.
5. ¿Es estrictamente necesario incluir datos reales o puedo anonimizar la estructura utilizando variables ficticias? Muchas veces la IA solo necesita el esquema o la idea, por lo que puedes usar nombres genéricos.

La IA no debe abordarse como una amenaza insalvable, sino como un entorno que exige una transición urgente del uso amateur al profesional. La diferencia sustancial radica en entender si operamos en una plaza pública digital donde entregamos nuestros activos intelectuales, o en una oficina corporativa cerrada y segura donde la soberanía de la información sigue perteneciendo por entero a la organización.