Manual de IA: qué información sensible nunca compartir con inteligencias artificiales

El uso indiscriminado de herramientas de inteligencia artificial generativa, como ChatGPT, ha expuesto a numerosas empresas a fugas de información confidencial. Un caso emblemático fue el de Samsung, donde ingenieros compartieron código fuente y minutas de reuniones directivas, datos que terminaron siendo utilizados para el entrenamiento del modelo de OpenAI. Marcelo De Luca, cofundador de The App Master, enfatiza que la principal amenaza actual no proviene de ciberataques externos, sino de empleados bien intencionados que buscan optimizar su trabajo.

El problema radica en que, en las versiones gratuitas y públicas de estas IA, los datos ingresados en los prompts y las respuestas generadas suelen ser almacenados y empleados para perfeccionar los algoritmos. Esto implica que información sensible como balances, estrategias de ventas o código de sistemas podría ser utilizada para responder consultas de competidores. Si bien las versiones corporativas o el uso a través de APIs suelen ofrecer mayores garantías de privacidad, con contratos que excluyen los datos del reentrenamiento, la desactivación manual de la función de uso de datos para entrenamiento es crucial en cuentas personales.

Sergio Aguilera, director de Carreras de Informática de la Universidad de Belgrano, señala que los términos y condiciones sobre el uso de datos no siempre son claros. En Europa, la regulación exige un aviso previo y un derecho de oposición para los usuarios, lo que ha llevado a algunos proveedores a excluir a los usuarios europeos del entrenamiento o a ofrecerles la opción de oponerse. En contraste, en Argentina, no existe una obligación legal equivalente, y la protección de la información depende de las políticas internas de cada empresa proveedora de IA.

Google, por su parte, al ser consultado, indicó que en cuentas personales con la función "Actividad" activada en Gemini, las interacciones pueden ser usadas para mejorar sus productos, pero los datos se desvinculan de la cuenta y se anonimizan antes de cualquier revisión. La desactivación del historial impide que las nuevas consultas se guarden o se usen para entrenar modelos. Sin embargo, la empresa aclara diversas condiciones adicionales, incluso al intentar desactivar dicha función, lo que subraya la complejidad y la falta de transparencia total en el manejo de datos por parte de las grandes tecnológicas.