La inteligencia artificial (IA) ya forma parte de la actividad diaria de muchas empresas. Se utiliza para analizar información, automatizar procesos, generar contenidos, entrenar modelos, clasificar datos o tomar decisiones que pueden afectar directamente a las personas.
Pero cuanto más se utiliza la IA, más importante resulta hacerse una pregunta: ¿estamos utilizando los datos de forma adecuada?
La Agencia Española de Protección de Datos (AEPD) acaba de aportar nuevos criterios para responder a esta cuestión. A través de una nota técnica específica sobre la calidad de los datos en sistemas de inteligencia artificial, la Agencia analiza cómo deben aplicarse principios del Reglamento General de Protección de Datos (RGPD), como la exactitud, la minimización y la calidad de los datos.
El objetivo no es frenar la innovación. Al contrario: se trata de ofrecer a las empresas criterios que permitan desarrollar y utilizar sistemas de IA cumpliendo la normativa de protección de datos y protegiendo al mismo tiempo los derechos de las personas.
¿Qué relación existe entre la IA y la protección de datos?
La utilización de inteligencia artificial y datos personales plantea cuestiones que no siempre son fáciles de resolver. Un sistema de IA puede trabajar con enormes cantidades de información y utilizarla para generar predicciones, perfiles, inferencias o recomendaciones.
Por ello, el hecho de utilizar una tecnología novedosa no significa que las reglas de protección de datos desaparezcan. El RGPD sigue siendo plenamente aplicable cuando existe un tratamiento de datos personales.
Lo que plantea ahora la AEPD es una cuestión especialmente interesante: los principios del RGPD deben aplicarse teniendo en cuenta la finalidad concreta del tratamiento y la idoneidad de los datos para alcanzar ese objetivo.
Esto permite evitar interpretaciones excesivamente rígidas que puedan dificultar innecesariamente el desarrollo de soluciones basadas en IA, sin renunciar a la protección efectiva de las personas.
La exactitud de los datos no significa que todos tengan que ser perfectos
Uno de los puntos más relevantes de la nota técnica es la interpretación del principio de exactitud de los datos.
Podría parecer que este principio obliga a que todos los datos utilizados por un sistema de inteligencia artificial sean absolutamente verdaderos, completos y permanentemente actualizados.
Sin embargo, la AEPD introduce un matiz importante. La calidad o exactitud de un dato debe analizarse en función de la finalidad para la que se utiliza y de los efectos que pueda producir sobre las personas.
En determinadas situaciones, por tanto, la calidad de los datos puede depender de factores como su precisión, nivel de detalle, frecuencia de actualización u otras características necesarias para conseguir el objetivo perseguido.
Atención: el principio de exactitud no debe interpretarse únicamente como la obligación de disponer siempre de datos perfectamente actualizados. Lo importante es que sean adecuados para la finalidad concreta del tratamiento.
En IA no basta con revisar cada dato individual
Los sistemas de inteligencia artificial, especialmente aquellos basados en aprendizaje automático, introducen una dificultad adicional.
Un conjunto de datos puede estar formado por registros individuales aparentemente correctos y, aun así, resultar inadecuado para entrenar un sistema.
¿Por qué? Porque la calidad también depende del conjunto.
La representatividad de los datos, la ausencia de determinados sesgos, la relevancia de las muestras o las características estadísticas del conjunto pueden influir directamente en los resultados que genere el sistema.
Imaginemos, por ejemplo, una empresa que utiliza IA para analizar solicitudes de candidatos a un puesto de trabajo. Aunque cada registro individual sea correcto, si los datos utilizados para entrenar el sistema no representan adecuadamente a la población sobre la que posteriormente funcionará, el resultado podría estar condicionado por un sesgo.
Por eso, cuando una empresa utiliza IA, no debería limitarse a preguntar si los datos son correctos uno por uno. También debería analizar si el conjunto de datos es adecuado para la finalidad perseguida.
La calidad también importa en los resultados de la inteligencia artificial
Otro aspecto que merece especial atención es que la responsabilidad sobre la calidad del tratamiento no termina cuando se introducen los datos en el sistema.
La IA puede generar resultados que también deben ser evaluados cuando puedan afectar a personas físicas.
Hablamos, por ejemplo, de:
- Inferencias realizadas por el sistema.
- Perfiles de personas.
- Predicciones.
- Clasificaciones.
- Recomendaciones.
- Decisiones automatizadas.
Cuando estos resultados puedan influir sobre los derechos o intereses de una persona, la empresa debe prestar especial atención a que no generen representaciones incorrectas, distorsionadas o desproporcionadas.
Esto supone ampliar la mirada: proteger los datos no consiste únicamente en controlar los datos de entrada, sino también en analizar qué resultados produce la IA con ellos.
¿Los datos sintéticos son compatibles con el RGPD?
La evolución de la IA también está impulsando técnicas que permiten reducir determinados riesgos asociados al uso de datos personales.
La AEPD señala que herramientas como la anonimización, los datos sintéticos, la privacidad diferencial o las técnicas de reducción de sesgos pueden ser compatibles con el principio de exactitud cuando resulten adecuadas para la finalidad perseguida y respeten los derechos de las personas.
Esto es especialmente relevante para las empresas que necesitan grandes volúmenes de información para desarrollar o entrenar sistemas de inteligencia artificial.
| Técnica | Finalidad |
|---|---|
| Anonimización | Reducir o eliminar la posibilidad de identificar a las personas. |
| Datos sintéticos | Generar información artificial que puede utilizarse en determinados desarrollos. |
| Privacidad diferencial | Reducir el riesgo de identificar información individual dentro de determinados análisis. |
| Corrección de sesgos | Mejorar la representatividad y reducir resultados potencialmente discriminatorios. |
Eso sí, ninguna de estas técnicas debe entenderse como una solución automática. Su adecuación dependerá de la finalidad del tratamiento y de las circunstancias concretas del sistema.
La gobernanza del dato se convierte en una cuestión estratégica
Hasta hace unos años, hablar de gobernanza del dato podía parecer una cuestión reservada a grandes compañías tecnológicas.
La expansión de la IA está cambiando esta realidad.
Las empresas que utilizan sistemas de inteligencia artificial necesitan saber qué datos emplean, para qué los utilizan, cómo se han obtenido, qué criterios determinan su calidad y qué resultados generan.
Por ello, la AEPD recomienda definir de forma objetiva los requisitos de calidad antes de iniciar el tratamiento, establecer métricas, documentar los criterios utilizados y realizar un seguimiento durante todo el ciclo de vida del sistema.
Todo ello conecta directamente con el principio de responsabilidad proactiva del RGPD.
¿Qué deben revisar las empresas que utilizan IA?
La publicación de estos criterios es una buena oportunidad para que las organizaciones revisen cómo están utilizando actualmente la inteligencia artificial.
No se trata únicamente de comprobar si existe una política de privacidad. La revisión debería abarcar también los datos que alimentan los sistemas y los resultados que estos generan.
Entre otros aspectos, conviene comprobar:
- Que la finalidad del tratamiento esté claramente definida.
- Que los datos utilizados sean adecuados para esa finalidad.
- Que los conjuntos de datos sean suficientemente representativos.
- Que existan mecanismos para detectar y corregir posibles sesgos.
- Que los criterios de calidad estén documentados.
- Que los resultados generados por la IA sean revisados cuando puedan afectar a personas.
- Que exista una adecuada documentación dentro del sistema de gobernanza del dato.
Consejo: si tu empresa ya utiliza IA o está pensando en incorporarla, revisar ahora la gestión de los datos puede ayudar a detectar riesgos antes de que se conviertan en un problema de cumplimiento.
IA y protección de datos: no todo es una cuestión técnica
Uno de los cambios más importantes que está provocando la inteligencia artificial es que la gestión del dato ya no puede quedar exclusivamente en manos del departamento tecnológico.
La calidad de los datos puede tener consecuencias jurídicas, económicas y organizativas. Un error en los datos utilizados por un sistema puede terminar afectando a una persona, a un cliente, a un trabajador o incluso a una decisión empresarial.
Por eso, la protección de datos en IA requiere coordinación entre diferentes áreas de la organización.
Los equipos técnicos pueden conocer cómo funciona el sistema, mientras que los responsables de negocio conocen la finalidad perseguida y los profesionales especializados en protección de datos pueden analizar las obligaciones derivadas del RGPD.
La combinación de estas perspectivas permite tomar decisiones mucho más sólidas.
¿Qué supone la nota técnica de la AEPD?
La publicación de la AEPD aporta un marco interpretativo especialmente útil en un momento en el que muchas empresas están incorporando IA a sus procesos sin tener todavía totalmente definidos sus sistemas internos de gobernanza.
El documento no plantea que la innovación tecnológica deba detenerse. Su enfoque busca precisamente encontrar un equilibrio entre el desarrollo de nuevos sistemas y la protección efectiva de los derechos de las personas.
Para las empresas, esto supone una oportunidad para pasar de una visión puramente reactiva de la protección de datos a una gestión más estructurada de la información.
La pregunta ya no debería ser únicamente “¿podemos utilizar estos datos?”, sino también “¿son adecuados para lo que queremos hacer con ellos y podemos demostrarlo?”.
Una buena gestión del dato puede reducir riesgos
La inteligencia artificial seguirá evolucionando y probablemente cada vez más procesos empresariales incorporarán herramientas capaces de analizar grandes cantidades de información y generar resultados automáticamente.
En este contexto, contar con criterios claros sobre la calidad de los datos puede convertirse en una ventaja para las propias empresas.
Definir objetivos, documentar procesos, controlar los conjuntos de datos y revisar los resultados permite detectar problemas antes de que afecten a clientes, trabajadores o usuarios.
Además, una adecuada documentación facilita demostrar ante la Administración que la organización ha actuado siguiendo un enfoque responsable y coherente con las obligaciones del RGPD.
Conclusión: la IA avanza y la protección de datos debe avanzar con ella
La inteligencia artificial está transformando la forma en la que las empresas trabajan con la información. Pero la incorporación de nuevas tecnologías no elimina las obligaciones existentes en materia de protección de datos.
Los nuevos criterios publicados por la AEPD ponen el foco en una cuestión fundamental: la calidad de los datos debe analizarse teniendo en cuenta la finalidad del tratamiento, el conjunto de información utilizado y los efectos que los resultados puedan producir sobre las personas.
Para las empresas que utilizan IA, esto significa prestar atención no solo a la tecnología, sino también a la gobernanza del dato, la documentación, los posibles sesgos y la revisión de los resultados.
La innovación y el cumplimiento normativo no tienen por qué ser caminos enfrentados. Una planificación adecuada permite utilizar las posibilidades de la IA de forma responsable y con mayor seguridad jurídica.
Si tu empresa utiliza sistemas de inteligencia artificial o está valorando incorporarlos a sus procesos, en 347 Asesores podemos ayudarte a analizar las implicaciones que pueden tener y a revisar los aspectos necesarios para trabajar con mayor seguridad.
Solicitar una reunión puede ser un buen primer paso para valorar tu situación y detectar qué aspectos conviene revisar. ¿Hablamos?
