Más de 9 mil datos abiertos del Gobierno nacional estarían en riesgo por la IA

34

En Colombia, la Ley 1712 de 2014, conocida como la Ley de Transparencia y Acceso a la Información Pública Nacional, regula los datos abiertos

Colombia ocupa el tercer lugar en la región de América Latina y el Caribe en cuanto a la protección y acceso a los datos para el público.

El análisis fue publicado por el Observatorio Javeriano de Gobierno y TIC.

Más de 9 mil conjuntos de datos publicados en www.datos.gov.co por más de 1.800 entidades públicas del orden nacional y territorial en Colombia, podrían estar en riesgo al ser utilizados por medio de sistemas de Inteligencia Artificial, alertó el Observatorio Javeriano de Gobierno y TIC, en un análisis publicado sobre datos abiertos.

Según la unidad académica de la Javeriana, los datos abiertos proporcionan una base de conocimiento accesible y diversa que permite a los sistemas de IA entrenarse con información en tiempo real, mejorando su precisión y capacidad de toma de decisiones; sin embargo, hay muchos riesgos asociados al uso de esta tecnología con sistemas de datos abiertos en relación a la privacidad de los usuarios y la veracidad de la información, lo que constituye un gran reto para el Gobierno nacional con el fin de garantizar la transparencia y el buen uso de esta información.

Esto se basa también en un estudio publicado recientemente por el Instituto de Tecnología de Massachusetts (MIT), que difundió una base de datos que contiene más de 770 riesgos asociados a la IA, advirtiendo que incluso en los sistemas más exhaustivos el 30% de dichos riesgos se pasan por alto.

Según lo explica Héctor García, director del Observatorio de Gobierno y TIC de la Universidad Javeriana, los datos abiertos proporcionan una base de conocimiento accesible y diversa que permite a los sistemas de IA entrenarse con información en tiempo real, mejorando su precisión y capacidad de toma de decisiones. Gracias a esta combinación, hoy es posible desarrollar aplicaciones innovadoras en áreas como la salud, la movilidad y el medio ambiente, donde la IA puede analizar grandes volúmenes de datos abiertos para detectar patrones ocultos y generar predicciones útiles. Pero, así mismo, representa un riesgo para la privacidad y veracidad de los datos”.

Los datos abiertos son información pública que, en principio, cualquier persona puede consultar, utilizar y compartir libremente, sin restricciones legales ni técnicas, siempre que se respeten las normas de privacidad, confidencialidad y seguridad.

Se trata de datos que están disponibles en formatos digitales accesibles, lo que permite su uso para distintos fines, como emprendimientos productivos, toma de decisiones, desarrollo de aplicaciones tecnológicas y la creación de políticas públicas más efectivas. La idea principal detrás de los datos abiertos es fomentar la transparencia gubernamental, la participación ciudadana y la innovación, al brindar acceso a información clave que antes estaba reservada solo para entidades oficiales o expertos.

En Colombia, la Ley 1712 de 2014, conocida como la Ley de Transparencia y Acceso a la Información Pública Nacional, regula los datos abiertos y los define como “todos aquellos datos primarios o sin procesar, que se encuentran en formatos estándar e interoperables que facilitan su acceso y reutilización”. Esta legislación instó a las entidades públicas a poner a disposición del público la información bajo su custodia, fomentando así la transparencia y el control social.

La implementación de políticas de datos abiertos ha permitido que Colombia se destaque a nivel internacional, como se empezó a observar desde el año 2022, cuando en el Global Data Barometer el país obtuvo 54 puntos sobre 100, ubicándose en el tercer lugar en la región de América Latina y el Caribe en cuanto a la protección y acceso a los datos para el público. Además, el país obtuvo una puntuación por arriba del promedio en los pilares de gobernanza y capacidades.

Riesgos de los datos abiertos

Uno de los desafíos más significativos de los datos abiertos es su calidad y precisión. La publicación de información incorrecta o desactualizada puede conducir a interpretaciones erróneas y decisiones inadecuadas.

El análisis da cuenta de que la interoperabilidad de los datos es otro desafío notable. La falta de estándares comunes dificulta la integración y comparación de información entre diferentes fuentes y regiones. Esta fragmentación limita el potencial de los datos abiertos para generar conocimientos más amplios y aplicaciones efectivas.

La brecha digital también es un elemento relevante. No todas las comunidades tienen igual acceso a la tecnología o las habilidades necesarias para utilizar los datos abiertos de manera efectiva. Esto puede exacerbar las desigualdades existentes, beneficiando únicamente a aquellos con los recursos para explotar la información disponible.

La desinformación es una preocupación adicional. Sin un contexto adecuado, los datos pueden ser malinterpretados o utilizados para respaldar narrativas engañosas. La disponibilidad de grandes volúmenes de datos no garantiza su correcta interpretación, y sin una alfabetización adecuada, existe el riesgo de que la información se utilice de manera inapropiada.

Por último, el esquema de datos abiertos debe adoptar principios de privacidad por diseño y por defecto, para proteger la información personal de los colombianos.

“La privacidad y seguridad de la información constituyen otra preocupación central. Aunque los datos abiertos buscan la transparencia, es crucial proteger la información sensible para evitar vulnerabilidades de la privacidad. La apertura indiscriminada de datos puede exponer detalles personales, lo que plantea riesgos significativos para los individuos”, afirma García.

Abordar estos desafíos requiere un enfoque multidimensional que incluya el establecimiento de marcos legales claros, inversiones en infraestructura y formación, y un compromiso genuino con la transparencia y la participación ciudadana. Solo así se podrá realizar el potencial transformador de los datos abiertos en beneficio de toda la sociedad.

¿El panorama sobre los datos abiertos es alentador?

La apertura indiscriminada de datos sin las debidas salvaguardias puede convertir una herramienta de transparencia en un arma de vulnerabilidad social. Los casos de uso indebido de información por parte de terceros y las brechas de seguridad exigen una mayor regulación y el desarrollo de estrategias que equilibren el acceso a la información con la protección de los derechos individuales.

Así mismo, la falta de alfabetización digital y la desigualdad en la distribución de la infraestructura tecnológica pueden hacer que los datos abiertos profundicen las desigualdades en lugar de reducirlas. Este aspecto resalta la necesidad de invertir en educación y capacitación para garantizar que todos los sectores de la sociedad puedan beneficiarse de esta revolución informativa.

Según lo explica García, “este estado de cosas debe ser un llamado de atención para las entidades gubernamentales, dado que la publicación de datos abiertos no debe verse como un mero deber legal, sino como una acción determinante para construir un mejor país e involucrar a la sociedad civil en la construcción de proyectos de distinta índole, pues de lo contrario se contará con portales que tienen mucha información pero que realmente generan poco valor para la ciudadanía y para las mismas entidades estatales que desean acceder de forma sencilla y rápida a la información”.

Por último, el análisis concluye que, si bien se ha avanzado en Colombia, los datos abiertos siguen estando lejos del ciudadano, debido a su poca publicidad, la dificultad en su lectura, la falta de claridad para exponer la información y la desactualización e incompletitud de algunos de los repositorios.