Riesgos del “dato inferido” en la gestión de datos del sector público

Por Diego Beltrán

Abogado Grupo LegalTic

La inteligencia artificial (IA) nos ha demostrado que tiene el potencial de revolucionar la forma en que se toman decisiones, entre ellas las aplicables a la administración pública, pues permite una mayor eficiencia y precisión en la asignación de recursos y la implementación de políticas públicas más estratégicas.

Sin embargo, también hay una serie de riesgos asociados con el uso de la IA en la administración pública que deben ser considerados cuidadosamente.

En este caso nos referiremos al “dato inferido” producto de la inteligencia artificial, como un insumo para administración pública en la toma de decisiones. El dato inferido (también conocido como "dato derivado"  o "dato generado") es una
información que se deduce a partir del análisis de los datos disponibles, utilizando técnicas de inteligencia artificial (IA) y aprendizaje automático.
En términos simples, podremos decir que el dato inferido se refiere a una conclusión o predicción que se hace a partir de los datos disponibles. Por ejemplo, un algoritmo de IA puede analizar los datos de salud de una población y, a partir de eso, inferir cuáles son las enfermedades más prevalentes y cuáles son las medidas de prevención más efectivas para abordarlas en el futuro.

De esta manera, los responsables de la administración pública pueden tomar decisiones informadas y enfocar los recursos en las áreas que tienen la mayor necesidad.
Es de allí que varios expertos del tema indiquen que el dato inferido resulta un dato relevante para la IA porque permite a los sistemas de aprendizaje automático crear nuevos conocimientos y conclusiones a partir de los datos disponibles.

Lo que quiere decir que a medida que los algoritmos de IA aprenden más sobre los datos, pueden generar conclusiones más precisas y útiles, lo que deriva a potenciales insumos para la toma de decisiones en la gestión pública como una gestión efectiva y eficiente de los recursos públicos, acciones que solo son posibles si se cuentan con sistemas y procesos que permitan la recopilación, análisis y uso de datos de manera eficiente y segura.

Sin embargo, resulta importante indicar que el dato inferido también puede presentar riesgos para la administración pública, pues la inferencia no proviene del intelecto humano como ese proceso lógico mediante el cual se llega a una conclusión, sino en este caso proviene de técnicas algorítmicas de la inteligencia artificial.
Desde la posición jurídica podremos plantear que el uso de técnicas algorítmicas para la inferencia en la administración pública presenta riesgos importantes, tanto errores como sesgos.

En este sentido, se podría argumentar que el uso de la inferencia en la administración pública puede afectar los derechos y las garantías de los ciudadanos, como el derecho a la privacidad y el derecho a la igualdad ante la ley. Por ejemplo, si se utilizan técnicas de inferencia para identificar posibles sospechosos de un delito o para decidir quién tiene derecho a recibir ciertos beneficios públicos, es posible que se produzcan errores o sesgos
que afecten la vida de las personas de manera injusta.

Por lo tanto, es necesario establecer regulaciones y controles adecuados para el uso de técnicas de inferencia en la administración pública, con el fin de proteger los derechos y las garantías de los ciudadanos y garantizar la transparencia y la responsabilidad en la toma de decisiones. Además, es importante fomentar la capacitación y la formación de los funcionarios públicos para que comprendan los riesgos y las limitaciones de la inferencia y
puedan utilizarla de manera ética y responsable.

En general, si bien el uso del dato inferido en la administración pública es un elemento potencial para la eficacia en la toma de decisiones, la prestación de servicios públicos, la reducción de costos, como otros más aspectos, también no podemos dejar de lado que puede presentar riesgos como los antes indicados.

Por lo tanto, es fundamental establecer regulaciones adecuadas y controles éticos para su uso, con el fin de garantizar que se utilice de manera responsable y en beneficio de la sociedad en general, de allí que resulte importante que los organismos gubernamentales establezcan políticas y prácticas adecuadas para el manejo y la protección de los datos inferidos, y que trabajen para garantizar que los sistemas de IA sean justos, transparentes y controlables.