• info@eval.mx
  • (33) 3630.2942

En este 2024, continuaremos siendo testigos de la profundización de la transformación digital de los gobiernos y las administraciones públicas alrededor del mundo con un foco en mejorar la eficiencia organizacional, así como en la prestación de servicios al público. Dos elementos críticos que impulsan esta transformación digital son los datos acumulados por múltiples entes y la inteligencia artificial (IA). La IA desempeña un papel fundamental a la hora de desbloquear el valor de los datos y obtener conocimientos más profundos sobre la amplia información que las administraciones públicas recopilan para servir a los ciudadanos y cómo pueden darle un uso en la mejoría de esos servicios.

Dado que se espera que la demanda de IA, y en especial de la IA generativa, crezca este año, se vuelve imperativo que el sector público, desde los niveles nacionales hasta los locales, adopte el uso responsable de esta tecnología. Sólo así podrán los gobiernos establecerse como administradores confiables de la misma.

 

Las diferencias entre la IA tradicional y la IA generativa

Para comprender los desafíos únicos que plantea la IA generativa en comparación con la IA tradicional, es útil comprender sus diferencias fundamentales. La IA tradicional se basa principalmente en algoritmos y extensos conjuntos de datos etiquetados para entrenar modelos mediante el aprendizaje automático. Estos modelos pueden proporcionar recomendaciones o identificar ciertos comportamientos reconociendo patrones y adhiriéndose a reglas predefinidas. Por ejemplo, la IA tradicional se utiliza para mejorar la eficacia del filtrado de correo electrónico no deseado, mejorar las recomendaciones de películas o productos para los consumidores y permitir que los asistentes virtuales ayuden a las personas a buscar información.

La IA generativa está surgiendo como una solución valiosa para automatizar y mejorar las tareas administrativas y repetitivas. Esta tecnología se destaca en la aplicación de modelos fundacionales, grandes redes neuronales entrenadas con una gran cantidad de datos sin etiquetar y ajustadas para diversas tareas. La IA generativa puede identificar, resumir, convertir, predecir y generar contenido de forma eficaz a partir de grandes conjuntos de datos. La implementación de esta tecnología en el sector público puede mejorar significativamente la eficiencia, permitiendo a las organizaciones completar sus tareas diarias con una fracción de los recursos.

La IA generativa presenta una oportunidad sin precedentes para mejorar diversos aspectos de las operaciones de las administraciones públcias y mejorar los servicios para los ciudadanos. Puede dotar a los trabajadores públcios de herramientas más poderosas para responder preguntas y realizar investigaciones; tareas como la redacción y gestión de contratos, que requieren mucho tiempo y son cruciales, podrían beneficiarse enormemente de la aplicación de esta nueva tecnología.

 

Implementando IA generativa de forma responsable

Las notables capacidades generativas de esta tecnología emergente plantean dudas sobre su uso responsable en el sector público. Por ejemplo, los administradores de contratos necesitan saber que la investigación original se convierte fielmente en un contrato legalmente vinculante para dos o más partes.

Recientemente, la IA generativa se ha dado a conocer al gran público principalmente a través de herramientas que utilizan texto, imágenes, videos y audio para crear contenido personalizado a demanda. Sin embargo, el nivel de detalle sobre la capacitación de algunos de estos modelos podría ser insuficiente, especialmente para grandes empresas o industrias altamente reguladas que dependen de la confianza pública.

Para desarrollar una IA responsable, las administraciones públicas deben preparar cuidadosamente sus datos internos para aprovechar todo el potencial tanto de la IA como de la IA generativa. Así mismo, se deben establecer estándares responsables para requerir la integración de la responsabilidad y ética desde el principio, y no como un necesidad a posteori. Esto incluye mantener la supervisión humana para ayudar a garantizar la precisión del contenido generado por la IA y evitar sesgos, entre otras consideraciones.

 

Pilares fundamentales para el desarrollo de IA responsable en el sector público

El desarrollo responsable de la IA por parte de IBM se centra en cinco pilares fundamentales para ayudar a garantizar una IA confiable. Los responsables públicos alrededor del mundo deberían priorizar estos pilares al considerar el desarrollo, la capacitación y el despliegue responsable de la IA:

  1. Equidad en un sistema de IA, se refiere a su capacidad para tratar a individuos o grupos de manera equitativa, según el contexto en el que se utiliza el sistema de IA. Eso significa contrarrestar los prejuicios y prevenir la discriminación relacionada con características protegidas, como el género, la raza, la edad y la condición de veterano.

  2. Privacidad, se refiere a la capacidad de un sistema de inteligencia artificial para priorizar y salvaguardar la privacidad y los derechos de los datos de los consumidores mientras cumple con las regulaciones existentes relacionadas con la recopilación, el almacenamiento, el acceso y la divulgación de datos.

  3. Explicabilidad, es importante porque un sistema de IA debe ser capaz de proporcionar una explicación interpretable por humanos para sus predicciones y conocimientos de una manera que no se esconda detrás de la jerga técnica.

  4. Transparencia, significa que un sistema de IA debe incluir y compartir información sobre cómo fue diseñado y desarrollado y los datos o fuentes de datos utilizados para alimentar el sistema y sus modelos.

  5. Robustez, es la capacidad de un sistema de IA para manejar eficazmente condiciones excepcionales, ayudando a garantizar resultados consistentes.

IBM watsonx™, una plataforma integrada de lA, datos y gobernanza, encarna estos principios al ofrecer un enfoque transparente, eficiente y responsable para el desarrollo de la inteligencia artificial en diversos entornos. Más específicamente, el reciente lanzamiento de IBM watsonx.governance™ ayudará a los equipos del sector público a automatizar y abordar estas áreas, permitiéndoles dirigir, gestionar y monitorear las actividades de IA de su organización. Esta herramienta facilita procesos claros para que las organizaciones puedan detectar y mitigar riesgos de manera proactiva y, al mismo tiempo, respaldar sus programas de cumplimiento de políticas internas de IA y estándares de la industria.

A medida que el sector público continúa su proceso de adopción de tecnologías como la IA, IA generativa y la automatización para resolver problemas y mejorar la eficiencia, es fundamental mantener la confianza y la transparencia en cualquier solución construida con IA. Los equipos deben tener la capacidad de comprender y gestionar el ciclo de vida de la IA de forma eficaz. Adoptar de forma proactiva prácticas responsables de IA, especialmente por parte del sector público, es una oportunidad para que todos mejoremos.