El Impacto de la Inteligencia Artificial Generativa en la Compra Pública

El Impacto de la Inteligencia Artificial Generativa en la Compra Pública

El 17 de mayo de 2023, Sam Altman, fundador de la empresa OpenAI, testificaba en el senado de Estados Unidos y sorprendía al mundo pidiendo una regulación para la tecnología que su empresa está desarrollando. Unos meses antes, OpenAI había lanzado ChatGPT, un chatbot que genera textos en respuesta a una pregunta introducida por cualquier usuario. La Inteligencia Artificial Generativa (IAG) irrumpía así en el mundo, expandiéndose con la velocidad de un incendio. En los meses entre el lanzamiento de ChatGPT y el testimonio de Altman, miles de industrias y usuarios empezaron a utilizar esta tecnología para millones de tareas. De hecho, quizá en los días previos a la comparecencia en el senado, los propios equipos de los senadores utilizaran ChatGPT para preparar las preguntas que sus jefes hicieron a Altman.  

Habrá a quien le sorprenda el revuelo provocado por la IAG, al final y al cabo, el debate sobre la inteligencia artificial (no generativa) lleva presente un tiempo. Pero la diferencia es sustancial, no de mero apellido. La G de IAG enfatiza que, en vez de automatizar procesos existentes o encontrar algo que ya ha sido definido previamente, la IAG genera, es decir crea, contenido nuevo en respuesta a una pregunta, una propuesta o una orden (el famoso prompt). Que una inteligencia artificial cree algo -  texto, imagen, vídeo o audio -  totalmente nuevo, algo que no existía previamente, es un salto tecnológico con implicaciones gigantes. Además, aunque los modelos generativos en general, y GPT en particular, existen desde hace varios años, lo que ha cambiado en los últimos meses es su calidad y el cómo se desempeñan frente al nivel humano, tanto en generación de texto como imagen o audio.

La IAG no solo aumenta la productividad, sino que abre también la puerta a la creatividad por parte de las máquinas. Hay estudios que ya demuestran que la IAG puede batir a los humanos en la calidad y cantidad de su creatividad (entendida esta última como su capacidad de generar ideas nuevas).

Si la IAG prueba su superioridad en productividad y calidad en la generación de ideas, se abre un espacio inexplorado en la carrera entre los humanos y las máquinas. De momento, sin embargo, la IAG no elimina la necesidad del trabajo humano, sino que potencia sus capacidades, eso sí, de aquellos que aprenden a usarla. Por eso es crítico comprender los impactos de la IAG, y explorar cómo prepararse para desarrollar las capacidades y habilidades necesarias, tanto fuera como dentro de la administración pública.

¿Cómo afecta la IAG a los procesos de compra pública?

En este contexto, muchos gobiernos y administraciones se están preguntando cómo les puede afectar la IAG y qué pueden o deben hacer en respuesta a ese dilema. Dada la velocidad a la que se están desarrollando esta tecnología y sus aplicaciones, dar una respuesta definitiva es imposible. Lo que sí se puede hacer es explorar impactos de la IAG en ámbitos concretos de la actividad de los gobiernos y las administraciones públicas. En este artículo hacemos eso, centrándonos en el ámbito específico de la compra pública.

Y qué mejor que preguntar al chatbot de OpenAI para buscar una respuesta. En menos de cinco segundos, ChatGPT nos respondió que la IAG puede ayudar a automatizar tareas rutinarias y repetitivas como la revisión de documentos y la generación de informes, generar documentos legales y contratos, proporcionar análisis predictivos y recomendaciones de decisiones, y ayudar a detectar fraudes. Todo ello aumentando la transparencia y reduciendo los errores humanos. ¿Suena prometedor pero aún no estás convencido? Siempre atenta a la sensibilidad de sus usuarios, la IAG concluye su respuesta matizando:

Sin embargo, es importante tener en cuenta que la implementación exitosa de la IAG en los procesos de compra pública también plantea desafíos, como cuestiones éticas, de privacidad y de seguridad de datos, que deben abordarse adecuadamente. Además, la capacitación de los empleados y la adaptación de los procesos existentes son aspectos clave para maximizar los beneficios de la inteligencia artificial generativa en las adquisiciones gubernamentales.

Este simple ejemplo muestra el potencial de la IAG, cuyo uso está cada día más generalizado. Millones de personas usan ya la IAG para crear un primer borrador de un correo o para “darle” un documento largo y hacerle preguntas básicas sobre su contenido, por no mencionar los chatbot que ya son parte esencial de la interacción diaria con nuestro banco, nuestro operador de teléfono o nuestro ayuntamiento. Estos usos, sobre todo si no contienen información confidencial o sensible, son inocuos y aumentan la productividad. Por eso la IAG se está incorporando a la actividad diaria de muchos sectores, incluidos ámbitos de la actividad pública. En el área de planeamiento urbano, por ejemplo, se está experimentando con la IAG para representar visualmente la posible transformación de las calles y espacios públicos. En el ámbito específico de la compra pública las oportunidades son inmensas también, y aunque no siempre se reconozca explícitamente, muchos de los actores involucrados en los procesos de compra pública, sean como compradores o como proveedores, ya la están utilizando.

Para entender mejor esta cuestión conviene empezar distinguiendo dos escenarios:

• (i) por un lado está la compra pública de soluciones que funcionan con IAG, y
• (ii) por otro está el uso de IAG en los procesos de compra pública (que es, por cierto, cómo ChatGPT entendió nuestra pregunta).

Comprando soluciones de IAG

Cada día salen nuevas aplicaciones y casos de uso de IAG que pueden ser de interés para las administraciones públicas. Los chatbots de IAG son un instrumento útil para dar un servicio más personalizado que aumente además la satisfacción de los usuarios de los servicios públicos. Otras aplicaciones pueden procesar grabaciones para identificar lugares problemáticos en calles o carreteras, o incluso para generar contenido de videos para anuncios o mensajes institucionales. También, como veíamos, puede utilizarse la IAG para modelizar y simular edificios e infraestructuras.

Pese a este mundo de oportunidades, y a la presión generalizada a la que están sometidas las administraciones públicas por “aprovechar” las oportunidades que presenta la IAG, el uso de la mayoría de estas aplicaciones por la administración aún no se han probado ni evaluado. Hay muchas promesas, pero todavía pocos ejemplos probados.

Y frente a esta ambigüedad, los riesgos y las incertidumbres son claras y muy tangibles. Por ejemplo, ¿Quién tendrá el control sobre los datos con los que se alimenta la IAG? ¿Cuáles son los mecanismos de transparencia sobre los algoritmos y modelos de lenguaje natural que utilizan las aplicaciones contratadas? ¿Se pueden garantizar los derechos de privacidad y la ausencia de sesgos en estas aplicaciones? No sólo es importante tener claridad sobre estas cuestiones, sino que las garantías frente a estos riesgos han de incluirse en los términos de las licitaciones y los contratos.

Sin embargo, aún no existen cláusulas estándar ni formatos probados que las organizaciones puedan utilizar. La escasez de capacidades y conocimiento acerca de estas cuestiones, tanto a nivel legal como técnico, pone a la administración pública en desventaja frente a los proveedores. Por eso, modelos como las “Cláusulas Estándar para Adquirir Algoritmos Confiables” publicadas por la ciudad de Ámsterdam, aunque enfocadas en algoritmos de IA y no en IAG en particular, pueden ser especialmente útiles.

Usando IAG en los procesos de compra pública

La compra de aplicaciones de IAG no es la única manera en la que esta tecnología afectará a los procesos de compra pública. De hecho, nos atrevemos a anticipar que ni siquiera es el escenario que tendrá consecuencias más profundas. Lo que realmente puede revolucionar la compra pública es el uso de la IAG en los procesos de licitación, tanto por parte de las administraciones como por los proveedores. Veamos cada uno de estos casos.

Las AAPP pueden incorporar la IAG en las distintas fases de la compra pública. Por ejemplo, pueden utilizarse para redactar pliegos, mejorando la productividad y la eficiencia en la generación de estos documentos. También puede utilizarse la IAG para revisar y evaluar las memorias técnicas recibidas por los proveedores, generando informes de manera rápida y mucho más económica. Por último, pueden extraer información concreta y realizar análisis para detectar errores y fraudes, pero también para obtener información estadística sobre las contrataciones públicas que puede ser útil para la toma de decisiones.

Como en el primer escenario, los retos son tantos, o más, que las oportunidades. Por ejemplo, ¿Qué derechos tendrá el propietario de la tecnología de IAG sobre la información introducida para producir el documento de licitación o sobre las propuestas evaluadas? ¿Qué sucede si algún licitante impugna la decisión emitida por una IAG? ¿Cómo se realizará la justificación y cómo podrán mostrarse los criterios de decisión con la suficiente claridad y transparencia?

Todavía hay pocas experiencias y no hay criterios establecidos, pero algunos gobiernos y agencias, sobre todo en EEUU, están tomando la iniciativa. Por ejemplo, la Armada estadounidense, siguiendo el ejemplo de la Agencia de Protección Medioambiental y la Oficina de Administración y Presupuestos, ha publicado unas recomendaciones sobre el uso de la IAG en su organización. A nivel local o regional, ciudades como Boston, San José o Seattle, o el Estado de Washington, están desarrollando guías que pueden ser útiles también para otros gobiernos. Por ejemplo, muchos de estos gobiernos consideran que sus funcionarios pueden utilizar IAG para redactar documentos, siempre y cuando no se incluya información que no es pública en la aplicación de IAG. Otros usos, como la utilización de la IAG para evaluar memorias técnicas en procesos de licitación, están prohibidos. Hay gobiernos, sin embargo, como es el caso del Estado de Maine, que han tomado decisiones más drásticas, prohibiendo el uso de la IAG hasta nuevo aviso. En particular prohíben el uso o adopción de IAG en equipos que estén conectados a la red del Estado, por considerar que aún son muy vulnerables a ataques.

También los proveedores pueden utilizar la IAG, seguramente lo estén haciendo ya, para redactar sus memorias técnicas además de otros muchos documentos, mejorando su eficiencia. Esto plantea cuestiones relevantes, entre las que nos gustaría destacar al menos una: ¿Cómo evaluar la solidez técnica de las propuestas que posiblemente hayan sido redactadas con apoyo en tecnologías de IAG?

Desafortunadamente, todavía en la mayoría de los casos, las propuestas tanto de producto o servicio tecnológico como de consultoría se evalúan con base en memorias técnicas escritas. Si varios, o todos, los proveedores redactan sus memorias usando IAG, estos documentos dejan de ser un indicador sobre esa capacidad técnica. Como mínimo, reducen su valor como fuente de información para las administraciones contratantes, que deberán articular espacios alternativos para poder entender y evaluar esa capacidad técnica de los proveedores.

Un mundo de oportunidades, pero con más preguntas que respuestas

Las oportunidades que la IAG presenta para mejorar la productividad y la creatividad en la administración pública - incluyendo los procesos de compra pública -  son inimaginables. Igual de enormes son los retos, que tocan temas tan sensibles como la calidad de los datos, la explicabilidad, dilemas éticos, existencia de sesgos, riesgos de seguridad, falta de transparencia o vulneraciones a la privacidad.

Para navegar estos complejos dilemas puede ser útil la sencilla matriz que publicaron hace unos meses Zao-Sanders y Ramos en la Harvard Business Review. Se trata básicamente de evaluar los usos de la IAG a través de dos preguntas: (1) ¿Cuál es el riesgo de unos perjuicios graves si las cosas van mal? (Riesgo), y (2) ¿Cuál es el potencial impacto positivo de aplicar la IAG a este uso? (Impacto).

En muchos casos, el potencial de impacto positivo será mucho mayor que el riesgo. En otros no. Lo que no tiene mucho sentido es prohibir esta tecnología de un brochazo, sin aprovechar sus beneficios, ni utilizarla sin criterio, arriesgándose a un abuso o a la vulneración de algún derecho. Como la tecnología ya está aquí y se está adoptando a gran velocidad, lo que toca de manera urgente es entender los distintos escenarios, formarse adecuadamente en su uso y su gestión, y establecer los procesos y los criterios legales necesarios para aprovechar sus beneficios mitigando los riesgos asociados.

‍