Los riesgos de la IA son mayúsculos y las posibilidades, maravillosas

Una entrevista de María Varela para el Diario de Pontevedra

---

Acaba de presentar su kit básico para la implantación de la IA en el sector público e imparte cursos sobre este tema entre empresarios y directivos de la CEOE. Considera que la IA abre un horizonte lleno de posibilidades, pero advierte de los riesgos. "Soy Team IA pero con sentidiño".

Directora Académica del curso que sobre inteligencia artificial en parment de la CEOE entre directivos y empresarios, Concepción Campos lleva varios años en contacto con profesionales tanto el sector público como del sector privado analizando como se está realizando el aterrizaje de la inteligencia artificial (IA). "Se está produciendo de una forma desordenada anárquica y en muchos casos también irresponsable", advierte. Lo cuenta además en su libro 'Kit básico para la implantación de IA en el sector público', una guía colectiva que trata de dar respuesta a todas las incógnitas sobre la aplicación de la IA en la administración.

¿Qué nos vamos a encontrar en ese kit básico?

Más que una obra que reflexionase sobre la IA, lo que hacía falta era el 'así se hace', cómo se implanta. Este libro, en el que cuento con especialistas en todos los ámbitos de gestión, es una obra colectiva que yo dirijo en la que hemos ido con todo, de hecho, incluso contamos con algunas experiencias internacionales. Hablamos de cómo tener una hoja de ruta para tener la IA, las claves prácticas, cómo usar los chatbot e incluso como prevenir y luchar contra la corrupción. El libro pretende ofrecer una base para que la gente sepa un poco por dónde empezar y cómo hacerlo bien.

¿Sabemos lo que tenemos entre manos cuando hablamos de IA?

Cuando voy a estas formaciones lo primero que pregunto es quién está usando ella en su trabajo, y luego les pregunto quién tiene normas internas sobre qué se puede hacer y que no con la IA. Nadie tiene. En 2022 ChatGPT se empezó a democratizar al crear una herramienta de acceso gratuito y detrás han ido todos los demás, y la gente no sabe lo que está haciendo. Tenemos un reglamento europeo aprobado el año pasado y que está parcialmente en vigor, por ejemplo, recoge el deber de alfabetización y las prácticas prohibidas, que entraron en vigor en febrero de este año y las sanciones que entran en vigor en agosto. En Galicia tenemos la sede en la Agencia Española de Supervisión de IA que después de una dura pugna se fue a A Coruña...

¿Qué implica ese reglamento?

En Europa, a diferencia de China y Estados Unidos, tenemos normas. La gente en general crítica muchos se reglamento porque dice que es un freno de innovación, pero en realidad lo que está haciendo es proteger nuestros derechos. Evita que se nos haga una evaluación social por la calle como hacen en China, que nos rastreen como hacen en Estados Unidos...y trata de evitar los sesgos que tiene las herramientas de IA. Un estudio que se hizo en Latinoamérica concluyó que si pones "hombres negros trabajando" en la IA salen personas negras con casco y trabajando en una obra. Si pones "hombres blancos trabajando" te salen hombres blancos monísimos de traje de chaqueta, trabajando en una oficina. Y si pones "mujeres" también salimos perdiendo mucho. Los problemas del mundo real se multiplican en el mundo de la IA.

¿Cómo se pueden eliminar esos sesgos?

Por ejemplo, incorporando mujeres directivas en puestos de poder, para que las incluya cuando hable de mujeres trabajadoras.

¿Qué riesgos desconocemos que tiene la IA en el mundo empresarial y en la administración pública?

La gente está subiendo datos personales. Es un riesgo brutal, están metiendo información, permitiendo que se comparta para entrenar los modelos de IA. Y una cosa es que lo que hagas con tu información y otra muy distinta es que lo hagas con la información de la empresa, de los ciudadanos...Imagínate los datos tributarios. Hay un caso muy famoso en Países Bajos donde una mala programación de algoritmo provocó un problema terrible con personas que estaban en situación vulnerable. Les anularon las ayudas, las tuvieron que devolver... porque la IA se equivoca y mucho. La gente la está utilizando para todo. En 2024 se utilizaba sobre todo para temas profesionales. En 2025 se usa para apoyo personal, como psicólogo etc. Los riesgos en estos momentos son mayúsculos y las posibilidades son maravillosas. Yo soy del team IA pero como decimos en Galicia, con sentidiño.

¿Qué consecuencias puede traer a las empresas un mal uso de la IA?

De todo tipo. Desde consecuencias por tomar decisiones económicas importantes. Ahora mismo, en Galicia, tenemos una ley. Somos la única comunidad autónoma que ha aprobado de forma vanguardista y muy pionera una ley en ese sentido. El Consejo de Ministros aprobó durante el proyecto de ley de gobernanza, donde imponen sanciones muy cuantiosas. Y luego tienen riesgos reputacionales. Imagínate el infiltrado de toda la información. Las empresas pueden hasta acabar cometiendo delitos de tipo penal. Y luego obviamente tienen los propios riesgos de mercado: quedarse fuera del mercado, perder todo el stock, no gestionar los datos adecuadamente...Algunas empresas se van a quedar en el camino porque no están sabiendo aprovechar este tren. Y hace falta que esto se acompañe de una visión estratégica. Porque, claro, como se suele decir, la IA no te va a quitar el trabajo, te lo va a quitar un profesional o una empresa que sí la sepa usar. Que conozca las técnicas más avanzadas.

¿Están los sectores empresariales y administrativo abiertos a la IA?

Hay de todo. Te encuentras desde los que están trabajando con Excel hasta otros que sí que son early adopters. Y luego hay algunos que todavía están en todo modo negacionista. Que piensan "esto no va conmigo, no va a con mi sector". Esto va a ir con todos los sectores. Y luego lo que pasa es que en muchos casos no son conscientes de los riesgos. Es decir, que solo abrazan la parte positiva. Yo pongo mucho el ejemplo de la IA necesita un ascensorista.

¿Qué va a cambiar en la administración pública con la aplicación de IA?

Deberíamos conseguir pasar de un modelo reactivo a un modelo proactivo. ¿Qué hace la Agencia Tributaria todos los años cuando nos manda el borrador de la Renta? Está cogiendo todos nuestros datos. Imagínate, esto podría pasar prácticamente con todo. Desde que tú tengas el pago de los tributos, a inscribir a los niños en los campamentos... ¿Cuántos datos tiene el sector público sobre nosotros? Desde que nacemos hasta que morimos, nos pasamos la vida escribiendo y desescribiendo datos sobre nuestra persona.

Artículo original publicado en el Diario de Pontevedra