09 feb. 2024
Natalia Martos
La Inteligencia Artificial (IA) está experimentando una consolidación creciente, convirtiéndose en una práctica cada vez más habitual tanto en el ámbito social como empresarial.
La Unión Europea ha sido la primera región del mundo en pactar la primera Ley de Inteligencia Artificial, en un acuerdo que aborda un desafío con el que fomentar el desarrollo y la adopción de esta nueva tecnología, al tiempo que se respetan los derechos fundamentales de los ciudadanos.
Se prevé que este mes de febrero se disponga del texto definitivo. Este primer acuerdo de marco legislativo define controles y sanciones económicas elevadas para aquellas empresas que vulneren la normativa comunitaria. La aprobación está programada para la primavera de 2024, y se espera su entrada en vigor a finales de 2026, aunque algunas disposiciones lo implementarán antes.
Ahora es el momento de analizar los riesgos y oportunidades que tienen las empresas de nuestro país a la hora de implementar la Inteligencia Artificial, ya que una vez aprobado este reglamento, las sanciones serán aplicables a partir de los 6 meses, y en el caso de los requisitos para los sistemas y modelos de IA generativa, a los 12 meses.
Durante la negociación, los sistemas de identificación y vigilancia biométrica han sido sin duda el punto más crítico y complejo. En el ámbito empresarial, especialmente, para el sector bancario y de seguros, la normativa establece obligaciones específicas para sistemas de IA de alto riesgo que incluyen una evaluación obligatoria del impacto sobre los derechos fundamentales. Por ejemplo, la utilización de esta tecnología para la calificación crediticia que deniegue a los ciudadanos la oportunidad de obtener un préstamo.
En el caso de departamentos de recursos humanos, se prohíbe expresamente el reconocimiento de emociones en el ámbito laboral o centros educativos. Será también considerado como alto riesgo la utilización de la IA, por ejemplo, en programas informáticos de selección de currículums para los procedimientos de contratación. Así mismo, en el ámbito de la salud, afectará a la aplicación de IA en cirugía asistida por robot.
Otro de los puntos de mayor controversia, y que más se ha extendido por su conocimiento y uso, tanto a nivel particular como empresarial, es la utilización de modelos basados en la Inteligencia Artificial generativa. Chat GPT, el chatbot que ha revolucionado la inteligencia artificial con tan solo un año desde su lanzamiento, es un ejemplo de ello.
En este caso, no se prohíbe su uso y se tendrán que cumplir ciertos criterios de transparencia. Por ejemplo, especificar si un texto, canción o fotografía se ha generado a través de inteligencia artificial, garantizar que los datos que se han empleado para entrenar el sistema respetan los derechos de autor y elaborar resúmenes detallados sobre el contenido utilizado para su entrenamiento.
Este acuerdo establece sanciones y aborda la laguna legislativa actual, ya que la Ley de Propiedad Intelectual no aborda el uso de acceso a contenidos para el entrenamiento de las compañías de Inteligencia Artificial.
Esta nueva regulación, aunque aún está previsto ultimar algunos detalles técnicos, contempla sanciones y multas para estos casos, entre los 35 millones de euros o el 7% del volumen de negocios global de la empresa hasta los 7,5 millones de euros o el 1,5% del volumen de negocios global.
Las sanciones de la nueva Ley de IA dependerán de la gravedad de la infracción y del tamaño de la empresa que la haya cometido. Expertos como Legal Army ayudan a las empresas a comprender cómo se aplican las disposiciones de la nueva ley a su sector y situación, y a asegurarse que sus políticas y prácticas, así como los trabajadores, estén actualizados con anterioridad a la entrada en vigor de esta nueva ley.
Además, contar con expertos facilita a las empresas la búsqueda de nuevas oportunidades estratégicas, como por ejemplo, oportunidades comerciales o la optimización de estructuras empresariales.
En definitiva, las empresas se encuentran en un terreno desconocido y se hace patente la necesidad de un asesoramiento antes de la aplicación de esta regulación, que aborde los riesgos generados por los distintos usos de la IA y en lo referido a la privacidad y protección de datos. El asesoramiento legal antes de la aplicación de una nueva ley es esencial para garantizar que la empresa opere dentro de los límites legales, mitigue riesgos, optimice procesos y mantenga su reputación.
Artículo original publicado en Emprendedores
Recibe mensualmente información relevante de nuestra actividad.
