El pasado 24 de enero de 2024, la Comisión Europea (CE) dispuso la creación de una Oficina Europea de IA y adoptó su propio enfoque sobre el desarrollo y uso de la Inteligencia Artificial. En la Comunicación se describe su visión estratégica para fomentar el desarrollo interno y el uso de una IA legal, segura y confiable. Al utilizar o desplegar IA, la CE desarrollará directrices operativas internas que brinden al personal (usuarios, desarrolladores o compradores de sistemas de IA) una orientación clara y pragmática sobre cómo poner dichos sistemas en funcionamiento.

La Oficina de la IA evaluará y clasificará los sistemas de IA que la CE está utilizando o planea utilizar, basándose en un enfoque basado en el riesgo y utilizando las directrices operativas de la CE. Se dice que se abstendrá de utilizar sistemas de IA que se consideren incompatibles con los valores europeos o que representen una amenaza para la seguridad, la salud y los derechos fundamentales de las personas.

Ley de Inteligencia artificial de la UE: una propuesta histórica

Oficina Europea de Inteligencia Artificial

Finalmente, se establecerán estructuras organizativas para cumplir con las obligaciones de la CE en relación con la IA. Para todo esto, la CE considerará las iniciativas políticas y legislativas de la UE previstas, así como toda la legislación existente aplicable, incluida la no discriminación, la accesibilidad, la seguridad de la información y la protección de datos. También considerará las mejores prácticas y ejemplos de la industria, tanto a nivel nacional como internacional. Al decidir sobre nuevas inversiones en TI, la CE considerará el aspecto de la IA para garantizar el cumplimiento de las directrices operativas.

Oficina Europea de la IA

La UE ha logrado una propuesta histórica al aprobar la primera ley que regula la inteligencia artificial en el mundo. El Consejo y el Parlamento Europeo llegaron a un acuerdo sobre las primeras normas para la IA en el mundo con el objetivo de garantizar que los sistemas de IA comercializados en el mercado europeo y utilizados en la UE sean seguros y respeten los derechos fundamentales y los valores de la UE. La propuesta también tiene como objetivo estimular la inversión y la innovación en IA en Europa.

La IA como fuente de malestar en las aulas universitarias españolas 

La complejidad y la adopción cada vez más amplia de la IA demuestran la necesidad de medidas adicionales para fomentar la comprensión de las capacidades, tendencias y riesgos potenciales y apoyar el desarrollo y uso seguros de las tecnologías de IA en la UE. Es necesario desarrollar conocimientos y capacidades a nivel de la UE, con vistas a fomentar dicho entendimiento, contribuir a la aplicación y el cumplimiento del próximo Reglamento. En dicho Reglamento se establecerán normas armonizadas sobre IA y contribuirá a la aplicación de normas y principios internacionales en materia de IA, como el Código de conducta y los principios rectores del G7 para desarrolladores de sistemas avanzados de IA.

Medios norteamericanos exigen a empresas de IA pagar por el contenido

Igualmente, deben sentarse las bases de un sistema único de gobernanza de la IA en la UE mediante el establecimiento de una estructura que supervise los avances en los modelos de IA, incluidos los modelos de IA de uso general, la interacción con la comunidad científica. También debe desempeñar un papel clave en las investigaciones y pruebas, la aplicación de la ley y tener vocación global.

Funcionamiento de la Oficina

Funcionará de conformidad con los procesos internos de la CE y su creación no debe afectar a los poderes y competencias de las autoridades nacionales competentes y de los órganos, oficinas y agencias de la UE en la supervisión de los sistemas de IA. Según lo previsto por el próximo Reglamento, en el que se establecerán normas armonizadas sobre IA y otra legislación sectorial de la UE.

La española Kolokium ofrece comunicación entre máquinas con IA y blockchain

La Oficina Europea de Inteligencia Artificial debe ejercer sus funciones. En particular, publicar orientaciones, de manera que no duplique las actividades de los órganos, oficinas y agencias pertinentes de la UE virtud de una legislación sectorial específica.

Tareas:

• Contribuir al enfoque estratégico, coherente y eficaz de la UE respecto de las iniciativas internacionales sobre IA en coordinación con estados miembros y en consonancia con las posiciones y políticas de la UE.
• Contribuir a fomentar acciones y políticas en la CE que aprovechen los beneficios sociales y económicos de las tecnologías de IA
• Apoyar el desarrollo, la implantación y el uso acelerados de sistemas y aplicaciones de inteligencia artificial fiables que aporten beneficios sociales y económicos y contribuyan a la competitividad y el crecimiento económico de la UE.
• Seguir la evolución de los mercados y las tecnologías de la IA

La Oficina realizará las siguientes tareas derivadas de la próxima regulación:

• Desarrollar herramientas, metodologías y criterios de referencia para evaluar las capacidades de los modelos de IA de uso general, en particular modelos de IA de uso general de gran tamaño con riesgos sistémicos.
• Supervisar la implementación y aplicación de normas sobre modelos y sistemas de IA de uso general, en particular cuando el modelo y el sistema sean desarrollados por el mismo proveedor.
• Monitorear la aparición de riesgos imprevistos derivados de operaciones de propósito general, respondiendo a alertas del panel científico.
• Investigar posibles infracciones de las normas sobre modelos y sistemas de IA de uso general.
• Garantizar que cuando un sistema de IA entre en el ámbito de aplicación de la legislación pertinente de la UE respecto de la cual la CE tiene competencias de supervisión y aplicación, la legislación esté plenamente coordinada con la supervisión y aplicación del próximo Reglamento.
• Apoyar la aplicación de normas sobre prácticas prohibidas de IA y sistemas de IA de alto riesgo en coordinación con los organismos pertinentes responsables en virtud de la legislación sectorial

Cooperación con partes interesadas

Se dice que la Oficina de IA deberá cooperar con partes interesadas estableciendo foros de cooperación entre proveedores de modelos y sistemas de IA, así como realizar consultas periódicas con las partes interesadas. Establecer un foro de cooperación con la comunidad de código abierto con vistas a identificar y desarrollar mejores prácticas para el desarrollo y uso seguros de modelos y sistemas de IA de código abierto.

Kolokium certifica con blockchain procesos industriales generados con IA 

Asimismo, se destaca que la Oficina contribuirá a la cooperación internacional en materia de IA por parte de la CE, incluida la política de innovación y excelencia, con terceros países y organizaciones internacionales. En particular, defendiendo la gestión responsable de la IA y promoiendo el enfoque de la UE hacia una IA fiable.

Entrada en vigor

Para permitir que los preparativos de la aplicación del próximo Reglamento, por el que se establecerán normas armonizadas sobre IA comiencen lo antes posible, la decisión debe entrar en vigor con carácter de urgencia, antes de la adopción de dicho Reglamento. Una vez adoptado el Reglamento, la decisión podrá revisarse. Por ello, se dice que la decisión entrará en vigor el 21 de febrero de 2024.