El Libro blanco de la inteligencia artificial aboga por la excelencia y la confianza

Fecha del post: 08-04-2020

Excelencia y confianza en la IA

La inteligencia artificial (IA) es una de las tecnologías más estratégicas del siglo XXI. Además de facilitarnos la vida, los sistemas inteligentes nos ayudan a resolver algunos de los principales desafíos mundiales: atención a catástrofes naturales, tratamiento de enfermedades crónicas, lucha contra el cambio climático y previsión de las amenazas a la ciberseguridad.

A medida que esta tecnología adquiere un carácter cada vez más primordial en los distintos aspectos de la vida de las personas, es necesario que estas puedan confiar en ella. Generar confianza es un requisito previo para su adopción.

En este contexto, Europa se propone aunar su potencial tecnológico e industrial con una infraestructura digital de gran calidad y un marco regulador basado en sus valores fundamentales (privacidad, protección, seguridad y ética), para convertirse en líder mundial de la innovación en la economía de los datos y en sus aplicaciones, cimientos sobre los que es posible consolidar un ecosistema de inteligencia artificial que acerque las ventajas de la tecnología a la sociedad y la economía europea.

El Libro blanco de la inteligencia artificial busca un enfoque europeo coordinado en torno a las implicaciones éticas y humanas de la inteligencia artificial basado en la regulación y en la inversión, y dirigido a asegurar un ecosistema de excelencia y un ecosistema de confianza.

Cómo obtener un ecosistema de excelencia

El marco político para armonizar los esfuerzos, con el objetivo de movilizar recursos para obtener un «ecosistema de excelencia», fija las siguientes acciones:

  • Colaboración con los estados miembros a través de un Plan coordinado en el que se determinan más de 70 acciones, que habrá de adaptarse a finales de 2020, y pretende atraer más de 20.000 millones de inversión total anual en IA en la UE a lo largo de la próxima década. Entre las acciones referidas se mencionan la creación de una asociación público-privada en materia de IA y robótica, disponer de al menos un centro de innovación digital especializado en IA en cada Estado miembro, o apoyar la contratación pública de sistemas de IA por parte de los organismos públicos.
  • Centrar los esfuerzos de la comunidad de investigación e innovación en la creación centros de excelencia que puedan combinar las inversiones europeas, nacionales y privadas, en los ámbitos en los sectores en los que Europa cuenta con potencial para convertirse en líder mundial: la industria, la sanidad, el transporte, las finanzas, las cadenas de valor agroalimentarias, la energía y el medio ambiente, la silvicultura, la observación terrestre y el espacio.
  • Establecer y respaldar redes de universidades y centros de educación superior pioneros, mediante el pilar de capacidades avanzadas del Programa Europa Digital, a fin de atraer a los mejores académicos y científicos y de ofrecer programas de máster en IA que se sitúen a Europa la vanguardia mundial.
  • Ofrecer a las pymes y empresas emergentes acceso a la financiación para adaptar sus procedimientos o innovar usando la IA, especialmente en el marco de InvestEU23.
  • En el marco de Horizonte Europa, crear una nueva asociación público-privada en materia de inteligencia artificial, datos y robótica, a fin de aunar esfuerzos, garantizar la coordinación de la investigación y la innovación en inteligencia artificial.
  • Preparar un Programa de adopción de la IA específico para respaldar la contratación pública de sistemas de inteligencia artificial en sectores prioritarios como la atención sanitaria, las administraciones rurales y los operadores de servicios públicos.
  • Asegurar el acceso a los datos reutilizables de acuerdo con los principios FAIR y a las infraestructuras informáticas asociadas principalmente a la computación de alto rendimiento, la computación cuántica y la computación en el borde.

Cómo obtener un ecosistema de confianza

Desde el Libro Blanco se aboga por una nueva legislación sobre la IA que debe adaptarse a los riesgos potenciales, como la opacidad en la toma de decisiones, la discriminación de género o de otro tipo, la intromisión en nuestras vidas privadas o su uso con fines delictivos. Para ello propone las siguientes acciones:

  • Considerar las directrices para una IA fiable, publicadas en abril de 2019, como elementos clave de un futuro marco normativo para la IA en Europa. Estas directrices establecen los siete requisitos fundamentales que deben cumplirse y evaluarse a lo largo de todo el ciclo de vida de un sistema de IA.

  • Adaptar el marco normativo actual asociado a la IA, teniendo en cuenta la necesidad de ampliación del ámbito de aplicación, que actualmente aplica a los productos pero no a los servicios basados en las tecnologías de IA; la obligación de adaptación a los cambios en la funcionalidad de los sistemas de IA a largo del tiempo, según el momento de su ciclo de vida; las variaciones en el concepto de seguridad, dado que pueden surgir riesgos a lo largo del ciclo de vida del sistema de IA no conocidos de antemano, y en consecuencia, no contemplados en legislación vigente en la UE.
  • Centrarse en minimizar los riesgos para los derechos fundamentales, especialmente la protección de los datos personales, de la privacidad y de la no discriminación (prejuicios raciales o de género), así como, los riesgos para la seguridad y el funcionamiento eficaz del régimen de responsabilidad civil, dificultad a la que se enfrentan los sistemas basado en la IA, como un vehículo autónomo, a la hora de identificar la responsabilidad del daño que este ha generado por un defecto del producto o un fallo en la ciberseguridad.
  • Prestar especial atención a las aplicaciones de IA de alto riesgo entendidas como aquellas que se emplean en sectores en los que es previsible que existan o puedan surgir riesgos significativos, en especial desde la perspectiva de la protección de la seguridad, los derechos de los consumidores y los derechos fundamentales (la sanidad, el transporte, la energía y en determinados ámbitos del sector público), así como en determinados usos que pueden considerarse críticos como los ligados a conducción automáticas o los procesos de contratación laboral.

  • Garantizar una IA fiable en la práctica, Es estos casos se deberán contar con datos de entrenamiento suficientemente amplios y representativos, conservar los de registros y datos utilizados, suministrar información con respecto de las capacidades y limitaciones del sistema de IA, asegurar solidez y exactitud que garanticen la reproducibilidad de los resultados, contar con  la supervisión humana necesaria para asegurar la efectividad del resultado del sistema de IA y, en el caso específico de identificación biométrica remota,  emplearse cuando el uso esté debidamente justificado, sea proporcionado y esté sujeto a garantías adecuadas.

En resumen, las acciones referidas para asegurar un ecosistema de excelencia y de confianza aspiran a promover la capacidad de innovación de Europa en el sector de la IA, e incentivar el desarrollo, pero siembre bajo la adopción de una IA ética y fiable en Europa.

Por último, y con el fin de desarrollar un diálogo amplio con todas las partes interesadas, la Comisión invita a que se envíen observaciones sobre las propuestas recogidas en el Libro Blanco mediante una consulta pública abierta hasta el 31 de mayo de 2020.