Las entidades encargadas de resolver las cuestiones éticas en el uso de los datos

Hemos hablado ya anteriormente en varias ocasiones sobre el futuro de los datos abiertos, la necesidad de mantener nuestros datos personales bajo control, la relevancia cada vez mayor que están tomando los algoritmos en los procesos de toma de decisiones que afectan a varios aspectos de nuestras vidas y la necesidad por tanto de establecer unos principios claros y unas pautas éticas en la gestión de los datos por parte de las organizaciones.

Con todo lo anterior no es de extrañar que cada vez surjan más entidades públicas y privadas cuya finalidad principal es la de orientar a los gobiernos en los nuevos retos científicos, técnicos y éticos que se les plantean por el creciente uso de los datos de los ciudadanos en los servicios públicos. Así por ejemplo son varias las acciones llevadas a cabo en este sentido durante los últimos meses por parte de los gobiernos:

• Emiratos Árabes Unidos, por ejemplo, pasa por ser el primer país del mundo en contar con un ministro de inteligencia artificial como parte de su programa nacional estratégico de los 100 años.

• El Instituto DATAiA en Francia, puesto en marcha por la Agencia Nacional de Investigación, aglutina 130 investigadores procedentes de diez instituciones nacionales. A través de la colaboración interdisciplinar, la integración entre universidad y empresa, la investigación y la formación, el instituto pretende profundizar en los retos de la inteligencia artificial, la toma de decisiones a través de los datos, la economía basada en los datos y la confianza digital.

• El gobierno del Reino Unido también ha anunciado recientemente la creación de un Centro para la Innovación y la Ética de los Datos, que trabajará por un uso innovador y ético de los datos junto a la industria, los reguladores, la sociedad civil y el público en general.

• El gobierno de Kenia tampoco se queda atrás y acaba de poner en marcha un grupo de trabajo formado por emprendedores, expertos, académicos, investigadores, reguladores, expertos legales y empresas privadas. Este grupo será el encargado de guiar la adopción por parte del gobierno de tecnologías emergentes como la inteligencia artificial o las cadenas de bloques con el objetivo de mejorar la eficiencia del gobierno.

• Como ejemplo a nivel local, la ciudad de Nueva York planea también la creación de un grupo de trabajo similar para monitorizar el funcionamiento de los algoritmos que se utilizan por parte de las agencias municipales y poder así garantizar su equidad. Este grupo incluirá tanto a expertos en sistemas automatizados como a los grupos de ciudadanos directamente afectados por estos sistemas.

Pero no todas las iniciativas en este ámbito surgen por parte exclusiva del gobierno. En Alemania la sociedad civil se organiza también para aportar algo de luz sobre el sistema de clasificación crediticia  (SCHUFA) más utilizado en el país a la hora de solicitar un crédito, contratar un servicio o alquilar una vivienda por ejemplo. A pesar de que este sistema gestiona datos de más de 70 millones de personas, los cálculos que realiza se basan en un algoritmo totalmente cerrado y protegido por el secreto comercial. Es por ello que se ha puesto en marcha el proyecto OpenSCHUFA con el objetivo de descifrar el funcionamiento del algoritmo y poder así verificar que se esté haciendo un uso adecuado de los datos y que las evaluaciones que se realizan a través de este método sean realmente justas y precisas.

Y no son los únicos, empresas privadas y tecnológicas de primer nivel como Amazon, eBay, Microsoft, IBM y Accenture entre otros, instituciones académicas como la New York University u organizaciones multilaterales como el Banco Mundial están llevando a cabo también iniciativas similares.

Además, es de esperar que continúen surgiendo otras iniciativas similares gracias al interés creciente y el apoyo financiero prestado por parte de grandes donantes como Pierre Omidyar, Reid Hoffman (Linkedin), Jim Pallotta (Raptor Group), la Fundación Knight y la Fundación William y Flora Hewlett. Juntos han creado un fondo de inversión de 27 millones de dólares para promover la investigación en el uso de la inteligencia artificial por el interés público, incluyendo por supuesto las consideraciones éticas y de rendición de cuentas.

Todos estos ejemplos ponen de manifiesto la creciente preocupación por establecer unas pautas, estándares y códigos de conducta de referencia que promuevan una gestión ética de los datos. Pero la variedad de opciones también supone un reto en sí, y hace necesaria una estandarización que permita crear un código común, de tal forma que se garantice la integridad e independencia de los datos.

Contenido elaborado por Carlos Iglesias, Open data Researcher y consultor, World Wide Web Foundation.

Los contenidos y los puntos de vista reflejados en esta publicación son responsabilidad exclusiva de su autor.