Un diálogo (im)probable sobre ética y revolución digital

El pasado día 4 de Marzo organizamos el Diálogo (Im)probable sobre ética y revolución digital, en el marco de la Cátedra Iberdrola para los Objetivos de Desarrollo Sostenible.

Presentación del evento a cargo de Carlos Mataix, director del itdUPM, y Agustín Delgado, director de Innovación y Sostenibilidad de Iberdrola

Miguel Luengo, director científico de UN Global Pulse ofreció una perspectiva general del avance de la Inteligencia Artificial (IA) para el Desarrollo y cómo están apareciendo cuestiones éticas importantes.

La IA aporta grandes ventajas para el desarrollo, pero un diseño human-centered es el camino para poder aprovechar todo su potencial ya que “la componente humana es clave”.

No todas las aplicaciones de la IA contribuyen igual a la sostenibilidad. Los datos pueden magnificar desigualdades de aquellos grupos poblaciones que no están adecuadamente representados. Además, la IA puede usarse también como mecanismo de control.

El funcionamiento de la IA puede entenderse mediante tres elementos: los algoritmos, los datos y los modelos.

Intervención de Miguel Luengo, director científico de UN Global Pulse

Actualmente hay una carrera por los datos que permiten generar modelos, pero es necesario cuestionar los algoritmos y los modelos que se producen para tener en cuenta todas las implicaciones de la IA, como por ejemplo los sesgos.

La IA puede usarse para generar Deep Fakes cada vez más realistas o generar textos creíbles de alto nivel, así puede convertirse en una herramienta de generación de odio.

Son muchos los intereses actuales en la IA y, por ello, muchos gobiernos están creando sus agendas estratégicas.

Por ello es necesario incluir en estas estrategias principios como la sostenibilidad, la dignidad o la solidaridad.

Además, la IA no puede desligar su desarrollo de su uso, es necesario pasar de IA fiable a IA con propósito, y que esté alineada con los derechos humanos, como se identifica desde Naciones Unidas

Interdisciplinariedad, neutralidad y agenda 2030

Jaime Cantero, director de El País Retina, moderó dos bloques de conversación. En el primer bloque participaron Asunción Gómez, vicerrectora de investigación de la UPM y experta en inteligencia artificial; Ángeles Manjarrés, docente e investigadora del Departamento de Inteligencia Artificial de la UNED; y Jose Luis Fernández, director de la Cátedra de Ética Económica y Empresarial de la Universidad Pontificia de Comillas.

Asunción Gómez señaló que la IA ya tiene un rol central a nivel internacional, como muestra su importancia en la Agenda 2030, las agendas a nivel nacional o el reglamento europeo de protección de datos.

Una cuestión clave que emerge rápidamente es si la IA es neutra: el impacto de los muchos posibles sesgos en el uso de las tecnologías digitales debe ser mitigado.

Para ello, es importante potenciar la educación de la sociedad y de los profesionales del sector. Una visión ética y amplia también invita a abordar estos problemas de forma interdisciplinar con expertos de diferentes disciplinas y ciencia ciudadana.

Además, es necesario reforzar valores y capacidades en la sociedad para contrarrestar los inconvenientes de la sociedad digital, como pueden ser la sobrecarga de información irrelevante o la necesidad de estar conectado permanentemente a la red.

Debate con Jaime Cantero (El País Retina), Asunción Gómez (UPM), Ángeles Manjarrés (UNED) y Jose Luis Fernández (Universidad de Comillas)

El segundo bloque contó con expertos del sector público y privado que dialogaron sobre cómo alinear la ética y los intereses de las organizaciones. Richard Benjamins, Chief AI & Data Strategist – Telefónica; Dolores Herrera, directora de Cumplimiento y Ética de Iberdrola; y Manuel González, profesor yitular de la Universidad de Zaragoza y vocal asesor del Ministerio de Universidades dieron claves sobre cómo las empresas y la administración abordan las cuestiones éticas de la revolución digital.

La responsabilidad empresarial en el uso de la tecnología y la confianza se han convertido en valores clave para las empresas e inversores, “el nuevo verde”.

Esto propicia que desde el sector privado se tenga especial atención a aspectos éticos relacionados con la operativa interna y objetivos de las empresas.

Los ponentes sugirieron que esta atención puede apuntar a un agotamiento del sistema económico anterior y el comienzo de un potencial nuevo panorama a nivel internacional.

Sin embargo hay que definir y articular este movimiento. El balance entre regulación pública y autorregulación del propio sector marcaron el diálogo.

Debate con Jaime Cantero (El País Retina), Richard Benjamins (Telefónica), Dolores Herrera (Iberdrola) y Manuel González (Universidad de Zaragoza)

En opinión de Manuel González Bedia, hay cuestiones que no pueden limitarse a la ética ya que son de dimensión social y por tanto debe haber una regulación legal concreta.

Por otra parte, el alto nivel de innovación y experimentación que llevan a cabo las empresas en el ámbito digital remarca la necesidad de “flexibilidad”.

El concepto de “sandbox para experimentación” resume ese balance entre poder innovar y tener una regulación clara.

A nivel tecnológico, es necesario determinar si los algoritmos realmente son éticos, lo cual supone un reto a nivel técnico y social que necesita de colaboración interdisciplinar y de implicación por parte de las empresas y plataformas tecnológicas.

Hasta ahora la cuestión técnica iba antes que la ética y es necesario que nos replanteemos este paradigma, y se cree una cultura de responsabilidad y concienciación dentro de las empresas que desarrollan y usan tecnología digital.

La revolución digital afectará al funcionamiento de la sociedad en cuestiones tan importantes como el futuro del trabajo. La colaboración entre sectores se antoja necesaria para poder avanzar tecnológicamente y de manera responsable.

La revolución digital tiene, además, sus particularidades respecto a otros sensores por lo que la sensibilización de los ciudadanos es también un reto necesario que afrontar.

Responder