¿Cómo podemos promover el uso responsable de la tecnología que preserve las democracias?

La rápida evolución de las tecnologías facilita la toma de decisiones colectivas y el debate público. Su introducción en los países en desarrollo conlleva riesgos para la democracia.

Frente a la crisis democrática mundial, el tema que vincula democracia y tecnología cobra fuerza. El caso Cambridge Analytica, las cuentas "robots" los ataques a políticos en las redes sociales, los abusos de la vigilancia informática y las noticias falsas son síntomas de ello.

El rápido desarrollo de las nuevas tecnologías multiplica las posibilidades de ajustar el proceso deliberativo de los ciudadanos al facilitar la toma colectiva de decisiones y el debate público. Su cada vez más importante y rápida introducción en los países en desarrollo nos lleva a pensar en sus riesgos intrínsecos y abusivos.

Los riesgos intrínsecos de la tecnología

Las tecnologías, más allá de su promesa de prosperidad económica, corren el riesgo de agravar las disparidades dentro de los países y dejar de lado la gobernabilidad democrática. La inteligencia artificial (IA), basada en datos que pueden estar sesgados, aumenta el riesgo de estereotipar a las personas y, por tanto, de discriminar a determinadas categorías. IA y algoritmos inducir a los usuarios a estar satisfechos con el contenido al que tienen acceso y, de hecho, producir la única exhibición de lo agradable, no permitiéndoles confrontar sus ideas con puntos de vista contrarios. Por lo tanto, aumentan el riesgo de desinformación, polarización de los debates y exposición a rumores infundados por parte de muchos medios.

Riesgos externos

Las nuevas tecnologías inducen la posibilidad de ser utilizadas por los gobiernos contra la libertad de expresión. Pueden permitir la censura a través de su instrumentalización, como fue el caso durante la Primavera árabe donde los gobiernos orquestaron apagones de internet socavando la libertad de expresión. Esta posibilidad de censura de contenidos va de la mano de los excesos autoritarios del Estado y cuestiona las relaciones de interés mantenidas entre los órganos de decisión gubernamentales y las grandes empresas tecnológicas.

usos nocivos

Las nuevas tecnologías pueden ser la fuente de usos maliciosos y democráticos, ya sea iniciados por gobiernos, partidos políticos o individuos particulares. Al multiplicar las identidades falsas en Internet, esto alienta a ciertas personas a adherirse a ideales, políticas, etc. eso es lo que Fiesta de 50 centavos en China hizo publicando masivamente mensajes favorables a su política. Las nuevas tecnologías pueden amplificar la desinformación. Esto es lo que encontramos con el falso profundo que son métodos de manipulación de video que se hacen pasar por una personalidad. Esto puede tener importantes consecuencias políticas y democráticas: las nuevas tecnologías pueden facilitar los excesos autoritarios de los gobiernos.

Aquí hay tres recomendaciones para abordar los desafíos del impacto de la tecnología en las democracias.

Enfoque de múltiples actores

Ante la necesidad de fortalecer valores y prácticas democráticas como la inclusión, la transparencia y la rendición de cuentas, es fundamental un enfoque pluralista de la innovación. Para ello, es necesaria la conexión a tierra de las autoridades públicas y los donantes para la adopción de un enfoque colectivo eficaz.

Luego, los gobiernos deben trabajar de la mano con los investigadores, las empresas tecnológicas, la academia y la sociedad civil para alinearse adecuadamente.

En esta lógica, los financiadores deben apoyar la ampliación sostenible de las iniciativas tecnológicas de otras partes. Este apoyo contribuirá así al respeto y promoción de los valores democráticos. Para facilitar este proceso de diálogo constructivo entre las administraciones públicas y los ciudadanos, puede resultar relevante la creación de plataformas de presentación de iniciativas.

Este es, por ejemplo, el caso de Desafío WomenConnect creado por la Agencia de los Estados Unidos para el Desarrollo Internacional. Esta plataforma presenta soluciones innovadoras para cerrar la brecha digital de género. La agencia logró recopilar más de 500 proyectos de 89 países. También trajo voces desde el terreno, con visiones plurales sobre la situación.

La colaboración multidisciplinaria y de múltiples partes interesadas en favor de la innovación parece ser esencial para enfrentar los desafíos del impacto de las tecnologías en las democracias.

Uso responsable de las tecnologías.

Los bancos y los actores del desarrollo también deben promover el uso responsable de la inteligencia artificial y las tecnologías. La cultura del uso responsable de las tecnologías emergentes debe ser ampliamente difundida y movilizada en los ciclos de proyectos operativos de los actores del desarrollo. Esto fomentará el desarrollo de estrategias y políticas responsables.

En los países en desarrollo, existe la necesidad de instituciones éticas que aseguren la rendición de cuentas en el uso de las tecnologías. Este uso responsable va acompañado de una mayor capacidad de los profesionales del desarrollo y las poblaciones locales para comprender las interacciones entre los seres humanos y estas tecnologías. La educación sobre estos temas es esencial en la lucha contra sus efectos nocivos y posibles abusos.

Es por eso que desarrollar la capacidad de los ciudadanos, las universidades locales y los responsables políticos en estos temas de gobernanza de la inteligencia artificial es una prioridad en la búsqueda de los Objetivos de Desarrollo Sostenible. Este seguimiento de los temas relacionados con la tecnología y la democracia se realiza a través de la organización de conferencias como la coordinada por el grupo Agence Française de Développement (AFD) sobre " Derechos humanos y desarrollo », reuniendo en diciembre de 2021 a unos 500 actores del Norte y del Sur.

También pasa por la redacción de documentos de investigación como el titulado “Usos emergentes de las tecnologías al servicio del desarrollo: un nuevo paradigma de las inteligencias”. Finalmente, una forma eficaz de contribuir a la culturización sobre el tema es la creación de soportes de audio. Este es el caso de la serie de tres podcasts creada por la AFD. Está destinado a dinamizar la participación ciudadana, integrando especialmente a mujeres y jóvenes.

Apoyar la participación ciudadana

Ciudadanos comprometidos y redes de activistas, organizaciones de la sociedad civil, periodistas y desarrolladores pueden utilizar herramientas digitales para desarrollar proyectos. Estos facilitan el surgimiento de comunidades y la movilización de individuos en torno a causas de interés general.

Mientras observamos una crisis de confianza en las instituciones políticas y su rol, surgen nuevos mecanismos de participación ciudadana gracias a su convergencia con los imperativos digitales. Estos son los tecnología cívica que combinan el potencial de los modos convencionales de protesta con el de las redes sociales para movilizar masivamente a la ciudadanía. Estos mecanismos brindan más transparencia y rendición de cuentas en las decisiones políticas y la acción pública.

La tecnología cívica es una prueba de que la innovación digital constituye, con la transformación radical de las prácticas políticas, una oportunidad para luchar contra los abusos que provoca la circulación masiva de información. Un ejemplo de tales iniciativas es Ushahihi (testimonio, en swahili), una de las primeras plataformas de acceso a la información en el campo de la tecnología cívica que se ha conocido en África y en el mundo. Esta plataforma permite mapear ciertos temas como el seguimiento de elecciones, fraude electoral, violencia contra civiles, seguimiento de epidemias, etc.

La comunicación de esta información se realiza en primer lugar por diversos medios electrónicos (simplemente enviando un SMS por ejemplo). Luego, los datos se enumeran en forma de mapa, lo que permite un análisis más detallado de los datos recopilados. Se dice que esta plataforma de participación pública gratuita ha sido utilizada por 60 proyectos en todo el mundo.
Apoyar la ampliación de este tipo de iniciativas promueve la participación ciudadana y facilita el activismo.

Este artículo fue escrito con la contribución de Charlotte Massicard, responsable de innovación de la Agencia Francesa de Desarrollo.

Pedro Addo, Jefe del Laboratorio de Tecnología Emergente, Agencia Francesa de Desarrollo (AFD)

Este artículo ha sido publicado de nuevo. La conversación bajo licencia Creative Commons. Lee elarticulo original.