Aporte de Derechos Digitales al Foro de Deterioro del Debate Público

Remitente: Derechos Digitales (respuesta elaborada por Laura Hernández, Mayra Osorio, Michel Roberto de Souza, Michelle Bordachar).

Grupo de interés: Organización sin fines de lucro.

Idioma: Español

¿Qué entiende por “Deterioro del Debate Público»?

Según la Nota Conceptual, el concepto de deterioro en el debate público se relaciona con actividades (injerencia intencional) que «producen obstáculos a la participación en las decisiones democráticas, como los procesos electorales, la formulación de políticas públicas y leyes».

El “Deterioro del Debate Público» puede ser entendida como la dificultad -o la pérdida de la capacidad- para discutir temas de interés público de forma informada y en un marco de tolerancia. Esta dificultad puede ser explicada por distintos factores, tales como la desinformación (de manera intencionada o producto de la ignorancia o falta de comprensión de la información por parte de quien retransmite la información), discursos de odio, etc.

¿Cuál es el papel de las tecnologías, como la inteligencia artificial y la criptografía, en el Deterioro del Debate Público? ¿Cuáles son las herramientas tecnológicas o matemáticas/algorítmicas que han contribuido al Deterioro del Debate Público? ¿Qué aspectos de la tecnología o desarrollos identifica como más relacionados con esta temática?  

Las tecnologías deben estar de acuerdo y al servicio de nuestros pueblos, para consolidar las democracias y para facilitar el ejercicio derechos fundamentales. El cifrado, por ejemplo, ofrece una seguridad importante para la información que transita por los sistemas conectados. El cifrado es una pieza fundamental para el ejercicio de derechos: “la defensa de la libertad de expresión y de prensa, de expresar y asumir posturas políticas, incluso la supervivencia de grupos políticos disidentes en regiones antidemocráticas dependen de la seguridad y la privacidad que solo el cifrado tiene el potencial de ofrecer» (https://www.derechosdigitales.org/9689/solo-un-cifrado-fuerte-protege-los-derechos-de-la-poblacion/).

Para analizar la cuestión de la inteligencia artificial, por ejemplo, es necesario primero entender qué es realmente la inteligencia artificial (IA). La recopilación y análisis de datos facilitados por los sistemas de IA es una herramienta poderosa para dar sentido, ordenar el conocimiento sobre el mundo y enfocar nuestra atención colectiva en los propósitos que persiguen los implementadores del sistema, ya sean actores estatales o las empresas que ofrecen estas tecnologías a Estados. Y la mayoría de las veces existe un ciclo de retroalimentación negativa entre los dos relacionados con alentar al sector privado a brindar soluciones que permitan a los gobiernos reducir las fricciones políticas de inacción en áreas clave de políticas como determinar el acceso al bienestar social, la resolución de conflictos legales, la prestación de servicios de salud o la adecuación entre puestos de trabajo.

La falta de atención para limitar la recolección de datos a lo que es proporcional y adecuado a los objetivos de un sistema, nos coloca en un escenario donde tanto las empresas como los gobiernos suelen estar más enfocados en la recolección masiva de datos a través de diferentes interacciones, incluso para procesos o servicios que de otra manera no lo requiera, para poder acumular y explotar esta información posteriormente a través de nuevos sistemas. Uno de los principales problemas es el de las recomendaciones que los algoritmos en las redes sociales realizan, dando visibilidad a discursos que pueden incitar al odio e información falsa.

Aunque las empresas han estado trabajando para contener estas situaciones, no deja de ser paradójicamente preocupante que pueda caerse en casos de censura previa o en la proliferación de medidas desproporcionadas. En este sentido, los problemas relacionados con el uso de la inteligencia artificial y con utilización de algoritmos que posibilitan o favorecen el deterioro del debate público están relacionados con varios factores, como a una falta de transparencia sobre qué datos se utilizan para generar la segmentación de contenidos y sobre la definición de estos criterios. Además, hay poca o ninguna discusión amplia sobre cómo se construyen los criterios para la moderación del contenido impulsado (publicidad). Otro tema está relacionado con la revisión humana de la moderación de contenidos, considerando que es necesario tener una visión de la cultura y las especificidades locales para llevar a cabo y decidir sobre la exclusión de contenidos.

¿Cuáles son ejemplos de fenómenos tecnológicos que están asociados con el Deterioro del Debate Público?

Son ejemplos: concentración excesiva de datos personales, uso ilegal de datos personales, envío de mensajes masivos, uso de la moderación del contenido de la plataforma como forma de censura estatal, desinformación deliberada, falta de moderación de contenido contra discursos de odio, moderación de contenido abusiva, moderación de contenido mediante inteligencia artificial sin contexto que perjudica a minorías.

Además de las sub-categorías y desafíos identificados para el análisis del Deterioro del Debate Publico (secciones III y IV de la Nota Conceptual), ¿Qué temas complementarios considera usted que deben analizarse para comprender las necesidades, riesgos, y desafíos en relación con el Deterioro del Debate Público?

Un desafío social no identificado en la Nota Conceptual es la desigualdad social, la cual representa un problema sistemático de la región de América Latina y que debe ser tomada en cuenta cuando se habla del debate público en espacios en línea. Por un lado, las brechas digitales, tanto de acceso a internet como de habilidades técnicas, pueden generar un aumento en la desigualdad para acceder a la información y, por tanto, la participación en el debate público no se pone en marcha o se limita a los espacios físicos.

Por otra parte, no solo es pertinente alcanzar la ‘conectividad significativa’, sino también asegurar que la conectividad garantice la dignidad de las personas, con ello nos referimos a que el debate público se deteriora si no existen las condiciones de accesibilidad para que personas con discapacidad participen de forma adecuada, así como si no se evalúan las necesidades reales de los grupos históricamente vulnerados y generar propuestas con base en ellas.

Además de los desafíos identificados en la Nota Conceptual, entendemos que hay desafíos de la aplicación de la ley, cuál es el papel del poder judicial, tanto en términos de garante de los derechos humanos como en términos del papel en las elecciones. Por ejemplo, en Brasil, los temas relacionados con las elecciones juegan un papel muy activo en el Tribunal Superior Electoral durante las elecciones.

¿Qué y cómo los derechos humanos son afectados por el Deterioro del Debate Público y qué rol considera que ha tenido  internet en este proceso?

El derecho a la libertad de pensamiento y de expresión establecido en el artículo 13 de la Convención Interamericana de Derechos Humanos (la Convención) se ve afectado por el deterioro del debate público. Por una parte, la moderación de contenidos a cargo de los proveedores de internet y la eliminación de publicaciones en redes sociales por la solicitud de los gobiernos genera la censura de expresiones y opiniones.

Por otra parte, la vigilancia ejercida desde los Estados hacia las personas defensoras de derechos humanos y periodistas —pilares fundamentales para la generación, análisis y distribución de la información; la contraloría social y el debate público— promueve la autocensura y, por tanto, disminuye la participación ciudadana en el espacio público y merma el derecho a la libertad de expresión.

El derecho a vivir una vida libre de violencia establecido en el artículo 3 de la Convención Interamericana para Prevenir, Sancionar y Erradicar la Violencia contra la Mujer también es afectado por el deterioro del debate público. “La violencia de género y la discriminación en línea no son más que extensiones de una situación estructural de exclusión;” (Derechos Digitales. (2019). Latin America in a Glimpse. Santiago, Chile. Derechos Digitales: https://www.derechosdigitales.org/wp-content/uploads/glimpse-2019.pdf , p.3) las mujeres ciudadanas, periodistas y defensoras son, constantemente, víctimas de la violencia digital a través de campañas de desprestigio y de extorsión bajo amenazas (Barrera, Lourdes. (Coord.) (2017).

La violencia en línea contra las mujeres en México. Informe para la Relatora sobre Violencia contra las Mujeres Ms. Dubravka Šimonović. Luchadoras MX. Recuperado de: https://luchadoras.mx/wp-content/uploads/2017/12/Informe_ViolenciaEnLineaMexico_InternetEsNuestra.pdf, 2017). Asimismo, la violencia en línea está dirigida a las mujeres que aspiran a acceder a un cargo público, sobre todo, en periodos electorales, lo que vulnera el derecho político a tener acceso a las funciones públicas de sus países en condiciones de igualdad como la establece el artículo 23 de la Convención. La desproporcionalidad en la actuación de funcionarios públicos en el ámbito digital, específicamente el caso en que funcionarios públicos bloquean a usuarios que les cuestionan o que les critican. Esta desmedida reacción provoca que el usuario bloqueado ya no tenga acceso a información que puede ser de su interés, en tanto es emanada de una autoridad o de un servidor que maneja información pública. En otras palabras, la falta de tolerancia a la crítica, que es otra forma de expresión del deterioro del debate público, vulnera en ocasiones el derecho de acceso a información pública.

Respuestas recibidas