I. Contexto

Em conformidade com os seus mandatos e em atenção aos debates atuais sobre o impacto das tecnologias digitais sobre o exercício dos direitos humanos, a Comissão Interamericana de Direitos Humanos (CIDH) e sua Relatoria Especial para a Liberdade de Expressão (RELE) estão se concentrando particularmente em promover as garantias ligadas à liberdade de expressão nos espaços digitais, monitorar possíveis limitações e alertar sobre as possíveis ligações entre o uso de discursos estigmatizantes no ambiente online e ações violentas contra determinados grupos.

Os principais desafios identificados estão relacionados à deterioração do debate público, evidenciado no aumento da violência digital e física contra algumas pessoas e grupos de pessoas que exercem o seu direito à liberdade de expressão, a desinformação deliberada e a falta de adequação das políticas das companhias privadas em conformidade com os princípios democráticos e de direitos humanos.

Entendendo que a internet é um instrumento indispensável para o exercício pleno dos direitos humanos – entre eles, a liberdade de expressão, a liberdade de associação e outros, de caráter econômico, cultural e político –, estão sendo necessárias ações positivas para facilitar as condições de acesso, uso e aproveitamento da internet e da própria tecnologia. Isso inclui um enfoque transversal que atenda às carências e vulnerabilidades particulares de grupos historicamente discriminados, bem como uma atenção à contínua inovação tecnológica e aos seus alcances.

Nesse sentido, a CIDH encomendou à RELE a condução de um diálogo interamericano multissetorial ligado, principalmente, a três eixos temáticos:

• A Deterioração do Debate Público
• A Alfabetização Digital para o desenvolvimento de habilidades cívicas
• A compatibilização de políticas de Moderação de Conteúdos com os padrões de direitos humanos.

Durante as diferentes fases do diálogo, a RELE abordará cada um dos eixos temáticos a partir de dois enfoques do exercício do direito à liberdade de expressão por usuários da internet: o primeiro, tendo em vista os usuários que acessam a informação; e o segundo, por aqueles que produzem conteúdo. Ambos os enfoques requerem uma abordagem particular de cada um dos eixos temáticos, segundo as suas próprias necessidades.

Esta nota resume o que se entende por Moderação de Conteúdos na internet. Ela também aponta – de forma não exaustiva – as temáticas e subtemáticas que facilitarão e definirão o escopo do Diálogo.

II. Definição

A Moderação de Conteúdo é a prática organizada de filtrar o conteúdo gerado e visto pelos usuários e pelas usuárias dos sítios de internet, redes sociais e outras mídias online. Há diversas formas de fazer a Moderação de Conteúdo: moderação prévia, pós-moderação, moderação reativa, moderação distribuída e moderação automatizada. O processo pode ser realizado, por exemplo, por meio da ação direta de uma pessoa (o/a moderador/a que atua como agente da plataforma) ou por processos automatizados baseados em inteligência artificial, junto com o processamento de grandes quantidades de dados desses usuários. Os processos modernos de Moderação de Conteúdo têm diversas fontes – desde o processamento de palavras-chave ou imagens até a iniciativa de outros usuários que utilizam mecanismos de alerta para pedir que um conteúdo seja moderado. A Moderação de Conteúdo nem sempre resulta na eliminação do conteúdo em questão. Pode também resultar na forma como um conteúdo é priorizado, ou, por exemplo, se ele até mesmo é mostrado nos resultados de uma busca. Dessa forma, a Moderação de Conteúdo não apenas afeta o que é permitido a um usuário ou usuária publicar (na condição de “Criador/a”), mas também o que é permitido ver, consumir, comprar e crer (a um/a usuário/a na condição de “Destinatário/a”).

Por esse motivo, para os propósitos do Diálogo das Américas, a Moderação de Conteúdo inclui todas as regulações, decisões ou processos que uma plataforma de internet adota internamente para controlar o tipo, alcance e forma em que flui um conteúdo criado por terceiros – conforme a “Declaração conjunta sobre Liberdade de Expressão e Notícias Falsas (Fake News), Desinformação e Propaganda” da Relatoria Especial para a Liberdade de Expressão, de 2017. A Moderação de Conteúdos também está ligada a toda ingerência que tenha o potencial de privilegiar ou silenciar uma parte do debate democrático, por exemplo, através de fenômenos como as bolhas virtuais (“filter bubbles”) e outros.

III. Categorias e subcategorias

Para analisar os principais elementos que influenciam a Moderação de Conteúdos na internet, a proposta é trabalhar separadamente com os dois enfoques principais de usuários de internet: os que acessam e são os destinatários de informações (“Destinatários”) e os que criam conteúdos (“Criadores”). Essa distinção está sendo proposta de forma consciente, lembrando que, pela própria natureza da internet, as pessoas alternam entre os papéis de criadores e destinatários nos usos múltiplos e diferenciados que elas fazem da tecnologia.

Dentro de cada abordagem, haverá categorias de ações que delimitam e influenciam na Moderação de Conteúdos, as quais podem incluir as seguintes, sem se limitar a elas:

• Filtragem / Promoção = Ações sobre conteúdos em geral e sobre discursos não protegidos (por exemplo, linguagem de ódio), em particular, as medidas e políticas ligadas à sua administração em plataformas e a ação dos Estados para limitar a difusão de conteúdos
• Obstáculos = Ações que impedem o acesso à informação ou dificultam que ela seja difundida online.

Essas categorias (tipos gerais de ações) e subcategorias (conteúdo impactados) não são exaustivas. Outras categorias poderão ser acrescentadas a elas no decorrer do Diálogo das Américas.

IV. Desafios

Cada um dos três eixos temáticos do Diálogo das Américas apresenta desafios em particular para a sua abordagem. Isso não significa que eles são as únicas problemáticas ligadas aos eixos, e, sim, que são temas que precisam ser analisados para a construção de propostas de ação integrais e sustentáveis ao longo do tempo. Essa divisão é artificial e poderá ser modificada durante o Diálogo das Américas. A sua intenção é cobrir os desafios já documentados pela CIDH e a RELE.

Com relação à Moderação de Conteúdos na internet, esses desafios se dividem em três grandes categorias: políticos / jurídicos, técnicos e sociais.

• Desafios de natureza política / jurídica. Incluem os desafios relacionados às ações do Estado, do setor privado e de organizações com o poder de influenciar reformas legislativas e políticas públicas que regulam a circulação de conteúdo na internet, além de políticas de Moderação de Conteúdo; bem como para a adoção de medidas proporcionais e necessárias em face ao surgimento de discursos que atentarem contra os espaços seguros para a liberdade de expressão; inclui também a vontade política de praticar o respeito e a não criminalização da liberdade de expressão, e o estabelecimento de alianças para a execução de decisões políticas. 
• Desafios de natureza técnica. Incluem as práticas e os processos que sustentam essas práticas de Moderação de Conteúdos, bem como aquelas que garantem a estabilidade das conexões e a integridade dos espaços para a difusão de conteúdos. Esses desafios são influenciados tanto pelos Estados quanto pelas instituições públicas e privadas que tomam decisões relativas a políticas e ferramentas internas para a análise de conteúdo, medidas restituidoras para o caso de conteúdos retirados indevidamente, e garantias para a estabilidade das conexões em momentos chave de difusão de conteúdos.
• Desafios de natureza social. Por um lado, já está mostrado que a internet é uma plataforma imprescindível para a deliberação pública. Por outro, existem receios de que o seu uso com algumas finalidades acelere a violência, ou que se tomem decisões relacionadas à internet que reduzam as vozes daqueles que querem se expressar. Isso leva a uma percepção generalizada de excessos e censuras de discursos que aumenta os níveis de ansiedade, por assegurar que a própria voz seja a única voz relevante. Exemplos desse tipo de desafios serão aprofundados durante o diálogo.

Desafios de caráter econômico e cultural também são reconhecidos e influenciam de forma transversal as três categorias previamente identificadas.

Bibliografia Básica

Relatoria Especial para a Liberdade de Expressão e Comissão Interamericana de Direitos Humanos. 2013. “Liberdade de Expressão e Internet”.

https://www.oas.org/pt/cidh/expressao/temas/internet.asp

Relatoria Especial para a Liberdade de Expressão e Comissão Interamericana de Direitos Humanos. 2017. “Declaração Conjunta sobre Liberdade de Expressão e “Notícias Falsas” (“Fake News“), Desinformação e Propaganda”.

https://www.oas.org/es/cidh/expresion/showarticle.asp?artID=1056&lID=2

Relatoria Especial para a Liberdade de Expressão e Comissão Interamericana de Direitos Humanos. 2017. “Padrões para uma internet livre, aberta e inclusiva”. https://www.oas.org/es/cidh/expresion/docs/publicaciones/INTERNET_2016_ESP.pdf

Relatoria Especial para a Liberdade de Expressão e Comissão Interamericana de Direitos Humanos. 2019. “Guia para garantir a Liberdade de Expressão diante da desinformação deliberada em contextos eleitorais”. https://www.oas.org/es/cidh/expresion/publicaciones/Guia_Desinformacion_VF.pdf