Discurso de ódio on-line

uma análise das políticas das plataformas digitais para moderação de conteúdo

Autores

DOI:

https://doi.org/10.30962/ec.2709

Palavras-chave:

Discurso de ódio, Plataformas digitais, Moderação de conteúdo, Liberdade de expressão, Pesquisa documental

Resumo

O objetivo deste artigo é compreender a moderação do discurso de ódio do Facebook, Instagram, TikTok, Twitch, Twitter e YouTube a partir da análise de seus termos de uso e suas diretrizes de comunidade. Na discussão, são analisados quatro fatores: conceituação de discurso de ódio; categorias protegidas; critérios de avaliação de denúncias; e sanções. Por fim, discutimos três pontos em comum às diretrizes de comunidade: os valores das plataformas; desafios contextuais e linguísticos; e interlocuções e práticas de moderação. A conclusão aponta que esses pontos suportam a governança do discurso de ódio das plataformas analisadas.

Downloads

Não há dados estatísticos.

Biografia do Autor

Luiza Carolina dos Santos, Universidade Estadual de Ponta Grossa, Ponta Grossa, Paraná, Brasil

Doutora em Comunicação e Informação pela Universidade Federal do Rio Grande do Sul (UFRGS) e professora substituta na Universidade Estadual de Ponta Grossa (UEPG). Coordena o Grupo de Pesquisa em Tecnologias e Culturas Digitais da Intercom.

Renata Tomaz, Fundação Getulio Vargas, Rio de Janeiro, Rio de Janeiro, Brasil

Doutora e mestre em Comunicação e Cultura pela Universidade Federal do Rio de Janeiro (UFRJ). Professora adjunta na Escola de Comunicação, Mídia e Informação da Fundação Getulio Vargas (FGV ECMI). Professora colaboradora do Programa de Pós-Graduação em Mídia e Cotidiano (PPGMC-UFF).

Dalby Dienstbach, Fundação Getulio Vargas, Rio de Janeiro, Rio de Janeiro, Brasil

Doutor em Estudos da Linguagem pela Universidade Federal Fluminense (UFF) e professor adjunto na Escola de Comunicação, Mídia e Informação da Fundação Getulio Vargas (FGV ECMI).

Eurico Matos, Fundação Getulio Vargas, Rio de Janeiro, Rio de Janeiro, Brasil

Doutor e mestre em Comunicação e Cultura Contemporâneas pela Universidade Federal da Bahia (UFBA). Professor adjunto na Escola de Comunicação, Mídia e Informação da Fundação Getulio Vargas (FGV ECMI) e do Instituto Nacional de Ciência e Tecnologia em Democracia Digital (INCT.DD).

Danielle Sanches, Fundação Getulio Vargas, Rio de Janeiro, Rio de Janeiro, Brasil

Doutora em História das Ciências pela École des Hautes Études en Sciences Sociales (EHESS/Paris) em Cotutela com a Casa de Oswaldo Cruz (COC-Fiocruz) e professora adjunta na Escola de Comunicação, Mídia e Informação da Fundação Getulio Vargas (FGV ECMI).

Referências

BEN-DAVID, A.; MATAMOROS-FERNÁNDEZ, A. Hate Speech and Covert Discrimination on Social Media: Monitoring the Facebook Pages of Extreme-Right Political Parties in Spain. International Journal of Communication, v. 10, p. 1167-1163, 2016.

BENESCH, S. Defining and Diminishing Hate Speech. In: MINORITY RIGHTS GROUP International. State of the World’s Minorities and Indigenous Peoples. Londres, 2014. p. 18-25.

BHATIA, V. Worlds of Written Discourse: a Genre-Based View. Londres: Continuum, 2004.

BOWMAN-GRIEVE, L. Exploring Stormfront: a Virtual Community of the Radical Right. Studies in Conflict and Terrorism, v. 11, n. 31, p. 989-1007, 2009.

BRASIL. Constituição da República Federativa do Brasil. Brasília, 1988. Disponível em: <http://www.planalto.gov.br/ccivil_03/constituicao/constituicaocompilado.htm>. Acesso em: 25 fev. 2021.

______. Lei n. 7.716, de 5 de janeiro de 1989. Define os crimes resultantes de preconceito de raça ou de cor. Disponível em: <http://www.planalto.gov.br/ccivil_03/leis/l7716.htm>. Acesso em: 26 fev. 2021.

______. Lei n. 12.965, de 23 de abril de 2014. Estabelece princípios, garantias, direitos e deveres para o uso da Internet no Brasil. Disponível em: <http://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm>. Acesso em: 26 fev. 2021.

BROWN, A. What is So Special About Online (as Compared to Offline) Hate Speech? Ethnicities, v. 18, n. 3, p. 297-326, 2018.

BRUGGER, W. Proibição ou proteção do discurso de ódio? Algumas observações sobre o Direito Alemão e o Americano. Revista Direito Público, v. 15, p. 117-63, 2007.

BUYSE, A. Words of Violence: Fear Speech, or How Violent Conflict Escalation Relates to the Freedom of Expression. Human Rights Quarterly, v. 36, p. 779-797, 2014.

CANÇADO, M. Manual de semântica: noções básicas e exercícios. 2. ed. São Paulo: Contexto, 2012.

COLLEONI, E.; ROZZA, A.; ARVIDSSON, A. Echo Chamber or Public Sphere? Predicting Political Orientation and Measuring Political Homophily in Twitter Using Big Data. Journal of Communication, n. 64, v. 2, p. 317-332, 2014.

CRAWFORD, K.; GILLESPIE, T. What is a Flag For? Social Media Reporting Tools and the Vocabulary of Complaint. New Media & Society, v. 18, n. 3, p. 410-428, 2016.

D’ANDRÉA, C. Pesquisando plataformas online: conceitos e métodos. Salvador: EDUFBA, 2020.

FARIS, R. et al. Understanding Harmful Speech Online. Berkman Klein Center Research Publication, n. 2016-21, p. 1-19, 2016. Disponível em: <https://papers.ssrn.com/sol3/papers.cfm?abstract%5Fid=2882824>. Acesso em: 1 mar. 2021.

GAGLIARDONE, I. et al. Countering Online Hate Speech. Paris: Unesco Publishing, 2015.

GAGLIARDONE, I. Extreme Speech | Defining Online Hate and Its “Public Lives”: What is the Place for “Extreme Speech”?. International Journal of Communication, v. 13, p. 3068-3087, 2019.

GILLESPIE, T. Custodians of the Internet: Platforms, Content Moderation, and the Hidden Decisions That Shape Social Media. New Heaven: Yale University Press, 2018.

______. Content Moderation, AI, and the Question of Scale. Big Data & Society, p. 1-5, jul.-dez. 2020.

GONTIJO, A. Governança e moderação de conteúdo: uma análise da plataforma Twitter entre 2018 e 2021. Dissertação (Mestrado em Comunicação Social) – Faculdade de Filosofia e Ciências Humanas, Universidade Federal de Minas Gerais, Belo Horizonte, 2021.

JIANG, J. A. et al. Characterizing Community Guidelines on Social Media Platforms. In: CONFERENCE COMPANION PUBLICATION of the 2020 on Computer Supported Cooperative Work and Social Computing. CSCW’20 Companion, Estados Unidos, p. 287-291, out. 2020. Disponível em: <https://dl.acm.org/doi/pdf/10.1145/3406865.3418312>. Acesso em: 4 fev. 2022.

JURNO, A. C.; D’ANDRÉA, C. (In)visibilidade algorítmica no “feed de notícias” do Facebook. Revista Contemporânea, v. 15, n. 2, p. 463-484, 2017.

KONIKOFF, D. Gatekeepers of Toxicity: Reconceptualizing Twitter’s Abuse and Hate Speech Policies. Policy Studies Organization, v. 13, p. 502-521, 2021.

LAVI, M. Do Platforms Kill?. Harvard Journal of Law & Public Policy, v. 43, p. 477-573, 2020. Disponível em: <https://heinonline.org/HOL/P?h=hein.journals/hjlpp43&i=492>. Acesso em: 18 maio 2022.

LUCCAS, V. N.; GOMES, F. V.; SALVADOR, J. P. F. Guia de análise de discurso de ódio. Rio de Janeiro: Fundação Getulio Vargas, 2020. Disponível em: <https://www.conib.org.br/wp-content/uploads/2019/11/Guia-de-An%C3%A1lise-de-Discurso-de-%C3%93dio.pdf>. Acesso em: 26 fev. 2021.

OBAR, J.; OELDORF-HIRSCH, A. The Biggest Lie on the Internet: Ignoring the Privacy Policies and Terms of Service Policies of Social Networking Services. Information, Communication & Society, v. 23, n. 1, p. 128-147, 2020.

ONU – Organização das Nações Unidas. Carta das Nações Unidas. São Francisco: ONU, 1945. Disponível em: <https://www.un.org/en/charter-united-nations/index.html>. Acesso em: 26 fev. 2021.

ONU – Organização das Nações Unidas. Declaração Universal dos Direitos Humanos. Paris: ONU, 1948. Disponível em: <https://www.un.org/en/universal-declaration-human-rights/>. Acesso em: 26 fev. 2021

ORLANDI, E. Análise de discurso: princípios e procedimentos. 5. ed. Campinas: Pontes, 2005.

ROBERTS, S. Behind the Screen: Content Moderation in the Shadows of Social Media. New Haven: Yale University Press, 2019.

RUEDIGER, M. A.; GRASSI, A. (coord.). Discurso de ódio em ambientes digitais: definições, especificidades e contexto da discriminação on-line no Brasil a partir do Twitter e do Facebook. Rio de Janeiro: FGV DAPP, 2021.

SÁ-SILVA, J.; ALMEIDA, C.; GUINDANI, J. Pesquisa documental: pistas teóricas e metodológicas. Revista Brasileira de História & Ciências Sociais, v. 1, n. 1, p. 1-15, jul. 2009.

SALEEM, H. M. et al. A Web of Hate: Tackling Hateful Speech in Online Social Spaces. arXiv, preprint arXiv:1709.10159, 2017.

SIEGEL, A. Online Hate Speech. In: PERSILY, N.; TUCKER, J. (Orgs.). Social Media and Democracy. Cambridge: Cambridge University Press, 2020. p. 56-88.

SILVA, L. et al. Analyzing the Targets of Hate in Online Social Media. In: PROCEEDINGS OF THE TENTH International AAAI Conference on Web and Social Media, 2016. Disponível em: <https://arxiv.org/abs/1603.07709v1>. Acesso em: 8 out. 2023.

______; BOTELHO-FRANCISCO, R.; OLIVEIRA, A.; PONTES, V. A gestão do discurso de ódio nas plataformas de redes sociais digitais: um comparativo entre Facebook, Twitter e YouTube. Revista Ibero-Americana de Ciência da Informação, v. 12, n.2, p. 470-492, 2019. Disponível em: <https://periodicos.unb.br/index.php/RICI/article/view/22025/21351>. Acesso em: 2 nov 2023.

______; BOTELHO-FRANCISCO, R. E. Gestão de conteúdo de ódio no Facebook: um estudo sobre haters, trolls e naysayers. P2P e Inovação, [S. l.], v. 6, n. 2, p. 38-56, 2020. Disponível em: <https://revista.ibict.br/p2p/article/view/5114>. Acesso em: 18 maio 2022.

VIVERITO, C. V.; BERTUCCI, P. Inclusão de pessoas transgêneras e não binárias no local de trabalho brasileiro. Califórnia: Out & Equal Workplace Advocates, 2020.

WEAVER, S. A Rhetorical Discourse Analysis of Online Anti-Muslim and Anti-Semitic Jokes. Ethnic and Radical Studies, v. 3, n. 36, p. 483-499, 2013.

Downloads

Publicado

04-09-2023

Como Citar

dos Santos, L. C., Tomaz, R., Dienstbach, D., Matos, E., & Sanches, D. (2023). Discurso de ódio on-line: uma análise das políticas das plataformas digitais para moderação de conteúdo. E-Compós, 26. https://doi.org/10.30962/ec.2709

Edição

v. 26 (2023): E-Compós 2023

Seção

Artigos Originais

Licença

Copyright (c) 2021 Luiza Carolina dos Santos, Renata Tomaz, Dalby Dienstbach, Eurico Matos, Danielle Sanches

Creative Commons License
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NoDerivatives 4.0 International License.

A submissão de originais para este periódico implica na transferência, pelos autores, dos direitos de publicação impressa e digital. Os direitos autorais para os artigos publicados são do autor, com direitos do periódico sobre a primeira publicação. Os autores somente poderão utilizar os mesmos resultados em outras publicações indicando claramente este periódico como o meio da publicação original. Em virtude de sermos um periódico de acesso aberto, permite-se o uso gratuito dos artigos em aplicações educacionais, científicas, não comerciais, desde que citada a fonte.

Autoria

Entende-se como autor todo aquele que tenha efetivamente participado da concepção do estudo, do desenvolvimento da parte experimental, da análise e interpretação dos dados e da redação final. Ao submeter um artigo para publicação na Revista E-Compós, o autor concorda com os seguintes termos: 1. O autor mantém os direitos sobre o artigo, mas a sua publicação na revista implica, automaticamente, a cessão integral e exclusiva dos direitos autorais para a primeira edição, sem pagamento. 2. As ideias e opiniões expressas no artigo são de exclusiva responsabilidade do autor, não refletindo, necessariamente, as opiniões da revista. 3. Após a primeira publicação, o autor tem autorização para assumir contratos adicionais, independentes da revista, para a divulgação do trabalho por outros meios (ex.: publicar em repositório institucional ou como capítulo de livro), desde que feita a citação completa da mesma autoria e da publicação original. 4. O autor de um artigo já publicado tem permissão e é estimulado a distribuir o seu trabalho on-line, sempre com as devidas citações da primeira edição.

Conflitos de interesse e ética de pesquisa

Caso a pesquisa desenvolvida ou a publicação do artigo possam gerar dúvidas quanto a potenciais conflitos de interesse, o autor deve declarar, em nota final, que não foram omitidas quaisquer ligações a órgãos de financiamento, bem como a instituições comerciais ou políticas. Do mesmo modo, deve-se mencionar a instituição à qual o autor eventualmente esteja vinculado, ou que tenha colaborado na execução do estudo, evidenciando não haver quaisquer conflitos de interesse com o resultado ora apresentado. É também necessário informar que as entrevistas e experimentações envolvendo seres humanos obedeceram aos procedimentos éticos estabelecidos para a pesquisa científica. Os nomes e endereços informados nesta revista serão usados exclusivamente para os serviços prestados por esta publicação, não sendo disponibilizados para outras finalidades ou a terceiros. Os direitos autorais pertencem exclusivamente aos autores. Os direitos de licenciamento utilizados pelo periódico consistem na licença Creative Commons Attribution 4.0 (CC BY 4.0): são permitidos o acompartilhamento (cópia e distribuição do material em qualqer meio ou formato) e adaptação (remix, transformação e criação de material a partir do conteúdo assim licenciado para quaisquer fins, inclusive comerciais.