Discurso de ódio online

uma análise das políticas das plataformas digitais para moderação de conteúdo

Autores

DOI:

https://doi.org/10.30962/ec.2709

Palavras-chave:

Discurso de ódio, Plataformas digitais, Moderação de conteúdo, Liberdade de expressão, Pesquisa documental

Resumo

O objetivo deste artigo é compreender a moderação do discurso de ódio do Facebook, Instagram, TikTok, Twitch, Twitter e YouTube a partir da análise dos seus termos de uso e diretrizes de comunidade. Na discussão, são analisados quatro fatores: conceituação de discurso de ódio, categorias protegidas, critérios de avaliação de denúncias e sanções. Por fim, discutimos três pontos em comum às diretrizes de comunidade: os valores das plataformas; desafios contextuais e linguísticos; e interlocuções e práticas de moderação. A conclusão aponta que esses pontos suportam a governança do discurso de ódio das plataformas analisadas.

Downloads

Não há dados estatísticos.

Biografia do Autor

Luiza Carolina dos Santos, Universidade Estadual de Ponta Grossa, Ponta Grossa, Paraná, Brasil

Doutora em Comunicação e Informação pela Universidade Federal do Rio Grande do Sul (UFRGS) e professora substituta na Universidade Estadual de Ponta Grossa (UEPG). Coordena o Grupo de Pesquisa em Tecnologias e Culturas Digitais da Intercom.

Renata Tomaz, Fundação Getulio Vargas, Rio de Janeiro, Rio de Janeiro, Brasil

Doutora e mestre em Comunicação e Cultura pela Universidade Federal do Rio de Janeiro (UFRJ). Professora adjunta na Escola de Comunicação, Mídia e Informação da Fundação Getulio Vargas (FGV ECMI). Professora colaboradora do Programa de Pós-Graduação em Mídia e Cotidiano (PPGMC-UFF).

Dalby Dienstbach, Fundação Getulio Vargas, Rio de Janeiro, Rio de Janeiro, Brasil

Doutor em Estudos da Linguagem pela Universidade Federal Fluminense (UFF) e professor na Escola de Comunicação, Mídia e Informação da Fundação Getulio Vargas (FGV ECMI).

Eurico Matos, Fundação Getulio Vargas, Rio de Janeiro, Rio de Janeiro, Brasil

Doutor e mestre em Comunicação e Cultura Contemporâneas pela Universidade Federal da Bahia (UFBA). Professor na Escola de Comunicação, Mídia e Informação da Fundação Getulio Vargas (FGV ECMI) e do Instituto Nacional de Ciência e Tecnologia em Democracia Digital (INCT.DD).

Danielle Sanches, Fundação Getulio Vargas, Rio de Janeiro, Rio de Janeiro, Brasil

Doutora em História das Ciências pela École des Hautes Études en Sciences Sociales (EHESS/Paris) em Cotutela com a Casa de Oswaldo Cruz (COC-Fiocruz) e professora na Escola de Comunicação, Mídia e Informação da Fundação Getulio Vargas (FGV ECMI).

Referências

BEN-DAVID, A.; FERNÁNDEZ, A.M. Hate speech and covert discrimination on social media: Monitoring the Facebook pages of extreme-right political parties in Spain. International Journal of Communication, v. 10, p. 27, 2016.

BENESCH, S. Defining and diminishing hate speech. In: Minority Rights Group International. State of the world’s minorities and indigenous peoples. Londres, 2014, p. 18-25.

BHATIA, V. Worlds of written discourse: a genre-based view. Londres: Continuum, 2004.

BOWMAN-GRIEVE, L. Exploring Stormfront: a virtual community of the radical right. Studies in Conflict and Terrorism, v. 11, n. 31, p. 989-1007, 2009.

BRASIL. Constituição da República Federativa do Brasil. Brasília, 1988. Disponível em: http://www.planalto.gov.br/ccivil_03/constituicao/constituicaocompilado.htm. Acesso em: 25 fev. 2021.

BRASIL. Lei nº 7.716, de 5 de janeiro de 1989. Define os crimes resultantes de preconceito de raça ou de cor. Disponível em: http://www.planalto.gov.br/ccivil_03/leis/l7716.htm. Acesso em: 26 fev. 2021.

BRASIL. Lei nº 12.965, de 23 de abril de 2014. Estabelece princípios, garantias, direitos e deveres para o uso da Internet no Brasil. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm. Acesso: 26 fev. 2021.

BROWN, A. What is so special about online (as compared to offline) hate speech? Ethnicities, v. 18, n. 3, p. 297-326, 2018.

BRUGGER, W. Proibição ou proteção do discurso de ódio? Algumas observações sobre o Direito Alemão e o Americano. Revista Direito Público, v. 15, p. 117-63, 2007.

BUYSE, A. Words of violence: Fear speech, or how violent conflict escalation relates to the freedom of expression. Human Rights Quarterly, v. 36, p. 779-797 2014.

CANÇADO, M. Manual de semântica: noções básicas e exercícios. 2. ed. São Paulo: Contexto, 2012.

COLLEONI, E.; ROZZA, A.; ARVIDSSON, A. Echo Chamber or Public Sphere? Predicting Political Orientation and Measuring Political Homophily in Twitter Using Big Data. Journal of Communication, n. 64, v. 2, p. 317-332, 2014.

CRAWFORD, K; GILLESPIE, T. What is a Flag For? Social media reporting tools and the vocabulary of complaint. New Media & Society, v. 18, n. 3, 2016, p. 410-428.

D’ANDRÉA, C. Pesquisando plataformas online: conceitos e métodos. Salvador: EDUFBA, 2020.

FARIS, R.; ASHAR,, A.; GASSER, U.; JOO, D. Understanding harmful speech online. Berkman Klein Center Research Publication, n. 2016-21, 2016. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract%5Fid=2882824. Acesso em: 1 mar 2021.

GAGLIARDONE, I. Extreme Speech | Defining Online Hate and Its “Public Lives”: What is the Place for “Extreme Speech”?. International Journal of Communication, v. 13, p. 3068-3087, 2019.

GAGLIARDONE, I. et al. Countering online hate speech. Unesco Publishing, 2015.

GILLESPIE, T. Custodians of the Internet: Platforms, Content Moderation, and the Hidden Decisions That Shape Social Media New Heaven: Yale University Press, 2018.

____________. Content moderation, AI, and the question of scale. Big Data & Society, July-December, p. 1-5, 2020.

GONTIJO, Ana. Governança e Moderação de Conteúdo: uma análise da plataforma Twitter entre 2018 e 2021. Dissertação (Mestrado em Comunicação Social) – Faculdade de Filosofia e Ciências Humanas, Universidade Federal de Minas Gerais, Belo Horizonte, 2021.

JIANG, J.A.; MIDDLER, S.; BRUBAKER, J.; FIESLER, C. Characterizing community guidelines on social media platforms. In: Conference Companion Publication of the 2020 on Computer Supported Cooperative Work and Social Computing. 2020. p. 287-291. Disponível em: https://dl.acm.org/doi/pdf/10.1145/3406865.3418312. Acesso em: 4 fev. 2022.

JURNO, A. C.; D’ANDRÉA, C. (In)visibilidade algorítmica no “feed de notícias” do Facebook. Revista Contemporânea, v. 15, n. 2, p. 463-484, 2017.

KOCH, I. V. O texto e a construção dos sentidos. 7. ed. São Paulo: Contexto, 2003.

KONIKOFF, D. Gatekeepers of toxicity: reconceptualizing Twitter’s abuse and hate speech policies. Policy Studies Organization, v. 13, p. 502-521, 2021.

LAVI, M. Do platforms kill. Harvard Journal of Law & Public Policy, v. 43, p. 477-573 2020. Disponível em: https://heinonline.org/HOL/P?h=hein.journals/hjlpp43&i=492. Acesso em: 18 maio 2022.

LAU, H. D.; SANCHES, G. J. A linguagem não-binária na língua portuguesa: possibilidades e reflexões making herstory. Revista X, v. 14, n. 4, p. 87-106, 2019.

LEETS, L; GILES, H. Words as weapons—when do they wound? Investigations of harmful speech. Human Communication Research, v. 24, n. 2, p. 260-301, 1997.

LUCCAS, V. N.; GOMES, F. V.; SALVADOR, J. P. F.. Guia de análise de discurso de ódio. Rio de Janeiro: Fundação Getulio Vargas, 2020. Disponível em: https://www.conib.org.br/wp-content/uploads/2019/11/Guia-de-An%C3%A1lise-de-Discurso-de-%C3%93dio.pdf. Acesso em: 26 fev. 2021.

MONDAL, M.; SILVA, L. A.; BENEVENUTO, F. A measurement study of hate speech in social media. In: Proceedings of the 28th ACM conference on hypertext and social media. 2017. p. 85-94.

MICHAL LAVI. Do Platforms Kill? Harvard Journal of Law & Public Policy, v. 43, n. 2, 2020. p. 477-573.

NURIK, C. “Men Are Scum”: Self-Regulation, Hate Speech, and Gender-Based Censorship on Facebook. International Journal of Communication, v. 13, p. 2878-2898, 2019.

OBAR, J.; OELDORF-HIRSCH, A. The biggest lie on the Internet: ignoring the privacy policies and terms of service policies of social networking services. Information, Communication & Society, v. 23, n. 1, p. 128-147, 2020. DOI: 10.1080/1369118X.2018.1486870

ONU (ORGANIZAÇÃO DAS NAÇÕES UNIDAS). Carta das Nações Unidas. São Francisco: ONU, 1945. Disponível em: https://www.un.org/en/charter-united-nations/index.html. Acesso em: 26 fev. 2021.

ONU (ORGANIZAÇÃO DAS NAÇÕES UNIDAS). Declaração Universal dos Direitos Humanos. Paris: ONU, 1948. Disponível em: https://www.un.org/en/universal-declaration-human-rights/. Acesso em: 26 fev. 2021

ORLANDI, E. Análise de discurso: princípios e procedimentos. 5. ed. Campinas: Pontes, 2005.

POHJONEN, M. A comparative approach to social media extreme speech: Online hate speech as media commentary. International Journal of Communication, v. 13, p. 3088-3103, 2019.

ROBERTS, S. Behind the Screen: Content Moderation in the Shadows of Social Media. Yale University Press: New Haven, 2019.

RUEDIGER, M. A.; GRASSI, A. (coord.). Discurso de ódio em ambientes digitais: definições, especificidades e contexto da discriminação on-line no Brasil a partir do Twitter e do Facebook. Policy paper. Rio de Janeiro: FGV DAPP, 2021.

SÁ-SILVA, J.; ALMEIDA, C.; GUINDANI, J. Pesquisa documental: pistas teóricas e metodológicas. Revista Brasileira de História & Ciências Sociais, v. 1, n. 1, p. 1-15, jul. 2009.

SALEEM, H. M. et al. A web of hate: Tackling hateful speech in online social spaces. arXiv preprint arXiv:1709.10159, 2017.

SELLARS, A.F. Defining Hate Speech (December 8, 2016). Berkman Klein Center Research Publication 2016-20. 8 Dec. 2016. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2882244. Acesso em: 28 jan. 2022.

SIEGEL, A. Online hate speech. In: PERSILY, N.; TUCKER, J. (org.). Social media and democracy. Cambridge: Cambridge University Press, 2020. p. 56-88.

SILVA, L. R. L.; BOTELHO-FRANCISCO, R. E. Gestão de conteúdo de ódio no Facebook: um estudo sobre haters, trolls e naysayers. P2P E INOVAÇÃO, [S. l.], v. 6, n. 2, p. 38-56, 2020. DOI: 10.21721/p2p.2020v6n2.p38-56. Disponível em: https://revista.ibict.br/p2p/article/view/5114. Acesso em: 18 maio 2022.

SILVA, L.; MONDAL, M.; CORREA, D.; BENEVENUTO, F.; WEBER, I. Analyzing the targets of hate in online social media. In: Proceedings of the Tenth International AAAI conference on Web and Social Media, 2016. Disponível em: https://arxiv.org/abs/1603.07709v1.

VIVERITO, C. V.; BERTUCCI, P. Inclusão de pessoas transgêneras e não binárias no local de trabalho brasileiro. Califórnia: Out & Equal Workplace Advocates, 2020.

WEAVER, S. A rhetorical discourse analysis of online anti-Muslim and anti-Semitic jokes. Ethnic and Radical Studies, v. 3, n. 36, p. 483-499, 2013.

Downloads

Publicado

04-09-2023

Como Citar

dos Santos, L. C., Tomaz, R., Dienstbach, D., Matos, E., & Sanches, D. (2023). Discurso de ódio online: uma análise das políticas das plataformas digitais para moderação de conteúdo. E-Compós. https://doi.org/10.30962/ec.2709

Edição

Seção

Ahead of Print