Discurso de ódio online
uma análise das políticas das plataformas digitais para moderação de conteúdo
DOI:
https://doi.org/10.30962/ec.2709Palavras-chave:
Discurso de ódio, Plataformas digitais, Moderação de conteúdo, Liberdade de expressão, Pesquisa documentalResumo
O objetivo deste artigo é compreender a moderação do discurso de ódio do Facebook, Instagram, TikTok, Twitch, Twitter e YouTube a partir da análise dos seus termos de uso e diretrizes de comunidade. Na discussão, são analisados quatro fatores: conceituação de discurso de ódio, categorias protegidas, critérios de avaliação de denúncias e sanções. Por fim, discutimos três pontos em comum às diretrizes de comunidade: os valores das plataformas; desafios contextuais e linguísticos; e interlocuções e práticas de moderação. A conclusão aponta que esses pontos suportam a governança do discurso de ódio das plataformas analisadas.
Downloads
Referências
BEN-DAVID, A.; FERNÁNDEZ, A.M. Hate speech and covert discrimination on social media: Monitoring the Facebook pages of extreme-right political parties in Spain. International Journal of Communication, v. 10, p. 27, 2016.
BENESCH, S. Defining and diminishing hate speech. In: Minority Rights Group International. State of the world’s minorities and indigenous peoples. Londres, 2014, p. 18-25.
BHATIA, V. Worlds of written discourse: a genre-based view. Londres: Continuum, 2004.
BOWMAN-GRIEVE, L. Exploring Stormfront: a virtual community of the radical right. Studies in Conflict and Terrorism, v. 11, n. 31, p. 989-1007, 2009.
BRASIL. Constituição da República Federativa do Brasil. Brasília, 1988. Disponível em: http://www.planalto.gov.br/ccivil_03/constituicao/constituicaocompilado.htm. Acesso em: 25 fev. 2021.
BRASIL. Lei nº 7.716, de 5 de janeiro de 1989. Define os crimes resultantes de preconceito de raça ou de cor. Disponível em: http://www.planalto.gov.br/ccivil_03/leis/l7716.htm. Acesso em: 26 fev. 2021.
BRASIL. Lei nº 12.965, de 23 de abril de 2014. Estabelece princípios, garantias, direitos e deveres para o uso da Internet no Brasil. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm. Acesso: 26 fev. 2021.
BROWN, A. What is so special about online (as compared to offline) hate speech? Ethnicities, v. 18, n. 3, p. 297-326, 2018.
BRUGGER, W. Proibição ou proteção do discurso de ódio? Algumas observações sobre o Direito Alemão e o Americano. Revista Direito Público, v. 15, p. 117-63, 2007.
BUYSE, A. Words of violence: Fear speech, or how violent conflict escalation relates to the freedom of expression. Human Rights Quarterly, v. 36, p. 779-797 2014.
CANÇADO, M. Manual de semântica: noções básicas e exercícios. 2. ed. São Paulo: Contexto, 2012.
COLLEONI, E.; ROZZA, A.; ARVIDSSON, A. Echo Chamber or Public Sphere? Predicting Political Orientation and Measuring Political Homophily in Twitter Using Big Data. Journal of Communication, n. 64, v. 2, p. 317-332, 2014.
CRAWFORD, K; GILLESPIE, T. What is a Flag For? Social media reporting tools and the vocabulary of complaint. New Media & Society, v. 18, n. 3, 2016, p. 410-428.
D’ANDRÉA, C. Pesquisando plataformas online: conceitos e métodos. Salvador: EDUFBA, 2020.
FARIS, R.; ASHAR,, A.; GASSER, U.; JOO, D. Understanding harmful speech online. Berkman Klein Center Research Publication, n. 2016-21, 2016. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract%5Fid=2882824. Acesso em: 1 mar 2021.
GAGLIARDONE, I. Extreme Speech | Defining Online Hate and Its “Public Lives”: What is the Place for “Extreme Speech”?. International Journal of Communication, v. 13, p. 3068-3087, 2019.
GAGLIARDONE, I. et al. Countering online hate speech. Unesco Publishing, 2015.
GILLESPIE, T. Custodians of the Internet: Platforms, Content Moderation, and the Hidden Decisions That Shape Social Media New Heaven: Yale University Press, 2018.
____________. Content moderation, AI, and the question of scale. Big Data & Society, July-December, p. 1-5, 2020.
GONTIJO, Ana. Governança e Moderação de Conteúdo: uma análise da plataforma Twitter entre 2018 e 2021. Dissertação (Mestrado em Comunicação Social) – Faculdade de Filosofia e Ciências Humanas, Universidade Federal de Minas Gerais, Belo Horizonte, 2021.
JIANG, J.A.; MIDDLER, S.; BRUBAKER, J.; FIESLER, C. Characterizing community guidelines on social media platforms. In: Conference Companion Publication of the 2020 on Computer Supported Cooperative Work and Social Computing. 2020. p. 287-291. Disponível em: https://dl.acm.org/doi/pdf/10.1145/3406865.3418312. Acesso em: 4 fev. 2022.
JURNO, A. C.; D’ANDRÉA, C. (In)visibilidade algorítmica no “feed de notícias” do Facebook. Revista Contemporânea, v. 15, n. 2, p. 463-484, 2017.
KOCH, I. V. O texto e a construção dos sentidos. 7. ed. São Paulo: Contexto, 2003.
KONIKOFF, D. Gatekeepers of toxicity: reconceptualizing Twitter’s abuse and hate speech policies. Policy Studies Organization, v. 13, p. 502-521, 2021.
LAVI, M. Do platforms kill. Harvard Journal of Law & Public Policy, v. 43, p. 477-573 2020. Disponível em: https://heinonline.org/HOL/P?h=hein.journals/hjlpp43&i=492. Acesso em: 18 maio 2022.
LAU, H. D.; SANCHES, G. J. A linguagem não-binária na língua portuguesa: possibilidades e reflexões making herstory. Revista X, v. 14, n. 4, p. 87-106, 2019.
LEETS, L; GILES, H. Words as weapons—when do they wound? Investigations of harmful speech. Human Communication Research, v. 24, n. 2, p. 260-301, 1997.
LUCCAS, V. N.; GOMES, F. V.; SALVADOR, J. P. F.. Guia de análise de discurso de ódio. Rio de Janeiro: Fundação Getulio Vargas, 2020. Disponível em: https://www.conib.org.br/wp-content/uploads/2019/11/Guia-de-An%C3%A1lise-de-Discurso-de-%C3%93dio.pdf. Acesso em: 26 fev. 2021.
MONDAL, M.; SILVA, L. A.; BENEVENUTO, F. A measurement study of hate speech in social media. In: Proceedings of the 28th ACM conference on hypertext and social media. 2017. p. 85-94.
MICHAL LAVI. Do Platforms Kill? Harvard Journal of Law & Public Policy, v. 43, n. 2, 2020. p. 477-573.
NURIK, C. “Men Are Scum”: Self-Regulation, Hate Speech, and Gender-Based Censorship on Facebook. International Journal of Communication, v. 13, p. 2878-2898, 2019.
OBAR, J.; OELDORF-HIRSCH, A. The biggest lie on the Internet: ignoring the privacy policies and terms of service policies of social networking services. Information, Communication & Society, v. 23, n. 1, p. 128-147, 2020. DOI: 10.1080/1369118X.2018.1486870
ONU (ORGANIZAÇÃO DAS NAÇÕES UNIDAS). Carta das Nações Unidas. São Francisco: ONU, 1945. Disponível em: https://www.un.org/en/charter-united-nations/index.html. Acesso em: 26 fev. 2021.
ONU (ORGANIZAÇÃO DAS NAÇÕES UNIDAS). Declaração Universal dos Direitos Humanos. Paris: ONU, 1948. Disponível em: https://www.un.org/en/universal-declaration-human-rights/. Acesso em: 26 fev. 2021
ORLANDI, E. Análise de discurso: princípios e procedimentos. 5. ed. Campinas: Pontes, 2005.
POHJONEN, M. A comparative approach to social media extreme speech: Online hate speech as media commentary. International Journal of Communication, v. 13, p. 3088-3103, 2019.
ROBERTS, S. Behind the Screen: Content Moderation in the Shadows of Social Media. Yale University Press: New Haven, 2019.
RUEDIGER, M. A.; GRASSI, A. (coord.). Discurso de ódio em ambientes digitais: definições, especificidades e contexto da discriminação on-line no Brasil a partir do Twitter e do Facebook. Policy paper. Rio de Janeiro: FGV DAPP, 2021.
SÁ-SILVA, J.; ALMEIDA, C.; GUINDANI, J. Pesquisa documental: pistas teóricas e metodológicas. Revista Brasileira de História & Ciências Sociais, v. 1, n. 1, p. 1-15, jul. 2009.
SALEEM, H. M. et al. A web of hate: Tackling hateful speech in online social spaces. arXiv preprint arXiv:1709.10159, 2017.
SELLARS, A.F. Defining Hate Speech (December 8, 2016). Berkman Klein Center Research Publication 2016-20. 8 Dec. 2016. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2882244. Acesso em: 28 jan. 2022.
SIEGEL, A. Online hate speech. In: PERSILY, N.; TUCKER, J. (org.). Social media and democracy. Cambridge: Cambridge University Press, 2020. p. 56-88.
SILVA, L. R. L.; BOTELHO-FRANCISCO, R. E. Gestão de conteúdo de ódio no Facebook: um estudo sobre haters, trolls e naysayers. P2P E INOVAÇÃO, [S. l.], v. 6, n. 2, p. 38-56, 2020. DOI: 10.21721/p2p.2020v6n2.p38-56. Disponível em: https://revista.ibict.br/p2p/article/view/5114. Acesso em: 18 maio 2022.
SILVA, L.; MONDAL, M.; CORREA, D.; BENEVENUTO, F.; WEBER, I. Analyzing the targets of hate in online social media. In: Proceedings of the Tenth International AAAI conference on Web and Social Media, 2016. Disponível em: https://arxiv.org/abs/1603.07709v1.
VIVERITO, C. V.; BERTUCCI, P. Inclusão de pessoas transgêneras e não binárias no local de trabalho brasileiro. Califórnia: Out & Equal Workplace Advocates, 2020.
WEAVER, S. A rhetorical discourse analysis of online anti-Muslim and anti-Semitic jokes. Ethnic and Radical Studies, v. 3, n. 36, p. 483-499, 2013.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2021 Luiza Carolina dos Santos, Renata Tomaz, Dalby Dienstbach, Eurico Matos, Danielle Sanches
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NoDerivatives 4.0 International License.
A submissão de originais para este periódico implica na transferência, pelos autores, dos direitos de publicação impressa e digital. Os direitos autorais para os artigos publicados são do autor, com direitos do periódico sobre a primeira publicação. Os autores somente poderão utilizar os mesmos resultados em outras publicações indicando claramente este periódico como o meio da publicação original. Em virtude de sermos um periódico de acesso aberto, permite-se o uso gratuito dos artigos em aplicações educacionais, científicas, não comerciais, desde que citada a fonte.
Autoria
Entende-se como autor todo aquele que tenha efetivamente participado da concepção do estudo, do desenvolvimento da parte experimental, da análise e interpretação dos dados e da redação final. Ao submeter um artigo para publicação na Revista E-Compós, o autor concorda com os seguintes termos: 1. O autor mantém os direitos sobre o artigo, mas a sua publicação na revista implica, automaticamente, a cessão integral e exclusiva dos direitos autorais para a primeira edição, sem pagamento. 2. As ideias e opiniões expressas no artigo são de exclusiva responsabilidade do autor, não refletindo, necessariamente, as opiniões da revista. 3. Após a primeira publicação, o autor tem autorização para assumir contratos adicionais, independentes da revista, para a divulgação do trabalho por outros meios (ex.: publicar em repositório institucional ou como capítulo de livro), desde que feita a citação completa da mesma autoria e da publicação original. 4. O autor de um artigo já publicado tem permissão e é estimulado a distribuir o seu trabalho on-line, sempre com as devidas citações da primeira edição.
Conflitos de interesse e ética de pesquisa
Caso a pesquisa desenvolvida ou a publicação do artigo possam gerar dúvidas quanto a potenciais conflitos de interesse, o autor deve declarar, em nota final, que não foram omitidas quaisquer ligações a órgãos de financiamento, bem como a instituições comerciais ou políticas. Do mesmo modo, deve-se mencionar a instituição à qual o autor eventualmente esteja vinculado, ou que tenha colaborado na execução do estudo, evidenciando não haver quaisquer conflitos de interesse com o resultado ora apresentado. É também necessário informar que as entrevistas e experimentações envolvendo seres humanos obedeceram aos procedimentos éticos estabelecidos para a pesquisa científica. Os nomes e endereços informados nesta revista serão usados exclusivamente para os serviços prestados por esta publicação, não sendo disponibilizados para outras finalidades ou a terceiros. Os direitos autorais pertencem exclusivamente aos autores. Os direitos de licenciamento utilizados pelo periódico consistem na licença Creative Commons Attribution 4.0 (CC BY 4.0): são permitidos o acompartilhamento (cópia e distribuição do material em qualqer meio ou formato) e adaptação (remix, transformação e criação de material a partir do conteúdo assim licenciado para quaisquer fins, inclusive comerciais.
