Detectando e mitigando a discriminação em plataformas online


No mundo das plataformas online, nossa comunicação e compras parecem ser relativamente anônimas. A mídia online é menos tendenciosa e mais progressiva. Eles não olham para o seu peso, altura, cor da pele; eles não sabem sobre suas opiniões políticas e sociais.


Direito? Mas a pesquisa, infelizmente, sugere o contrário. O site de Estatista fornece dados de que as redes sociais, cujo objetivo principal é a troca e distribuição de conteúdo, são os principais portadores de mensagens de ódio. Em 2018, o número de materiais xenófobos e discriminatórios foi de 14.310, e em 2019 – 17.555.


A pesquisa agora está documentando a discriminação racial ou étnica em várias áreas na Internet, desde mercados de trabalho até pedidos de empréstimos e moradia. Duas características notáveis ​​o realizam. Primeiro, traços de raça ou etnia – na maioria das vezes fotografias, mas também traços mais sutis, como nomes – podem causar discriminação deliberada ou inconsciente. A segunda característica é a maior liberdade de ação entre vendedores e compradores com os quais eles fazem negócios.

Após vários estudos do Airbnb, Uber e outros, os pesquisadores descobriram que falhas de design – quando sua foto e nome podem não ser favoráveis ​​– afetam diretamente a disseminação da discriminação nas mídias sociais.

O que pode ser feito hoje para reduzir a discriminação nas plataformas online?

Forbes escreve que os criadores de plataformas digitais precisam entender como suas escolhas de design e algoritmos podem levar à discriminação de mercado. Os gerentes podem investigar ativamente e resolver o problema.


Mesmo dentro de um setor, as plataformas geralmente diferem em design, levando a diferentes níveis de discriminação. Por exemplo, a página de resultados de pesquisa de casas de aluguel por temporada da HomeAway exibe apenas fotos da propriedade alugada e não hospeda fotos dos anfitriões até a última página ou não são usadas. Em contraste, o Airbnb historicamente incluiu fotos de anfitriões em sua pesquisa na página inicial de resultados.

Dicas para reduzir a discriminação na plataforma online.

1) Aumentar a conscientização sobre a possível discriminação nas plataformas

As plataformas precisam entender como suas escolhas de design e algoritmos podem afetar o grau de discriminação no mercado. É uma tarefa simples para o Empresa de design de UI/UXcujos especialistas devem trabalhar com advogados e gerentes de dados.

Especialmente para grandes organizações, pode ser útil ter uma equipe dedicada a monitorar novos projetos apenas pelo risco de discriminação.

2) Meça a discriminação na plataforma

É uma boa ideia prevenir a discriminação em sua plataforma para medir o nível de discriminação e estudar a composição racial e de gênero do seu público.

Reportar ou auditar regularmente usuários em risco de discriminação e avaliar o sucesso de cada grupo na plataforma é um passo essencial para identificar e resolver quaisquer problemas.

3) Ocultar dados confidenciais

Ocultar informações de usuários potencialmente confidenciais, como raça e sexo, até que a transação seja acordada é uma medida prática. Várias plataformas, incluindo Amazon e eBay, já estão fazendo isso.

Conclusão

A maioria das empresas de serviços de design e desenvolvimento de sites reconhece a importância de eliminar a discriminação e o bullying nas mídias e plataformas sociais. Uma boa política da empresa nesta área confere uma excelente fidelização a todos os participantes e utilizadores dos serviços online.

Biografia do autor: Anastasiia Lastovetska é redatora de tecnologia da MLSDev, uma empresa de desenvolvimento de software que cria soluções de aplicativos móveis e da Web do zero. Ela pesquisa a área de tecnologia para criar ótimos conteúdos sobre desenvolvimento de aplicativos, design de UX/UI, consultoria de tecnologia e negócios.

See also  Mensagens de Fim de Ano Agradecimentos e Boas Vindas de Ano Novo

Leave a Comment