Filtro de palavrões para um bate-papo com MMO

32

Estamos desenvolvendo um MMO usando o Smartfox Server. O público-alvo são crianças de 7 a 12 anos.

Há uma opção de bate-papo global neste MMO.
Tudo o que o usuário digita em uma caixa de texto é exibido ao lado do avatar do usuário depois que ele pressiona enter.

Gostaríamos de filtrar linguagem / palavrões abusivos deste bate-papo.
Poderíamos capturar o bate-papo e ler o texto. O problema é obter a lista de palavrões em si.

Nossas perguntas são

  1. Onde alguém obterá uma lista exaustiva de todas as palavrões?
  2. Que método é adotado em um cenário semelhante para filtrá-los?
naveen
fonte
17
Boa sorte com o problema de Scunthorpe .
Ciclope
7
@ yetanothercoder, meu ponto é, a filtragem é um problema difícil . Por exemplo, seu jogo terá algum evento no sábado? Os jogadores poderão digitar a palavra "sábado" (observe as quatro letras do meio) em suas caixas de bate-papo? (E também não sei por que o voto negativo - não é uma pergunta ruim , mas pode não haver uma resposta simples).
Ciclope
6
E fica ainda mais complicado quando mais idiomas entram em jogo. Por exemplo: Starcraft 2 remove "weniger" de bate-papo, que é apenas a palavra alemã para "menos" ...
bummzack
4
Outro problema que encontrei com frequência quando era jovem e jogando MMOs filtrados era que eles eram baseados no idioma inglês. Portanto, se eu falasse francês, algumas palavras francesas decentes seriam censuradas porque pareciam maldições em inglês e, de qualquer forma, eu ainda poderia amaldiçoar em francês tudo o que quisesse.
Xeon06
2
Pelo que vi, a coisa mais importante para criar um bom filtro é ter a opção de desativá-lo. Se você não tem opção, e os jogadores sabem que não têm escolha a não ser serem censurados, eles burlarão o censor. Se você facilitar o desligamento, é provável que eles deixem de contorná-lo, e aqueles que não desejam experimentar uma linguagem severa não terão que lidar com as pessoas que estão tentando contornar o filtro.
Michael Zehnich

Respostas:

46

Não.

Os filtros não funcionam. Pelo menos, apenas os filtros não funcionam. Listas de permissões, listas negras, não importa. Nenhum deles jamais impedirá que as crianças se assediem. A única maneira de fazer isso funcionar seria não filtrar o bate-papo, mas fornecer grandes blocos de construção para sentenças. Por exemplo, uma criança pode selecionar "Deseja ..." e as opções "ir para ..." e "trocar ..." serão exibidas. Selecionar "ir para ..." traria uma lista de lugares no jogo.

A Disney adotou esse método para o MMO "Toontown", após o teste de 14 anos da whitelist decidir "enfiar [sua] girafa de pescoço longo no seu fofo coelho branco". Simplificando, você não pode colocar na lista negra ou na lista de permissões palavras suficientes para evitar abusos.


Dito isso, se eu estivesse projetando o MMO de uma criança, na verdade implementaria um filtro rigoroso de lista negra, mas apenas como uma segunda linha de defesa. Sua primeira linha de defesa deve sempre ser moderadores e a capacidade de denunciar abusos. Eu ponderaria as palavras da lista negra, com cada usuário obtendo uma pontuação secreta de quão profana está tentando ser.

As chances são de que qualquer usuário que tente burlar seu filtro o acionará primeiro. As palavrões mais óbvias (em oposição às obscuras ou desatualizadas) ou tentativas mais repetidas de palavrões as colocam em uma lista de observação de moderadores ou em algum tipo de lista de proibição . Dessa forma, os moderadores podem se concentrar nos usuários que parecem estar tentando assediar outras pessoas, em vez de perder tempo lendo os comentários de crianças ainda inocentes.

dlras2
fonte
6
+1 apenas para o link Toontown - gosto especialmente do uso de canais secretos pelos jogadores para que as pessoas troquem seu código secreto, para que possam ignorar o filtro.
Cyclops
1
Foi uma leitura realmente interessante que pensei em desenterrar e compartilhar. Se você não ler o resto da minha resposta, pelo menos leia isso. = P
dlras2
2
Acredito que a Blizzard use essa técnica (contagem secreta de maldições publicadas no chat em geral) no World of Warcraft, pelo menos eu sei que eles costumavam.
Nate
2
@Dan Apenas experiência pessoal. Eu fui banido automaticamente. (Que foi uma experiência diferente do que ser banido por um GM). Um idiota estava atacando verbalmente alguns filhotes em minha guilda, e eu fui contra ele. Não fui banido do jogo, apenas de / General por algum período de tempo.
Nate
2
+1 na primeira palavra "Não". A evasão é o que acontece e é por isso que você simplesmente sente que desperdiçou recursos valiosos de programação para criar uma grande pilha fumegante de meecrob ! ;-D
Randolf Richardson
10

Em resposta a pessoas que dizem não fornecer o filtro, eu argumentaria que você precisa fornecer um filtro, por nenhum outro motivo, a fim de cobrir sua própria bunda em relação aos pais do público-alvo. Apenas verifique se ele pode ser desativado pelo usuário. Ao implementar um filtro de palavrões (embora imperfeito e totalmente opcional), você pode dizer que fez tudo o que se esperava para proteger as sensibilidades do seu público mais jovem.

Ao tornar possível a desativação, você desencoraja os usuários de tentar contorná-la usando pontuação ou substituição inteligente, pois as pessoas que preferem esse tipo de idioma desativam imediatamente o filtro em seus próprios computadores e há muito esquecem que um filtro existe. .

Com esse entendimento, não se preocupe muito com a implementação. Ele não precisa ser infalível (o que é bom, porque não pode ser infalível), mas deve ser relativamente completo e o menos intrusivo possível. Ou seja, você não deve garantir que não cometa o " erro clutético ".

A implementação pode ser extremamente simples - obtenha uma lista de palavras e substitua as palavras encontradas na lista por asteriscos ou algo semelhante. Melhor procurar apenas palavras inteiras também.

Quanto a uma lista de palavras, é fácil: http://www.google.com/search?q=profanity+word+list

Lembre-se de que não precisa ser abrangente, apenas deve representar um valente esforço de sua parte para proteger as crianças.

tylerl
fonte
1
O +1 também seria minha abordagem, depois de pesquisar em detalhes o que você realmente precisa fazer para uma classificação etária específica.
Oskar Duveborn
5

Eu tentaria implementar uma solução que permitisse uma lista negra e uma lista branca, onde você poderia adicionar 'cunt' à lista negra e 'scunthorpe' à lista branca, por exemplo.

Eu não acredito que você poderia sempre implementar uma solução à prova de falhas, então eu tentar obter a maioria das palavras "populares" no seu dicionário, e torná-lo tão fácil como possível adicionar novas palavras para as listas.

A razão para isso é que os idiomas, especialmente o inglês, evoluem constantemente e algo que é inofensivo há décadas pode se tornar ofensivo no contexto certo.

Tente obter o máximo de palavras possível e a partir daí, tenha tempos de reação rápidos quando as pessoas reclamarem e mostrarem que isso geralmente é uma preocupação e duvido que você tenha algum problema.

Seria uma boa idéia saber exatamente quais são as diretrizes para a censura nos EUA: MBNL! (eu não sou advogado!)

Jonathan Connell
fonte
3
A solução para a linguagem em evolução é filtrar por prefanidade .
Ciclope
@Cyclops Win! xD
Jonathan Connell
4

Como comentei, filtrar todas as palavras ofensivas é realmente difícil - mas você pode mudar isso e usar uma lista de permissões de palavras permitidas . Ao fazer uma pesquisa no Google, parece bastante comum o jogo infantil limitar o que eles podem digitar em uma lista. Por exemplo, o Lego Universe usa uma lista de desbloqueio.

Veja também: Lista de permissões para bate-papo no jogo . E observe que as listas de permissões podem ser contornadas . Não há solução garantida.

Considerando que é para crianças pequenas, a ortografia incorreta pode ser um problema - dependendo da interface do cliente, você pode considerar o preenchimento automático de palavras . Quando os jogadores começarem a digitar as letras, ofereça uma lista de palavras possíveis e deixe-as selecionar a correta.

Cyclops
fonte
Boa ideia, embora me pareça estranho em um jogo para crianças mais novas que pode ter uma ortografia errada. Também poderia dificultar o desenvolvimento pessoal fora do escopo do que está disponível na lista de permissões.
22611 Jonathan Connell
@ 3nixios, concordo que tenha problemas, mas todas as soluções possíveis. :) Uma correção para o problema de ortografia seria - espere, devo adicionar isso ao meu post. :)
Cyclops
+1: isso será muito mais seguro, mas como o @ 3nixios: diz que isso atrapalha o desenvolvimento ou será uma lista muito grande e, portanto, o tempo de execução aumenta, certo?
Naveen
@yetanothercoder, dependendo do tipo de cliente (estou assumindo html / javascript), você pode pré-baixar uma lista de palavras válidas e verificá-las no cliente. Isso não diminuiria a velocidade do servidor (teoricamente, poderia ser ignorado por um programador inteligente). Sim, isso é mais trabalho - novamente, não há soluções fáceis, desculpe. Tudo depende de quanto risco é aceitável.
Cyclops
1
@ Cyclops Para um jogo infantil, essa pode ser uma solução aceitável se você considerar apenas crianças brincando. Infelizmente, a verificação do lado do cliente significaria que um "homem mau" poderia facilmente dizer o que gostava aos outros jogadores.
22611 Jonathan Connell
4

Há uma resposta dos programadores descrevendo um sistema para a criação de um filtro de palavrões. Ele não explica como ele realmente o construiu em grandes detalhes, mas deve ser suficiente para ter uma idéia para implementação.

thegrinner
fonte
4

Este é um problema melhor resolvido por humanos e design social, em vez de código.

Sua melhor fonte para uma lista exaustiva é um humano vivo que está presente no jogo e monitora o fluxo de bate-papo. Coloque as pessoas no seu jogo e deixe que elas sejam seu melhor filtro.

Passe algum tempo analisando as idéias e filosofias de Lane Merrifield por trás do Club Penguin e sobre a prestação de serviços. Aqui estão dois artigos de sua apresentação no Austin GDC em 2008. Eu vi e lembro de ficar impressionado com seu estilo de resolver problemas humanos com humanos e não com código.

http://gamasutra.com/php-bin/news_index.php?story=20234

http://www.raphkoster.com/2008/09/15/agdc08-lane-merrifield-at-their-service/

Especificamente, porque seu jogo é voltado para crianças, é mais do que apenas filtros de palavrões que você precisará pensar. Você precisará se preocupar com pessoas que se apresentam como crianças que podem ou não ter motivos ruins. Você precisará garantir aos pais que seus filhos estão seguros. Você precisará garantir às crianças que elas também são seguras.

Outra vantagem para os humanos é que eles entenderão o contexto. Você não quer um garoto dizendo: "Minha mãe tem câncer de mama" e sendo chutado.

Tim Holt
fonte
com certeza temos moderadores que podem banir manipuladores em potencial. Estou mais preocupado com palavrões. será uma tarefa tediosa para moderadores quando a maioria das palavras usadas no contexto ruim for repetitiva.
Naveen
Eu diria que certamente você pode ter filtros de palavrões ativos para detectar o que você pode chamar de coisas comuns e sinalizá-lo aos moderadores. Não é tão difícil criar uma lista das "100 melhores" palavras, depois faça uma correspondência rápida de padrões em todas as strings. Remova todos os espaços e pontuação primeiro para que as pessoas não C_H_E_A_T ou manipulem o algoritmo. Em última análise, apesar de seus seres humanos fazerem o certo.
Tim Holt
3

Solução simples para o problema:

  1. Remova todos os espaços e pontuação da sua entrada.
  2. Lista negra de tudo no Urban Dictionary .
  3. Lista negra de todos os homofones, etc.
  4. Coloque na lista negra tudo o que poderia ser usado como eufamismo.
  5. Escreva seu software para entender o conteúdo, a intenção e o tom do que resta.
  6. Jogue fora o jogo e vá ao mercado com criação sensível e onisciente da etapa 5.
Colin Pickard
fonte
6
homo phones lolololol
Jonathan Connell
3
Este é o resultado final dos solucionadores de spam e filtros de spam captcha: inteligência artificial que luta pelo controle da Terra: um lado tentando vender Viagra e o outro tentando proteger a Humanidade. Muito transformadores. :-)
Zan Lynx
3

Alguns MMOs para crianças simplesmente substituem o bate-papo por uma lista predefinida de emotes e frases e simplesmente não permitem o bate-papo de forma livre. Talvez o jogo possa ser projetado para acomodar isso.

Oskar Duveborn
fonte