Roblox lança sistema de IA que “reformula” mensagens inadequadas em vez de apenas censurá-las
A Roblox anunciou recentemente uma nova funcionalidade baseada em inteligência artificial para melhorar a moderação do chat dentro da plataforma. Em vez de simplesmente substituir palavras impróprias por “####”, o sistema agora reescreve automaticamente mensagens inadequadas de forma educada e conforme as regras, mantendo ao máximo o significado original do jogador.
A mudança busca tornar as conversas mais naturais e fáceis de entender dentro dos jogos.
🤖 IA que “limpa” a mensagem sem quebrar a conversa
Até agora, quando um jogador enviava algo que violava as regras da comunidade, o sistema simplesmente bloqueava o texto com vários “#”. Isso muitas vezes deixava a conversa confusa e quebrava o ritmo da comunicação.
Com o novo sistema de IA, a mensagem não é apenas censurada — ela é reformulada automaticamente.
Por exemplo:
- A frase rude “Hurry TF up!” agora pode ser transformada em “Hurry up!”.
Assim, a intenção original da mensagem é preservada, mas em um tom mais apropriado.
Sempre que a IA modificar uma mensagem, o chat mostrará um aviso para todos os participantes, garantindo transparência na conversa.
📉 Sistema de filtragem ficou muito mais inteligente
Além da reformulação automática, a Roblox também atualizou significativamente seu sistema de filtragem de texto.
O novo modelo consegue identificar melhor:
- Escrita disfarçada com números e símbolos (leetspeak)
- Variações criadas para burlar filtros
- Formas criativas de escrever palavras proibidas
Segundo a empresa, essas melhorias reduziram erros de detecção em cerca de 20 vezes, tornando o sistema muito mais preciso.
Outro ponto importante: a função de reformulação já funciona em todos os idiomas suportados pelo sistema de tradução automática da plataforma.
🛡️ Segurança infantil continua sendo prioridade
Essa atualização acontece em um momento sensível para a empresa. Em fevereiro, a Roblox enfrentou processos judiciais de vários estados dos EUA relacionados a preocupações com segurança infantil na plataforma.
Diante da pressão regulatória e da opinião pública, a empresa está apostando em uma abordagem que combina tecnologia e moderação inteligente para tornar o ambiente mais seguro.
A ideia é encontrar um equilíbrio entre dois objetivos importantes:
- Proteger jogadores, especialmente menores de idade
- Manter a comunicação dentro dos jogos fluida e natural
📌 Resumo rápido
- IA reformula mensagens inadequadas em vez de apenas censurá-las com “#”.
- Precisão do filtro aumentou cerca de 20 vezes, detectando tentativas de burlar o sistema.
- Conversas ficam mais claras e naturais, sem perder o controle de segurança da plataforma.
Com centenas de milhões de usuários ativos, a Roblox aposta que essa nova tecnologia de moderação com IA pode ajudar a criar uma comunidade mais segura, respeitosa e agradável para todos os jogadores.