A Roblox introduziu um conjunto de melhorias de segurança direcionadas a adolescentes de 13 a 17 anos, apresentando um inovador sistema de verificação de idade baseado em IA que analisa selfies em vídeo para estimar a idade de um usuário.
A atualização de hoje descreve várias novas ferramentas projetadas para reforçar a segurança de adolescentes e crianças na plataforma Roblox. O cerne dessas atualizações são recursos personalizados para adolescentes de 13 a 17 anos, concedendo-lhes mais liberdade na plataforma do que os usuários mais jovens, mas com supervisão mais rigorosa do que os adultos. Os adolescentes agora podem designar "contatos confiáveis" para chats dentro da plataforma sem filtros, visando manter as conversas seguras e reduzir o risco de adolescentes migrarem para plataformas de terceiros não monitoradas, onde interações inadequadas poderiam ocorrer.
Contatos confiáveis destinam-se a usuários que se conhecem bem. Para um adolescente adicionar alguém com 18 anos ou mais como um contato confiável, ele deve usar um leitor de código QR ou um importador de contatos para verificação.
Anteriormente, a Roblox exigia um documento de identidade emitido pelo governo para confirmar que os usuários tinham 13 anos ou mais, ou 18 anos ou mais, para certos recursos de chat. Agora, um método alternativo permite que os usuários enviem uma selfie em vídeo, que a IA avalia comparando-a com um vasto e diversificado conjunto de dados para determinar se o usuário tem 13 anos ou mais. Tecnologias similares foram testadas pela Google no início deste ano e pela Meta no ano anterior.
Além dessas atualizações, a Roblox está introduzindo novas ferramentas, como controles de status online, um modo não perturbe e controles parentais aprimorados para os pais vinculados à conta do seu adolescente.
A Roblox tem enfrentado escrutínio contínuo sobre suas medidas de segurança infantil. Em 2018, surgiram incidentes, incluindo um relato de um personagem de uma criança de sete anos ser agredido sexualmente no jogo e uma criança de seis anos ser convidada para uma "sala de sexo". Em 2021, um relatório da People Make Games criticou o modelo de negócios da Roblox por alegadamente explorar o trabalho infantil. Em 2022, um processo em São Francisco acusou a Roblox de permitir a exploração financeira e sexual de uma criança de 10 anos. Em 2023, ações judiciais visaram a Roblox por alegadamente apoiar um ecossistema de apostas ilegais e protocolos inadequados de segurança infantil, levando a perdas financeiras e exposição a conteúdo adulto. Um relatório da Bloomberg no ano passado também expôs a presença de predadores infantis na plataforma. A Roblox reportou mais de 13.000 incidentes de exploração infantil ao Centro Nacional para Crianças Desaparecidas e Exploradas em 2023, resultando em 24 prisões.
"A segurança está no centro de tudo o que fazemos na Roblox", disse Matt Kaufman, diretor de segurança da Roblox, em uma declaração que acompanhou o anúncio do novo recurso. "Visamos estabelecer o padrão global de segurança e civilidade nos jogos online, promovendo experiências cativantes e capacitantes para jogadores de todas as idades, enquanto refinamos continuamente a forma como os usuários se conectam."
