União Europeia aperta o cerco: Roblox e ChatGPT agora têm que parar de vacilar

Se você acha que as Big Techs fazem o que querem sem prestar contas, a União Europeia acabou de provar que nem sempre é assim. Nós aqui da Gamer Elite vimos que a Roblox Corporation e a OpenAI entraram na mira do Digital Services Act (DSA), e o papo agora é sério. Basicamente, essas plataformas foram marcadas como "Plataformas Online Muito Grandes" (VLOP), o que na prática significa que o tempo de brincar de "faz de conta" com os termos de uso acabou e agora elas vão ter que parar de vacilar com a segurança dos usuários.

Para quem não está por dentro do hype jurídico, ser classificado como VLOP acontece quando a plataforma ultrapassa a marca de 45 milhões de usuários mensais. Parabéns ao Roblox e ao ChatGPT, vocês são absurdamente populares, mas agora esse sucesso vem com um preço salgado: regras muito mais rígidas de transparência. Agora elas terão que jogar limpo tanto nos termos e condições quanto na forma como reportam crimes, saindo daquela zona cinzenta onde a empresa decide o que é ou não um problema.

O cerco fecha com a obrigação de estabelecer pontos de contato diretos com as autoridades e criar sistemas de recomendação que não sejam baseados apenas em perfis de usuário. Isso é um nerf pesado nos algoritmos que nos prendem por horas na tela, forçando a OpenAI e a Roblox Corporation a serem transparentes sobre como as decisões de moderação de conteúdo são tomadas. Se você quer acompanhar mais sobre essas mudanças no cenário tech, vale a pena conferir nossa seção de Notícias para não perder nada.

Além disso, as empresas terão que analisar e mitigar riscos sistêmicos que envolvem desde a propagação de conteúdo ilegal até a proteção de direitos fundamentais e a saúde mental dos menores. Não é apenas "prometer que vai melhorar", mas sim adaptar o design e o funcionamento dos serviços para evitar que a plataforma vire um terreno fértil para abusos. Isso inclui a criação de uma função interna de conformidade e a submissão a auditorias independentes pelo menos uma vez por ano, com a obrigação de aplicar as recomendações dos auditores.

No caso do Roblox, a situação é crítica e já era para ter sido resolvida há anos. A plataforma é constantemente criticada por ser um ambiente perigoso para crianças, com relatos assustadores de predadores se infiltrando nos jogos. Para piorar, o condado de Los Angeles já processou a empresa por criar um ecossistema inseguro, e essa pressão da UE pode ser a única coisa capaz de forçar a Roblox Corporation a realmente investir em segurança no PC e nos consoles.

Já o ChatGPT e outros LLMs se enfiaram em cada canto da nossa vida, do trabalho à escola, mas trouxeram problemas bizarros junto. Tivemos casos de usuários acusados de crimes inventados pela IA e até relatos trágicos de suicídios ligados ao uso da ferramenta. Até CEOs de alto escalão tentaram usar a IA para dar migué em contratos, como o chefe da Krafton, que tentou fugir de um pagamento de $250 milhões (algo em torno de R$ 1,37 bilhão) para a Unknown Worlds usando a ferramenta.

Outro ponto fundamental é a abertura de dados para pesquisadores credenciados, permitindo que especialistas entendam como esses riscos sistêmicos operam dentro da União Europeia. A ideia é que a OpenAI e a Roblox Corporation não possam mais esconder a sujeira debaixo do tapete, já que terão que compartilhar dados com a Comissão Europeia e autoridades nacionais. É a tentativa de transformar a "caixa preta" dos algoritmos em algo que a sociedade possa fiscalizar de verdade.

Mas agora a pergunta que não quer calar: isso realmente vai funcionar ou vai ser só mais um papel assinado que não muda nada na prática? Se olharmos para o X (antigo Twitter), que também está sob a lupa da UE, vemos que a desinformação e o discurso de ódio continuam a todo vapor, apesar das ameaças de multas milionárias. Existe um risco real de que essas empresas apenas façam o mínimo necessário para evitar a punição, sem realmente mudar a cultura tóxica de suas plataformas.