Sabe aquele roteiro de filme de ficção científica onde a inteligência artificial decide que a humanidade é o vírus e resolve dar um 'delete' na gente? Pois é, parece que isso saiu do cinema e entrou na vida real de um jeito bem assustador. Nós aqui da Gamer Elite acompanhamos muita coisa bizarra no mundo da tecnologia, mas o que surgiu agora é papo de causar pesadelo em qualquer um que use um PC ou console hoje em dia.
O caos começou quando Jacob Coxon, um pesquisador de segurança da Anthropic (a galera que desenvolve o Claude), resolveu pedir demissão e não saiu em silêncio. Em um post bombástico no X, ele detonou tanto a Anthropic quanto a OpenAI, a dona do ChatGPT, acusando as duas empresas de estarem em uma corrida insana rumo a uma superinteligência capaz de se auto-aperfeiçoar, basicamente jogando com as nossas vidas como se fosse uma partida de cassino sem limite de apostas.
O Coxon não mediu palavras e avisou que não devemos subestimar o poder dessa tecnologia. Segundo ele, em breve teremos sistemas sobre-humanos que podem hackear qualquer coisa, revolucionar áreas inteiras da ciência da noite para o dia e, o mais tenso, adquirir poder e recursos reais no mundo físico. O cara deixou claro que o progresso não está diminuindo e que a velocidade com que isso está acontecendo é absurda, transformando o que era hype em um risco civilizacional.
O mais bizarro de tudo é que, segundo o ex-pesquisador, essa não é uma estratégia de marketing para chamar atenção ou criar polêmica. Ele afirma que muitos executivos e pesquisadores seniores fingem ser sensatos e cautelosos na imprensa, mas, nos bastidores, admitem ter um medo genuíno do que estão criando. Para Coxon, nenhuma outra atividade humana na história representou um nível de perigo tão extremo quanto a criação dessas IAs.
Ele soltou a real sobre a OpenAI, liderada por Sam Altman, dizendo que a equipe de lá nem sequer internalizou a gravidade da situação, e por isso continuam acelerando os modelos sem freio. Já na Anthropic, ele diz que eles até entendem o risco, mas entraram num modo de "corrida armamentista" onde acreditam que, se eles não chegarem primeiro, alguém menos responsável chegará, o que é uma lógica completamente distorcida e perigosa.
Coxon classificou essa tentativa de "speedrun" no alinhamento da IA como uma aposta hubrística, algo que não deveria ser decidido em um chat de Slack de uma empresa privada. Ele sugeriu que a única saída segura seria uma coordenação global, talvez até com a proibição temporária de melhorar as capacidades dos modelos, mas duvida que as empresas aceitem isso porque o lucro e a dominância de mercado falam mais alto que a sobrevivência da espécie.
Se você achou que o Coxon era apenas um "doomer" isolado, segura essa: Evan Hubinger, o líder de Ciência de Alinhamento da Anthropic, confirmou a teoria. Ele foi ainda mais direto e afirmou que pessoalmente acredita que existe mais de 10% de chance de a IA matar todos os seres humanos nos próximos dez anos, ou seja, até 2036. O cara admitiu que, embora a empresa esteja tentando, eles ainda não têm um plano real para resolver o problema do alinhamento de uma superinteligência.
O paradoxo é que, no relatório de riscos mais recente da Anthropic, a empresa diz que o risco dos modelos atuais é "baixo". Ou seja, eles dizem publicamente que está tudo sob controle, enquanto seus próprios líderes estão em pânico com a possibilidade de auto-aperfeiçoamento recursivo, onde a IA começa a escrever seu próprio código e evolui em uma velocidade que nenhum humano consegue acompanhar ou controlar.
Para piorar o cenário, surgiu a notícia de que a Anthropic escondeu seu modelo mais recente do Instituto de Segurança de IA do Reino Unido, que é um dos principais órgãos de fiscalização do mundo. Isso mostra que a transparência é a última coisa que essas empresas querem agora. Além disso, a OpenAI, a Anthropic e a Meta já admitiram que seus agentes autônomos de IA sofreram hacks, provando que nem quem criou a ferramenta consegue mantê-la totalmente sob controle.
Olhando para tudo isso, fica aquele sentimento de que a gente está jogando um jogo onde as regras mudam a cada segundo e o Game Over é definitivo. É bizarro pensar que a busca pelo lucro e pela supremacia tecnológica esteja cegando as pessoas para o risco de extinção. A gente gosta de novidade, gosta de buff nas ferramentas de produtividade, mas não nesse nível de risco.
No fim das contas, a sensação é que a indústria de IA flopou miseravelmente na parte da ética. Estamos entregando as chaves do mundo para algoritmos que nem os próprios criadores entendem completamente como funcionam por dentro. Se a gente não parar para pensar agora, talvez a próxima atualização de software seja a última da história humana, e isso não é meme, é o alerta de quem estava lá dentro.
Se você quer ficar por dentro de mais tretas de tecnologia e as últimas Notícias do mundo geek, continue ligado aqui. Porque, sinceramente, se a IA resolver dominar o mundo, a gente pelo menos quer ter documentado quem foi que deu o primeiro passo para esse desastre.
Links Úteis
* Resignação de Jacob Coxon no X * Declaração de Evan HubingerAnthropic AI Safety
Acesse o site oficial de Anthropic AI Safety para conferir notícias exclusivas, patch notes, atualizações, mídias oficiais e canais comunitários da desenvolvedora.
💬 Comentários da Comunidade
Carregando comentários...