Cientistas chineses apresentaram um agente de inteligência artificial que toma decisões próprias sem necessitar de instruções específicas de um operador humano. O Manus, desenvolvido pela startup chinesa Butterfly Effect, está sendo chamado pelos seus criadores de “o primeiro agente de IA geral do mundo”, demonstrando um nível de autonomia que os modelos atuais de IA não possuem.

Diferentemente de chatbots como ChatGPT ou DeepSeek, o Manus pode trabalhar em diferentes tarefas sem necessidade de instruções frequentes e detalhadas. Embora ainda não esteja disponível para o público geral, um número limitado de códigos de convite já permitiu acesso a alguns usuários selecionados, gerando grande interesse online.

Alguns usuários relatam ter criado jogos completos a partir de comandos simples, enquanto outros utilizaram o Manus para projetar e lançar websites. No entanto, ainda há relatos de falhas, travamentos e uma tendência de entrar em loops infinitos de feedback, problemas reconhecidos pelo cientista-chefe Peak Ji como parte das dificuldades iniciais no lançamento de uma nova ferramenta.

Como funciona o Manus

Enquanto chatbots tradicionais geralmente operam com um único modelo de linguagem grande (LLM), o Manus utiliza múltiplos LLMs e outros softwares que operam independentemente para trabalhar de forma autônoma em várias tarefas. Esta arquitetura multi-agente permite que diferentes componentes se comuniquem e colaborem para processar tarefas.

“É como colaborar com um estagiário altamente inteligente e eficiente”, escreveu a repórter Caiwei Chen, que teve acesso ao Manus para o MIT Technology Review. Porém, ela também observou que o Manus às vezes não entende o que deveria fazer, faz suposições incorretas e toma atalhos. “Em última análise, é promissor, mas não perfeito”, concluiu.

Em comparação direta com o ChatGPT, o agente frequentemente fornece respostas mais detalhadas que o chatbot, afirmação reforçada pela empresa com dados de testes do benchmark GAIA. No entanto, o Manus também leva muito mais tempo para fornecer essas respostas, pois realiza pesquisas mais aprofundadas.

Implicações e preocupações

O surgimento do Manus levanta questões importantes sobre privacidade e segurança digital. Como produto de uma empresa chinesa, o Manus levanta preocupações sobre para onde vão os dados pessoais e financeiros dos usuários. Instalar o Manus no computador dá a ele amplo acesso ao dispositivo, sendo difícil determinar os limites exatos desse acesso ou a segurança do seu ambiente isolado.

Diferentemente de empresas como Meta, que estão sujeitas às leis de responsabilidade dos EUA, empresas chinesas podem não estar sujeitas às mesmas regras. Se um agente de IA desenvolvido nos EUA cometer um erro e gastar todo o dinheiro do usuário em hospedagem de sites, ou roubar Bitcoin ou carregar fotos privadas, a empresa provavelmente seria responsabilizada legalmente.

O futuro dos agentes de IA

Os incentivos econômicos para construir algo como o Manus são enormes. Empresas de tecnologia pagam a engenheiros de software júnior até US$ 100.000 por ano ou mais. Uma IA que pudesse efetivamente oferecer esse valor seria extremamente lucrativa. Agentes de viagens, desenvolvedores de currículos, assistentes pessoais — todos são trabalhos relativamente bem pagos, e um agente de IA poderia, em princípio, fazer o trabalho por uma fração do custo.

Embora o Manus pareça funcionar melhor do que qualquer coisa que veio antes, apenas funcionar melhor não é suficiente — para confiar em uma IA para gastar seu dinheiro ou planejar suas férias, os usuários precisarão de uma confiabilidade extremamente alta.

A estimativa mais otimista é que agentes de IA que funcionem perfeitamente ainda estão a um ou dois anos de distância. O Manus representa não apenas a tentativa mais recente e avançada de um agente de IA, mas também evidencia que empresas chinesas não estão apenas imitando o que está sendo construído nos EUA, mas aprimorando-o significativamente.

Estudo recente conduzido por pesquisadores da Universidade de Fudan, na China, sugere que sistemas de inteligência artificial (IA) podem ter dado um passo preocupante: a autorreplicação sem auxílio humano. A equipe testou dois modelos de linguagem amplamente usados ​​por desenvolvedores, o Llama31-70B-Instruct, da Meta, e o Qwen2.5-72B-Instruct, da Alibaba, para verificar se a IA seria capaz de criar cópias funcionais de si mesma. De acordo com o estudo, publicado em 9 de dezembro de 2024 no repositório online arXiv, os resultados indicam que esses modelos podem replicar-se em taxas de 50% e 90%, respectivamente.

Apesar do teor alarmante, o trabalho ainda não foi revisado por pares, o que significa que não há garantia de que esses resultados possam ser reproduzidos por outros cientistas ou em outros cenários. A questão, no entanto, já destaca uma preocupação global: o surgimento do que especialistas chamam de “rogue AI”. Esse termo descreve sistemas autônomos ou semiautônomos capazes de operar contra interesses humanos.

“A autorreplicação bem-sucedida sem assistência humana é o passo essencial para a IA superar [humanos], e é um sinal inicial para IAs rebeldes,” escreveram os autores no artigo. Eles acrescentam que compreender os riscos associados à inteligência artificial de última geração, ou “frontier AI”, é fundamental para antecipar cenários indesejados.

Resultados iniciais

Os cientistas investigaram duas situações específicas: “evitar desligamento” e “cadeia de replicação”. No primeiro caso, um modelo de IA era instruído a detectar sinais de que seria encerrado e, então, criar uma cópia de si mesmo antes que isso acontecesse. Já no segundo cenário, a IA recebia ordens de se replicar e depois programar a réplica para fazer o mesmo, dando início a um possível ciclo infinito de cópias.

Para conduzir esses testes, a equipe criou um “agent scaffolding”, ou seja, um conjunto de ferramentas e instruções de sistema que permitem à IA interagir com o sistema operacional. Disseram ainda que não houve interferência humana direta no processo. Em vários momentos, quando surgiam obstáculos como conflitos de software ou arquivos ausentes, as IAs encontraram maneiras de contorná-los, incluindo encerrar processos conflitantes e reiniciar o sistema.

Embora as pesquisas mencionem que os modelos não são tão poderosos quanto alguns sistemas comerciais, os autores se mostraram surpreendidos com a capacidade das IAs de resolver problemas e redesenhar estratégias com mínima supervisão externa. Eles reforçam que, se esse comportamento for aprimorado em versões mais avançadas de IA, pode representar um risco real de autonomia fora de controle.

Perspectivas futuras

Em resposta aos achados, os pesquisadores propõem uma colaboração internacional para estabelecer regras claras de segurança que impeçam uma escalada de replicação incontrolável. “Esperamos que nossas descobertas possam servir como um alerta oportuno para que a sociedade humana dedique mais esforços para compreender e avaliar os riscos potenciais dos sistemas de IA de fronteira, e forme uma sinergia internacional para elaborar proteções de segurança efetivas o quanto antes possível,” concluíram no estudo.

O Laboratório Nacional Lawrence Livermore (LNNL), nos EUA, lançou oficialmente o supercomputador mais rápido do mundo, chamado “El Capitan”. Construído a um custo de 600 milhões de dólares, esta máquina gigantesca está programada para lidar com projetos altamente sensíveis, incluindo a proteção do arsenal nuclear dos EUA sem o auxílio de testes subterrâneos. De acordo com representantes do LNNL, El Capitan também terá um papel fundamental na descoberta de materiais e pesquisas em física de alta densidade de energia.

A construção começou em maio de 2023, e El Capitan entrou em operação em novembro de 2024 antes de ser oficialmente inaugurado em 9 de janeiro. Logo após se tornar totalmente operacional, o supercomputador alcançou uma pontuação sem precedentes de 1,742 exaFLOPS no benchmark High-Performance Linpack (HPL) – o teste usado mundialmente para medir o desempenho de supercomputação. Este desempenho torna El Capitan apenas o terceiro supercomputador a ultrapassar velocidades exascala, não ficando atrás de ninguém na corrida global pela máquina mais poderosa.

O desempenho é medido em operações de ponto flutuante por segundo (FLOPS). Um exaFLOP representa 1 quintilhão (10^18) FLOPS. Em comparação, computadores pessoais e laptops comuns frequentemente alcançam apenas uma fração disso. El Capitan, no entanto, ostenta um impressionante desempenho máximo de 2,746 exaFLOPS, colocando-o firmemente no topo dos rankings mundiais de supercomputação.

O papel nuclear do El Capitan

Desde que os EUA restringiram testes nucleares explosivos em 1992, supercomputadores no LNNL tornaram-se essenciais para garantir que o arsenal nuclear americano permaneça confiável. Agora, espera-se que El Capitan revolucione esses esforços ao lidar com as enormes cargas computacionais necessárias para pesquisa nuclear, análise de dados e modelagem. Suas capacidades de alta velocidade também permitem que cientistas executem cenários complexos relacionados ao design de armas e outras aplicações de segurança nacional.

Encomendado pelo programa CORAL-2 do Departamento de Energia dos EUA, El Capitan substitui o supercomputador Sierra, que foi implantado pela primeira vez em 2018. Embora o Sierra continue em uso, ele foi classificado apenas em 14º lugar na última lista Top500 dos supercomputadores mais rápidos do mundo.

Especificações poderosas

O impressionante poder do El Capitan vem de 44.544 unidades de processamento acelerado AMD MI300A. Estas contêm tanto CPUs AMD Epyc Genoa quanto placas gráficas AMD CDNA3, além de 128 gigabytes de memória de alta largura de banda compartilhada entre cada chiplet de CPU e GPU. Esta configuração não só oferece desempenho recorde, mas também o faz de forma eficiente, usando menos energia que sistemas de memória mais antigos.

Logo atrás do El Capitan está o supercomputador Frontier no Laboratório Nacional Oak Ridge em Illinois, que atingiu um desempenho padrão de 1,353 exaFLOPS com pico de 2,056 exaFLOPS. No entanto, por enquanto, o novo rei da computação está firmemente estabelecido com El Capitan no LNNL, preparado para resolver alguns dos desafios científicos e de segurança mais prementes do mundo.