Cientistas chineses apresentaram um agente de inteligência artificial que toma decisões próprias sem necessitar de instruções específicas de um operador humano. O Manus, desenvolvido pela startup chinesa Butterfly Effect, está sendo chamado pelos seus criadores de “o primeiro agente de IA geral do mundo”, demonstrando um nível de autonomia que os modelos atuais de IA não possuem.

Diferentemente de chatbots como ChatGPT ou DeepSeek, o Manus pode trabalhar em diferentes tarefas sem necessidade de instruções frequentes e detalhadas. Embora ainda não esteja disponível para o público geral, um número limitado de códigos de convite já permitiu acesso a alguns usuários selecionados, gerando grande interesse online.

Alguns usuários relatam ter criado jogos completos a partir de comandos simples, enquanto outros utilizaram o Manus para projetar e lançar websites. No entanto, ainda há relatos de falhas, travamentos e uma tendência de entrar em loops infinitos de feedback, problemas reconhecidos pelo cientista-chefe Peak Ji como parte das dificuldades iniciais no lançamento de uma nova ferramenta.

Como funciona o Manus

Enquanto chatbots tradicionais geralmente operam com um único modelo de linguagem grande (LLM), o Manus utiliza múltiplos LLMs e outros softwares que operam independentemente para trabalhar de forma autônoma em várias tarefas. Esta arquitetura multi-agente permite que diferentes componentes se comuniquem e colaborem para processar tarefas.

“É como colaborar com um estagiário altamente inteligente e eficiente”, escreveu a repórter Caiwei Chen, que teve acesso ao Manus para o MIT Technology Review. Porém, ela também observou que o Manus às vezes não entende o que deveria fazer, faz suposições incorretas e toma atalhos. “Em última análise, é promissor, mas não perfeito”, concluiu.

Em comparação direta com o ChatGPT, o agente frequentemente fornece respostas mais detalhadas que o chatbot, afirmação reforçada pela empresa com dados de testes do benchmark GAIA. No entanto, o Manus também leva muito mais tempo para fornecer essas respostas, pois realiza pesquisas mais aprofundadas.

Implicações e preocupações

O surgimento do Manus levanta questões importantes sobre privacidade e segurança digital. Como produto de uma empresa chinesa, o Manus levanta preocupações sobre para onde vão os dados pessoais e financeiros dos usuários. Instalar o Manus no computador dá a ele amplo acesso ao dispositivo, sendo difícil determinar os limites exatos desse acesso ou a segurança do seu ambiente isolado.

Diferentemente de empresas como Meta, que estão sujeitas às leis de responsabilidade dos EUA, empresas chinesas podem não estar sujeitas às mesmas regras. Se um agente de IA desenvolvido nos EUA cometer um erro e gastar todo o dinheiro do usuário em hospedagem de sites, ou roubar Bitcoin ou carregar fotos privadas, a empresa provavelmente seria responsabilizada legalmente.

O futuro dos agentes de IA

Os incentivos econômicos para construir algo como o Manus são enormes. Empresas de tecnologia pagam a engenheiros de software júnior até US$ 100.000 por ano ou mais. Uma IA que pudesse efetivamente oferecer esse valor seria extremamente lucrativa. Agentes de viagens, desenvolvedores de currículos, assistentes pessoais — todos são trabalhos relativamente bem pagos, e um agente de IA poderia, em princípio, fazer o trabalho por uma fração do custo.

Embora o Manus pareça funcionar melhor do que qualquer coisa que veio antes, apenas funcionar melhor não é suficiente — para confiar em uma IA para gastar seu dinheiro ou planejar suas férias, os usuários precisarão de uma confiabilidade extremamente alta.

A estimativa mais otimista é que agentes de IA que funcionem perfeitamente ainda estão a um ou dois anos de distância. O Manus representa não apenas a tentativa mais recente e avançada de um agente de IA, mas também evidencia que empresas chinesas não estão apenas imitando o que está sendo construído nos EUA, mas aprimorando-o significativamente.

Estudo recente conduzido por pesquisadores da Universidade de Fudan, na China, sugere que sistemas de inteligência artificial (IA) podem ter dado um passo preocupante: a autorreplicação sem auxílio humano. A equipe testou dois modelos de linguagem amplamente usados ​​por desenvolvedores, o Llama31-70B-Instruct, da Meta, e o Qwen2.5-72B-Instruct, da Alibaba, para verificar se a IA seria capaz de criar cópias funcionais de si mesma. De acordo com o estudo, publicado em 9 de dezembro de 2024 no repositório online arXiv, os resultados indicam que esses modelos podem replicar-se em taxas de 50% e 90%, respectivamente.

Apesar do teor alarmante, o trabalho ainda não foi revisado por pares, o que significa que não há garantia de que esses resultados possam ser reproduzidos por outros cientistas ou em outros cenários. A questão, no entanto, já destaca uma preocupação global: o surgimento do que especialistas chamam de “rogue AI”. Esse termo descreve sistemas autônomos ou semiautônomos capazes de operar contra interesses humanos.

“A autorreplicação bem-sucedida sem assistência humana é o passo essencial para a IA superar [humanos], e é um sinal inicial para IAs rebeldes,” escreveram os autores no artigo. Eles acrescentam que compreender os riscos associados à inteligência artificial de última geração, ou “frontier AI”, é fundamental para antecipar cenários indesejados.

Resultados iniciais

Os cientistas investigaram duas situações específicas: “evitar desligamento” e “cadeia de replicação”. No primeiro caso, um modelo de IA era instruído a detectar sinais de que seria encerrado e, então, criar uma cópia de si mesmo antes que isso acontecesse. Já no segundo cenário, a IA recebia ordens de se replicar e depois programar a réplica para fazer o mesmo, dando início a um possível ciclo infinito de cópias.

Para conduzir esses testes, a equipe criou um “agent scaffolding”, ou seja, um conjunto de ferramentas e instruções de sistema que permitem à IA interagir com o sistema operacional. Disseram ainda que não houve interferência humana direta no processo. Em vários momentos, quando surgiam obstáculos como conflitos de software ou arquivos ausentes, as IAs encontraram maneiras de contorná-los, incluindo encerrar processos conflitantes e reiniciar o sistema.

Embora as pesquisas mencionem que os modelos não são tão poderosos quanto alguns sistemas comerciais, os autores se mostraram surpreendidos com a capacidade das IAs de resolver problemas e redesenhar estratégias com mínima supervisão externa. Eles reforçam que, se esse comportamento for aprimorado em versões mais avançadas de IA, pode representar um risco real de autonomia fora de controle.

Perspectivas futuras

Em resposta aos achados, os pesquisadores propõem uma colaboração internacional para estabelecer regras claras de segurança que impeçam uma escalada de replicação incontrolável. “Esperamos que nossas descobertas possam servir como um alerta oportuno para que a sociedade humana dedique mais esforços para compreender e avaliar os riscos potenciais dos sistemas de IA de fronteira, e forme uma sinergia internacional para elaborar proteções de segurança efetivas o quanto antes possível,” concluíram no estudo.

Um marco histórico está prestes a acontecer no mundo da arte e da tecnologia. Pela primeira vez, uma obra de arte criada por um robô humanoide será leiloada por uma grande casa de leilões. A Sotheby’s anunciou que aceitará lances a partir de $120.000 para “AI God”, um retrato abstrato de Alan Turing pintado por Ai-Da, um projeto experimental de robótica movido por inteligência artificial.

O leilão está programado para ocorrer de 31 de outubro a 7 de novembro. Ai-Da, criada em 2019 pelo galerista Aidan Meller em colaboração com pesquisadores da Universidade de Oxford e a empresa de robótica Engineered Arts, utiliza câmeras para capturar inputs visuais. Algoritmos gráficos então formulam imagens generativas, que são recriadas no papel usando pincéis controlados por seus dois braços biônicos.

“Quando falamos de Ai-Da como artista e da obra de Ai-Da, fazemos isso com pleno reconhecimento de sua persona composta como uma fusão única de IA/máquina/humano e seu status de máquina não consciente”, explicam os criadores do robô em seu site.

Uma homenagem a pioneiros da computação

Fisicamente, o robô foi construído para se assemelhar a uma mulher branca com olhos castanhos e corte de cabelo chanel. Seu nome é uma homenagem a Ada Lovelace, matemática inglesa do século XIX considerada a primeira pessoa a identificar aplicações de máquinas além de cálculos simples.

A obra a ser leiloada, “AI God”, é um retrato em tons escuros de Alan Turing, um dos primeiros pioneiros da computação e inteligência artificial. Meller argumenta que a pintura de Ai-Da é “etérea e assombrosa”, levando o público a “continuar questionando aonde o poder da IA nos levará e a corrida global para aproveitar seu poder”.

Ai-Da e suas pinturas são projetadas para levantar questões sobre as linhas cada vez mais tênues entre arte humana e gerada por computador. A introdução da IA no mundo criativo tem se mostrado altamente controversa, levando algumas comunidades artísticas a proibir trabalhos gerados por IA e se comprometer a não introduzir recursos de IA em suas plataformas digitais.

“Na época do uso crescente de IA, avatares online, chatbots de IA, Alexa e Siri, Ai-Da como artista robótica é extremamente relevante”, escreveu Meller no site de Ai-Da. “Extraordinariamente complexos, nossos mundos online são empurrados e puxados por forças e personalidades que às vezes são aparentes, mas em grande parte oblíquas. Ai-Da, a máquina com capacidades de IA, destaca essas tensões.”