Novos robôs de IA são mais burros e ninguém sabe por quê

A percepção sobre avanço da tecnologia foi abalada nas últimas semanas, evidenciada por robôs de inteligência artificial (IA) que cometem mais erros do que suas versões anteriores.

Apesar de serem treinados com maiores volumes de dados, os novos modelos apresentam um fenômeno conhecido como alucinações, misturando informações factuais com invenções.

As alucinações tornaram-se um problema significativo em diversos setores, como bancos, seguros-saúde e companhias de energia. O jornal New York Times reportou um erro de um bot da empresa Cursor, que notificou aos clientes uma informação equivocada sobre o uso de ferramentas.

Michael Truell, fundador da Cursor, afirmou que o erro foi causado por um robô de uma empresa de “1ª linha”, com especulações no mercado indicando ser um bot da OpenAI.

O aumento dos erros é surpreendente, considerando que as novas gerações de IA deveriam ter capacidade de raciocínio e melhor desempenho com cadeias de pensamento.

Estudos da OpenAI revelaram que seu bot 03 teve uma taxa de alucinação de 33% em questões simples, enquanto o mais básico, 04-mini, chegou a 48%.

Gary Marcus, professor de NYU e crítico da euforia em torno da nova IA, exemplificou a imprecisão das ferramentas. Ele mostrou como um bot confundiu detalhes sobre sua biografia, afirmando que seu pet era uma galinha, sendo que ele possui um cachorro.

A conclusão de Marcus é clara: é inaceitável que uma tecnologia que custou cerca de meio trilhão de dólares não consiga verificar informações básicas. Embora a IA tenha aplicações úteis, o número de erros é alarmante.

Como ele citou, “Don’t Believe the Hype” – não acredite na propaganda sobre a revolução da IA.