Autonomia de agentes de IA requer governança

Avanços em Inteligência Artificial trazem desafios ao ambiente de trabalho, especialmente em governança, segurança e privacidade.

Diogo Cortiz, professor da PUC-SP, destaca que o uso de LLMs (Large Language Models) complica a governança. É necessário estabelecer limites e regulamentar essa tecnologia, segundo Glauco Arbix, coordenador do Centro de IA da USP, que alerta sobre os riscos de desinformação em eleições.

A segurança é fundamental; as empresas precisam implementar "guardrails" para prevenir conteúdos prejudiciais. Marcelo Braga, presidente da IBM Brasil, enfatiza a importância de plataformas abertas e a necessidade de coordenar dados internos.

Rafael Rovani, do Banco do Brasil, menciona que uma infraestrutura de TI robusta é essencial. O banco lançou a Academia BB de IA, envolvendo mais de 65 mil funcionários no treinamento sobre IA.

Ivo Mósca, da Febraban, ressalta a necessidade de princípios éticos e governança na IA. Ele destaca que a adaptação da tecnologia às normas existentes é um grande desafio regulatório.

A previsão é que, até 2027, muitas interações nos negócios ocorrerão entre agentes de IA, segundo Sandy Carter, da Unstoppable Domains, o que exige confiança e nova estrutura para a força de trabalho.

Relatório da McKinsey indica que a IA pode agregar US$ 13 trilhões ao PIB até 2030, alterando a dinâmica de trabalho, como a interação entre humanos e robôs.

A Organização Internacional do Trabalho informa que 25% dos empregos estão expostos à IA generativa, sugerindo uma transformação e não uma simples substituição de postos.

Por fim, Zaika dos Santos, da instituição Afrofuturismo, alerta sobre viés algorítmico, enfatizando a importância de mitigar desigualdades raciais e de gênero. Documentos da ONU e Unesco abordam essas preocupações.