CEO da Microsoft alerta para riscos da inteligência artificial e defende sistemas que não dependam da confiança nos modelos

247 – O CEO da Microsoft, Satya Nadella, defendeu uma mudança fundamental na maneira como empresas e governos desenvolvem e utilizam sistemas avançados de inteligência artificial. Segundo o executivo, a segurança dessas tecnologias não deve depender da confiança depositada nos modelos, mas da existência de mecanismos independentes de controle, supervisão humana e verificação de suas ações. As declarações foram divulgadas neste domingo (11) pela agência indiana ANI, a partir de uma publicação de Nadella na rede social X.

“O sistema de superinteligência mais confiável não será aquele com o modelo em que mais confiamos. Será aquele que nos permitirá confiar menos no modelo”, afirmou Nadella, em tradução do inglês.

A declaração representa uma defesa de sistemas de inteligência artificial projetados para funcionar com segurança mesmo quando seus modelos apresentam comportamentos inesperados, cometem erros ou são comprometidos.

Inteligência artificial desafia mecanismos tradicionais de segurança