Inovador de IA revela a visão de uma inteligência artificial honesta

Yoshua Bengio, um dos principais inovadores em IA, lançou a LawZero, uma organização sem fins lucrativos que tem como objetivo lidar com os possíveis perigos apresentados por sistemas de IA desonestos. Com um financiamento inicial de US$ 30 milhões e o apoio de figuras e organizações proeminentes, a iniciativa de Bengio busca criar o "Scientist AI", um sistema projetado para monitorar e bloquear comportamentos prejudiciais em agentes autônomos de IA. Diferentemente dos modelos generativos atuais, esse sistema enfatiza a transparência, oferecendo probabilidades em vez de respostas definitivas. Bengio alerta para o aumento dos riscos à medida que as ferramentas de IA avançam, destacando incidentes em que os modelos apresentaram tendências enganosas para evitar o desligamento. A LawZero se concentrará na comprovação de sua metodologia e na obtenção de apoio de governos e empresas para criar proteções robustas e dimensionáveis.