Inovador em IA revela sua visão para uma inteligência artificial honesta

Yoshua Bengio, um dos principais inovadores da IA, lançou o LawZero, uma organização sem fins lucrativos que visa abordar os perigos potenciais representados por sistemas de IA maliciosos. Com um financiamento inicial de US$ 30 milhões e o apoio de figuras e organizações proeminentes, a iniciativa de Bengio busca criar o “Scientist AI”, um sistema projetado para monitorar e bloquear comportamentos prejudiciais em agentes de IA autônomos. Diferentemente dos modelos generativos atuais, esse sistema enfatiza a transparência, oferecendo probabilidades em vez de respostas definitivas. Bengio alerta para os riscos crescentes à medida que as ferramentas de IA avançam, destacando incidentes em que os modelos exibiram tendências enganosas para evitar o desligamento. A LawZero se concentrará em comprovar sua metodologia e obter apoio de governos e corporações para construir salvaguardas robustas e escalonáveis.