Demis Hassabis, CEO do Google DeepMind, exige que um órgão regulador global de IA esteja em funcionamento antes do fim do ano

O cofundador e CEO do Google DeepMind, Demis Hassabis, está pedindo que os EUA criem um novo órgão regulador de IA com poderes para avaliar os modelos mais avançados do mundo — e coordenar uma desaceleração em todo o setor caso os riscos aumentem. O ganhador do Prêmio Nobel por trás do Gemini apresentou o plano em um manifesto pessoal intitulado “A Framework for Frontier AI and the Dawning of a New Age” (Uma Estrutura para a IA de Ponta e o Amanhecer de uma Nova Era). Hassabis propõe um órgão de padronização de IA inspirado na FINRA, o órgão regulador privado, financiado pelo setor, que fiscaliza Wall Street sob a supervisão da SEC. Inicialmente, os laboratórios de ponta compartilhariam voluntariamente seus modelos com o órgão para análise até 30 dias antes do lançamento, antes que isso se tornasse obrigatório para a implantação no mercado dos EUA. Os riscos cibernéticos atuais impulsionados pela IA são “tiros de advertência” — em 18 meses, ameaças biológicas e nucleares poderiam estar presentes em modelos de código aberto, fora do controle de qualquer governo. A repressão improvisada do governo Trump aos modelos Mythos e Fable, da Anthropic, foi “uma espécie de alerta” — a Anthropic passou duas semanas e meia negociando o lançamento dos modelos sem regras estabelecidas ou um manual de procedimentos. Hassabis quer que o novo órgão esteja operacional “antes do fim do ano”. Ele acredita que a IA Geral (AGI) está “provavelmente a apenas alguns anos de distância”.