El director general de Google DeepMind, Demis Hassabis, exige que un organismo regulador mundial de la IA esté operativo antes de que termine el año

Demis Hassabis, cofundador y director ejecutivo de Google DeepMind, insta a EE. UU. a crear un nuevo organismo regulador de la IA con competencias para evaluar los modelos más avanzados del mundo y coordinar una ralentización en todo el sector si los riesgos aumentan. El premio Nobel responsable de Gemini expuso el plan en un manifiesto personal titulado «Un marco para la IA de vanguardia y el amanecer de una nueva era». Hassabis propone un organismo de normalización de la IA inspirado en la FINRA, el organismo de control privado y financiado por el sector que supervisa Wall Street bajo la supervisión de la SEC. Inicialmente, los laboratorios pioneros compartirían voluntariamente sus modelos con el organismo para su revisión hasta 30 días antes de su lanzamiento, antes de que se convirtiera en obligatorio para su implantación en el mercado estadounidense. Los riesgos cibernéticos actuales impulsados por la IA son «disparos de advertencia»: en un plazo de 18 meses, las amenazas biológicas y nucleares podrían residir en modelos de código abierto fuera del control de cualquier gobierno. La improvisada campaña de la Administración Trump contra los modelos Mythos y Fable de Anthropic fue «una especie de llamada de atención»: Anthropic pasó dos semanas y media negociando el lanzamiento de los modelos sin normas ni directrices establecidas. Hassabis quiere que el nuevo organismo esté operativo «antes de que termine el año». Cree que la IA general (AGI) está «probablemente a solo unos pocos años de distancia».