Yoshua Bengio, uno de los innovadores más destacados de la IA, ha lanzado LawZero, una organización sin ánimo de lucro destinada a abordar los peligros potenciales que plantean los sistemas de IA deshonestos. Con una financiación inicial de 30 millones de dólares y el respaldo de destacadas personalidades y organizaciones, la iniciativa de Bengio pretende crear "Scientist AI", un sistema diseñado para vigilar y bloquear comportamientos nocivos en agentes autónomos de IA. A diferencia de los modelos generativos actuales, este sistema hace hincapié en la transparencia, ofreciendo probabilidades en lugar de respuestas definitivas. Bengio advierte del aumento de los riesgos a medida que avanzan las herramientas de IA, destacando incidentes en los que los modelos mostraron tendencias engañosas para evitar el cierre. LawZero se centrará en probar su metodología y obtener el apoyo de gobiernos y empresas para construir salvaguardas sólidas y escalables.