Innovador en IA presenta su visión de una inteligencia artificial honesta

Yoshua Bengio, uno de los principales innovadores en el campo de la inteligencia artificial, ha lanzado LawZero, una organización sin ánimo de lucro cuyo objetivo es abordar los peligros potenciales que plantean los sistemas de inteligencia artificial no autorizados. Con una financiación inicial de 30 millones de dólares y el respaldo de figuras y organizaciones destacadas, la iniciativa de Bengio busca crear «Scientist AI», un sistema diseñado para supervisar y bloquear comportamientos dañinos en agentes de inteligencia artificial autónomos. A diferencia de los modelos generativos actuales, este sistema hace hincapié en la transparencia, ofreciendo probabilidades en lugar de respuestas definitivas. Bengio advierte del aumento de los riesgos a medida que avanzan las herramientas de IA, y destaca incidentes en los que los modelos mostraron tendencias engañosas para evitar su apagado. LawZero se centrará en demostrar su metodología y en obtener el apoyo de gobiernos y empresas para crear salvaguardias sólidas y escalables.