En una publicación de X el martes por la mañana, el director ejecutivo de Google DeepMind, Demis Hassabis, pidió la creación de un nuevo organismo regulador para supervisar los lanzamientos de modelos fronterizos. Noble «Un marco para la IA de frontera y el amanecer de una nueva era» la publicación aboga por un “organismo de normalización” inspirado en el Autoridad Reguladora de la Industria Financiera (FINRA), que podría probar modelos de frontera y desarrollar mejores prácticas para su lanzamiento.
«Inicialmente, Frontier Labs compartiría voluntariamente modelos con el organismo de estándares para su revisión hasta 30 días antes de su lanzamiento», se lee en la publicación. «Una vez que se demuestre que el protocolo de evaluación es efectivo y sólido, la formalización podría seguir rápidamente, lo que significa que Frontier Fashions tendría que aprobarlo para ser implementado en el mercado de EE. UU. Los laboratorios también trabajarían con el organismo de estándares para abordar cualquier vulnerabilidad crítica posterior al lanzamiento».
El sistema propuesto se basaría en las revisiones advert hoc realizadas por el gobierno de EE. UU. sobre Mythos de Anthropic y Sol de OpenAI. Esas revisiones generaron importantes críticas por la falta de experiencia técnica y la opaca toma de decisiones sobre cuándo podría lanzarse un modelo. Según el regulador propuesto por Hassabis, esas decisiones podrían traspasarse a una nueva organización, respaldada por el gobierno de Estados Unidos pero financiada por la industria de la IA y operada de forma independiente.
La perspectiva de una regulación de la IA sigue siendo controvertida tanto para la industria tecnológica como para la Administración Trump. Más recientemente, Sriram Krishnan, asesor de inteligencia synthetic de la Casa Blanca y socio normal de a16z. descontada la posibilidad de un regulador de IA dentro del poder ejecutivo, diciendo que «no habrá una FDA para la IA».
Establecer el organismo de normalización como una organización autorreguladora como FINRA podría ser una forma de abordar esas preocupaciones. Hassabis prevé que el regulador contará con representantes de código abierto y expertos técnicos de la industria, junto con el respaldo financiero de los laboratorios de inteligencia synthetic que sería necesario para retenerlos. Incluso podrían subcontratar algunas evaluaciones al creciente grupo de grupos de seguridad de IA que podrían especializarse en riesgos específicos.
«La ventaja de este enfoque es que estaría centrado en lo técnico y, al mismo tiempo, apoyaría la innovación e incentivaría el comportamiento responsable», sostiene Hassabis. «Está diseñado para seguir el ritmo de la aceleración del campo y adaptarse a los mayores riesgos a medida que se identifican, y podría intensificarse si la gravedad de la situación lo exige».
Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.
