Johannes Heidecke, director de sistemas de seguridad de OpenAI, se marcha. Sé lo que estás pensando: Oye, ¿no acaba de irse el jefe de seguridad de OpenAI?
De hecho, parece que un jefe de seguridad en OpenAI es más o menos siempre partida. Trabajar en liderazgo en seguridad, vagamente definido, en OpenAI es un poco como trabajando como baterista en la banda Spinal Tap; mucha facturación. No soy el principal kremlinólogo de OpenAI del mundo, por lo que es posible que me estén perdiendo algunos detalles y matices, pero aquí está mi cronograma básico:
Según Wiredquienes anteriormente reportaban a los equipos de seguridad de Heidecke estarán dirigidos por Mia Glaese, quien es vicepresidenta y también jefa de alineación. Sin embargo, parece haber otro sustituto para Heidecke, según Wired. Saachi Jain, exlíder de los equipos de seguridad, será ahora “jefe interino de sistemas de seguridad” bajo Glaese.
Lo que sigue sucediendo exactamente dentro de las oficinas de OpenAI es una incógnita, pero el jefe de investigación de OpenAI, Mark Chen, al menos le dio una pista a Wired, diciendo: «Las demandas de seguridad continúan aumentando; estamos entrenando modelos a una cadencia mucho más rápida y, a su vez, los ciclos de lanzamiento se han reducido considerablemente», y agregó: «Como resultado, hoy tenemos mayores desafíos de coordinación en materia de seguridad que nunca».
La lectura generosa es que ésta es todavía una industria inmadura. Los puntos a lo largo de la cadena donde realmente se necesitan consideraciones de seguridad pueden seguir saltando a medida que OpenAI descubre la mejor manera de construir sus productos. Quizás el sensato procedimiento de prueba de seguridad de hoy sea el cuello de botella innecesario del mañana.
Y no hay evidencia directa actual de una lectura menos generosa de la partida de Heidecke; por ejemplo, una en la que tal consideración sea una racionalización submit hoc para una poda de los procedimientos de seguridad al servicio de un lanzamiento más rápido de productos.
