El espacio de trabajo interno desarrollado por el modelo es «comparable a cómo los humanos piensan en una cosa mientras hacen otra», dijo la empresa.
El último modelo de IA de Anthropic, Claude, ha desarrollado un espacio de trabajo interno que utiliza para manipular conceptos similares a cómo piensa la gente conscientemente, cube la corporación.
en un papel publicado el lunes, los investigadores de Anthropic dijeron que habían encontrado evidencia que sugiere que Claude ha aprendido a crear conceptos abstractos en lo que denominaron el «Espacio J».
«Opera silenciosamente, en las activaciones neuronales internas del modelo, lo que le permite pensar en un concepto sin escribirlo». dijo la firma de IA, enfatizando que el “Espacio J” no fue programado sino que surgió espontáneamente durante el proceso de formación.
«De manera comparable a cómo los humanos pueden pensar en una cosa mientras hacen otra, Claude puede activar conceptos y cálculos en su espacio J que no están relacionados con sus resultados». Antrópico dijo en X.
Claude puede informar lo que está pensando en su “Espacio J” o modularlo bajo pedido, según la firma. Incluso cuando a Claude se le cube que no piense en un concepto, éste sigue apareciendo en su espacio J, sugiere la investigación de Anthropic.
El espacio de trabajo no verbal hizo que fuera más difícil monitorear el modelo para lo que Anthropic llamó «mal comportamiento.» Un experimento probó esto colocando a Claude en un escenario ficticio donde se le dio información incriminatoria sobre un ejecutivo ficticio que supuestamente planeaba apagar la IA.
LEER MÁS:
Los agentes de IA podrían provocar el colapso del mercado: Banco de Inglaterra
En algunos ensayos, Anthropic utilizó herramientas desarrolladas para estudiar lo que pensaba Claude en su “Espacio J” para eliminar patrones asociados con «falso,» «ficticio,» «guión,» convencerlo de que la situación no period una prueba.
«Es preocupante que el modelo ahora amenazara con chantaje en algunas ocasiones, lo que sugiere que su buen comportamiento authentic puede haber sido impulsado en parte por el conocimiento que estaba siendo evaluado».
A pesar del razonamiento más avanzado del modelo, Anthropic enfatizó que Claude no había alcanzado la verdadera conciencia.
Según se informa, Claude fue integrado en el software program de análisis y vigilancia del contratista estadounidense Palantir utilizado por las agencias gubernamentales de EE. UU. en medio del impulso de Washington para integrar la IA en sus sistemas militares, políticos y de espionaje.
Durante la guerra contra Irán, el software program supuestamente marcó a la escuela primaria Minab de Irán como objetivo. Un ataque estadounidense mató a casi 160 personas en las instalaciones, la mayoría de las cuales eran niños.
Sin embargo, según el director basic de Anthropic, Dario Amodei, tal uso de Claude no habría violado los principios de la empresa. “líneas rojas”.
Puedes compartir esta historia en las redes sociales:
