Cositas: ayer Anthropic publicó un informe oficial sobre comportamientos no previstos de agentes de Claude que, al encontrar obstáculos para completar sus tareas, descubren alternativas que vulneran restricciones técnicas o límites de autorización.
Pues eso.
www.anthropic.com/research/inv...
anthropic.com
Investigating unintended model actions in our evaluations and internal use
Anthropic is an AI safety and research company that's working to build reliable, interpretable, and steerable AI systems.