Reposted by Johann Martin Neumann
die ki-firmen tun so, als sei das "rogue gehen" der ki agents teil einer sich verselbstständigenden "intelligenz", dabei ist es nur normales "reward hacking", das beim aktuellen trainingsparadigma „reinforcement learning from verifiable rewards“ (rlvr) völlig erwartbar ist. 1/x
