Eine neue Studie widerlegt eine alte Sicherheitsannahme. Nicht der prozentuale Anteil, sondern eine geringe, feste Anzahl an Gift-Daten kompromittiert LLMs.

Poisoning attacks can compromise the safety of large language models (LLMs) by injecting malicious documents into their training data. Existing work has studied pretraining poisoning assuming adversar...