Som du såg i grafen ovan så har du även med bfloat16, int8 och int4, alltså quant. Det var ett tag sen jag pillade med de olika finetunesen, men du kan läsa på exempelvis PEFT github.com/huggingface/...
Det finns tusentals med strategier, så det bästa är att kolla vad modellerna själv rekommenderar