【$3,000万投じて「1モデル専用チップ」を作る会社】
Taalas——社員24人、調達額$2億。
やっていることは常識の逆。汎用GPUではなく、Llama 3.1 8B専用のシリコンを設計している。
結果:処理速度10倍、コスト1/20、消費電力1/10。
ユーザーあたり17,000トークン/秒。
3ビット量子化でDRAMすら不要にし、演算と記憶を1チップに統合。
ENIACが部屋を埋めた時代から、PCが個人に届くまでの進化を、AIで再現しようとしている。
創業者Ljubisa Bajicの論考。
taalas.com/the-path-to...