AI推論の高速化

毎日の大学院レベル概念寓話：投機的デコーディング (Speculative Decoding)