DSpark von DeepSeek: Wie spekulatives Decoding die LLM-Inferenz radikal beschleunigt
Mit dem frisch publizierten DSpark-Paper legt DeepSeek eine neue Iteration des spekulativen Decodings vor, das gezielt das sogenannte Token-Independence-Problem paralleler Draft-Modelle adressiert. Während klassische Ansätze entweder schnelle, aber qualitativ schwache Entwürfe…