本站 消息，2 月 18 日，DeepSeek 宣布推出 NSA，這是一種與硬件一致且本機可訓練的稀疏注意力機制，用于超快速的長上下文訓練和推理。

通過針對現代硬件的優化設計，NSA 加快了推理速度，同時降低了預訓練成本，而不會影響性能。在一般基準測試、長上下文任務和基于指令的推理上，它的表現與完全注意力模型相當甚至更好。(金十)

AD：

鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播更多信息之目的，如作者信息標記有誤，請第一時間聯系我們修改或刪除，多謝。