DeepSeek在下一代AI模型中首次引入“稀疏注意力”机制

9月29日，DeepSeek更新了一个实验性的人工智能（AI）模型，并称之为迈向新一代架构的中间步骤。DeekSeek在Hugging Face上发布帖子，概述了DeepSeek-V3.1-Exp平台，并解释说该平台引入一种名为DeepSeek Sparse Attention（DSA）的“稀疏注意力机制”，DSA可以在长上下文中进行更快、更高效的训练和推理。