Moe架构

GLM-5 是 Zhipu AI（Z.ai）发布的第五代大型语言模型，采用 Mixture-of-Experts 架构与 DeepSeek 稀疏注意力机制，支持高达 200K Token 的长上下文容量，具备先进的推理、编码、智能体任务及复杂逻辑处理能力，定位于开放源代码旗舰基础模型。