07
05
2024
国产开源MoE指标炸裂：GPT-4级别能力，API价格仅百分之一
最新国产开源MoE大模型，刚刚亮相就火了。DeepSeek-V2性能达GPT-4级别，但开源、可免费商用、API价格仅为GPT-4-Turbo的百分之一。因此一经发布，立马引发不小讨论。图片通过公布的...
07
05
2024
全球最强开源 MoE 模型来了，中文能力比肩 GPT-4，价格仅为 GPT-4-Turbo 的近百分之一
想象一下，一个人工智能模型，不仅拥有超越传统计算的能力，还能以更低的成本实现更高效的性能。这不是科幻，DeepSeek-V2[1]，全球最强开源MoE模型来了。DeepSeek-V2是一个强大的专家混...
16
01
2024
利用PyTorch实现混合专家模型(MoE)
Mixtral8x7B的推出在开放AI领域引起了广泛关注，特别是混合专家（Mixture-of-Experts：MoEs）这一概念被大家所熟知。混合专家（MoE）概念象征着协作智能，体现了整体大于部分...