site stats
深度分析下 DeepSeek-R1 用华为昇腾,推理集群大概多大?重磅消息,昨天的新闻,DeepSeek-R1 真的能在华为的昇腾AI加速卡上跑了。根据华为官方,Atlas(昇腾) 300I Pro 推理卡单卡拥有 140 TOPS INT8 和 70 TFLOPS FP16这个性能足够推理用,但关键的内存则使用了LPDDR4X 24 GB,总带宽204.8 GB/s
发布时间:
1
数据加载中
Markdown支持
评论加载中...
您可能感兴趣的: 更多