site stats
再推荐一下,现在如果你有 16 GB 显存 和 11 GB 内存的电脑,就可以在本机运行目前最强的开源混合专家模型 Mixtral-8x7B 了,或者你也可以在 Google Colab上运行。主要的优化是不一次加载所有 8 个专家模型,而是按需加载。Jupiter Notebook:
发布时间:
1
数据加载中
Markdown支持
评论加载中...
您可能感兴趣的: 更多