厉害，webllm借助WebGPU让Llama2在浏览器运行，70B的模型，在苹果M芯片64G内存下有6 tokens/s的速度（看截图底部）如果你要构建自己的基于浏览器的离线模型，可以使用-ai/web-llm 这个npm包。测试地址：

发布时间: 2023-07-24 23:50:41

1分

数据加载中

关注推特

收听电报

厉害，webllm借助WebGPU让Llama2在浏览器运行，70B的模型，在苹果M芯片64G内存下有6 tokens/s的速度（看截图底部）

如果你要构建自己的基于浏览器的离线模型，可以使用-ai/web-llm 这个npm包。

测试地址：
IT技术
( webllm.mlc.ai )

1年前由宝玉提交

Markdown支持

评论加载中...

您可能感兴趣的：更多

#工程师学习看到一篇介绍 WebGPU 不错的文章「I want to talk about WebGPU」，作者认为 WebGPU 是 WebGL 的新形式，也是在网页浏览器中绘制 3D 的新方式，在 Web 渲染上很有可能取…
IT技术
( twitter.com)

1年前 • Tw93 • -- 点击 0 评论

#TRIGUN 一位很厉害的朋友给了我很多有用的帮助。。
图片
( twitter.com)

1年前 • Amber • -- 点击 0 评论

厉害！

厉害！

好厉害的商家！
时政
( twitter.com)

2年前 • twitter机器人 • -- 点击 0 评论

看完微软的发布会，真是厉害，所有个人开发者想到的点子他们都想到了，而且实现得更完美。厉害得让人害怕。
推特中文圈
( twitter.com)

1年前 • orange.ai • -- 点击 0 评论

小姐姐厉害不厉害？
图片
( twitter.com)

2年前 • 长大以后要变老虎🐯 • -- 点击 0 评论

我們就坦誠相見吧 : )
Credit:Reddit u/Mansa-Ll
#meme
#memetranslation
时政
( twitter.com)

1年前 • 迷因翻譯 • -- 点击 0 评论

火：你厉害，还是我厉害？
时政
( twitter.com)

1年前 • myh • -- 点击 • 下载视频 0 评论

00:00:48

转贴。“厉害国”中的“厉害县”！
时政
( twitter.com)

2年前 • 高伐林 • -- 点击 0 评论

党可以让每一个人按需生病！厉害了，我的锅！
时政
( twitter.com)

2年前 • Peter Zhou • -- 点击 0 评论

厉害，webllm借助WebGPU让Llama2在浏览器运行，70B的模型，在苹果M芯片64G内存下有6 tokens/s的速度（看截图底部） 如果你要构建自己的基于浏览器的离线模型，可以使用-ai/web-llm 这个npm包。 测试地址： IT技术 ( webllm.mlc.ai )

IT技术

#工程师学习 看到一篇介绍 WebGPU 不错的文章「I want to talk about WebGPU」，作者认为 WebGPU 是 WebGL 的新形式，也是在网页浏览器中绘制 3D 的新方式，在 Web 渲染上很有可能取… IT技术 ( twitter.com)

IT技术

#TRIGUN 一位很厉害的朋友给了我很多有用的帮助。。 图片 ( twitter.com)

图片

厉害！ 厉害！ 好厉害的商家！ 时政 ( twitter.com)

时政

看完微软的发布会，真是厉害，所有个人开发者想到的点子他们都想到了，而且实现得更完美。厉害得让人害怕。 推特中文圈 ( twitter.com)

推特中文圈

小姐姐厉害不厉害？ 图片 ( twitter.com)

图片

我們就坦誠相見吧 : ) Credit:Reddit u/Mansa-Ll #meme #memetranslation 时政 ( twitter.com)

时政

火：你厉害，还是我厉害？ 时政 ( twitter.com)

时政

转贴。“厉害国”中的“厉害县”！ 时政 ( twitter.com)

时政

党可以让每一个人按需生病！厉害了，我的锅！ 时政 ( twitter.com)

时政

创建一个新帐户

登录