Groq 的 QwQ-32B 以 453.20 T/s 的惊人速度运行时，看到「思考1秒」的标签还以为是系统偷懒，点开却发现它生成了大量中间推理内容，但结果却差强人意……突发奇想尝试用 DeepClaude 混合模型，试着将 Groq 的推理过程传给 GPT-4o 分析，结果速度太快，连 DeepClaude 都没捕捉到推理内容就结束了。😂

发布时间: 2025-03-11 23:40:17

1分

数据加载中

关注推特

收听电报

Groq 的 QwQ-32B 以 453.20 T/s 的惊人速度运行时，看到「思考1秒」的标签还以为是系统偷懒，点开却发现它生成了大量中间推理内容，但结果却差强人意……突发奇想尝试用 DeepClaude 混合模型，试着将 Groq 的推理过程传给 GPT-4o 分析，结果速度太快，连 DeepClaude 都没捕捉到推理内容就结束了。😂
IT技术
( twitter.com )

前天由 Geek 提交

点击图片查看原图

Markdown支持

评论加载中...

您可能感兴趣的：更多

速度超快，类似Groq, 我使用的是它提供的免费的Qwen2.5-Coder-32B-Instruct大模型，再搭配无论任何问题一般不会超过4秒。
编程速度起飞！
时政
( twitter.com)

3个月前 • linear uncle • -- 点击 0 评论

QwQ 32B is one of the models I’d want downloaded if I lost internet. Here it is streaming from my laptop to my phone at 15 tok/s.
This model is competitive with o1-mini in a few domains. Wild that you can serve it to your whole network from a laptop.
时政
( twitter.com)

2个月前 • Aaron Ng • -- 点击 • 下载视频 0 评论

00:00:26

可以的！ Groq 也嫖到了： Groq2API，速度堪称光速！
- Docker 搭建这个项目
- F12 搜索 authenticate
模型：
- Gemma-7b-I
- Llama2-70b-4096
- Mixtral-8x7b-3276
搞定🎉
Groq官网
Groq2API
IT技术
( twitter.com)

11个月前 • Geek • -- 点击 0 评论

Groq API 可以使用 llama-3.2-90b 了，还是没收费，搞不懂😅
IT技术
( console.groq.com)

4个月前 • Geek • -- 点击 0 评论

用17K从DeepSeek R1 蒸馏的SFT数据，微调Qwen2.5-32B，效果非常不错。
与DeepSeek R1自家蒸馏的版本相比略逊一些，但是后者是800k sample，而且这17k数据以及合成脚本完全开源。
方法来自之前蒸馏QwQ的Sky-T1。
P.S. 7B的模型效果提升不佳，看来越小的模型需要越多的数据激活能力。
1/2
时政
( twitter.com)

1个月前 • 九原客 • -- 点击 0 评论

我问市场上性能比较好的模型，你的模型版本是什么？其中出错的是，Mixtral 8x7B每次都会随机胡说，Perplexity Sonar说自己是GPT 4.5，而中国最好的两个新模型DeepSeek V3、QwQ 32B，说自己是GPT-4。这大概意味着DeepSeek和Qwen的新量化版本在使用GPT-4调数据吧？
时政
( twitter.com)

2个月前 • Michael Anti • -- 点击 0 评论

如果想体验刚发布的 Llama 3.1 405B，这几个地方可以免费体验：官网：
Huggingface chat：
Groq（暂时不支持 405B，但是支持Llama3.1 8B和70B）：
IT技术
( twitter.com)

7个月前 • 宝玉 • -- 点击 0 评论

"轰!"
开源 LLaMA 3 （on Groq） vs. 闭源 GPT-4。
Prompt: code a snake game in Python.
没有可比性。
来源：
IT技术
( twitter.com)

10个月前 • Will • -- 点击 • 下载视频 0 评论

00:00:44

Swift
超快速 AI 语音助手 ⚡️🤖
技术方案组成 🧩
- ASR: Groq OpenAI Whisper 用于语音识别转录
- LLM: Groq Meta Llama 3 用于语言生成模型
- TTS: Cartesia Sonic 语音模型用于快速流式语音合成
- VAD: 语音活动检测，用于检测用户何时在说话
- Dev: TypeScript + Next.js,
时政
( twitter.com)

8个月前 • meng shao • -- 点击 0 评论

IT技术

速度超快，类似Groq, 我使用的是它提供的免费的Qwen2.5-Coder-32B-Instruct大模型，再搭配 无论任何问题一般不会超过4秒。 编程速度起飞！ 时政 ( twitter.com)

时政

QwQ 32B is one of the models I’d want downloaded if I lost internet. Here it is streaming from my laptop to my phone at 15 tok/s. This model is competitive with o1-mini in a few domains. Wild that you can serve it to your whole network from a laptop. 时政 ( twitter.com)

时政

可以的！ Groq 也嫖到了： Groq2API，速度堪称光速！ - Docker 搭建这个项目 - F12 搜索 authenticate 模型： - Gemma-7b-I - Llama2-70b-4096 - Mixtral-8x7b-3276 搞定🎉 Groq官网 Groq2API IT技术 ( twitter.com)

IT技术

Groq API 可以使用 llama-3.2-90b 了，还是没收费，搞不懂😅 IT技术 ( console.groq.com)

IT技术

时政

时政

如果想体验刚发布的 Llama 3.1 405B，这几个地方可以免费体验： 官网： Huggingface chat： Groq（暂时不支持 405B，但是支持Llama3.1 8B和70B）： IT技术 ( twitter.com)

IT技术

"轰!" 开源 LLaMA 3 （on Groq） vs. 闭源 GPT-4。 Prompt: code a snake game in Python. 没有可比性。 来源： IT技术 ( twitter.com)

IT技术

时政

创建一个新帐户

登录

速度超快，类似Groq, 我使用的是它提供的免费的Qwen2.5-Coder-32B-Instruct大模型，再搭配无论任何问题一般不会超过4秒。
编程速度起飞！
时政
( twitter.com)

QwQ 32B is one of the models I’d want downloaded if I lost internet. Here it is streaming from my laptop to my phone at 15 tok/s.
This model is competitive with o1-mini in a few domains. Wild that you can serve it to your whole network from a laptop.
时政
( twitter.com)

可以的！ Groq 也嫖到了： Groq2API，速度堪称光速！
- Docker 搭建这个项目
- F12 搜索 authenticate
模型：
- Gemma-7b-I
- Llama2-70b-4096
- Mixtral-8x7b-3276
搞定🎉
Groq官网
Groq2API
IT技术
( twitter.com)

Groq API 可以使用 llama-3.2-90b 了，还是没收费，搞不懂😅
IT技术
( console.groq.com)

如果想体验刚发布的 Llama 3.1 405B，这几个地方可以免费体验：官网：
Huggingface chat：
Groq（暂时不支持 405B，但是支持Llama3.1 8B和70B）：
IT技术
( twitter.com)

"轰!"
开源 LLaMA 3 （on Groq） vs. 闭源 GPT-4。
Prompt: code a snake game in Python.
没有可比性。
来源：
IT技术
( twitter.com)