很多人担心DeepSeek的低成本训练会冲击显卡市场，但我认为其实是利好首先一个误区是其他厂商模仿DeepSeek就不需要那么多卡了。其实DeepSeek-R1的低成本训练方法是可以scaling的。也就是说用更多卡，理论上效果只会更好。他本质上是一种improvement of scaling

分享一个链接

发表一篇文章

任何有趣的，图片，热点新闻，视频，文字...

2806 位用户此时在线

24小时点击排行 Top 10：

3月24日。苏州中华园一名男子持刀在街头晃悠，警察在现场处置。 3月21日，山东威海。一名女子情绪崩溃在马路中间哀嚎，并挡在车前。 3月20日，山东济南。一名男子趴在电动车上哭泣：“我受不了了” 3月24日，深圳。朝气蓬勃的老年旅游团。拍摄者：他们的钱根本花不完，每天到处跑。

俄罗斯外长拉夫罗夫说，俄罗斯需要美国的安全保障。只有华盛顿才能阻止基辅在俄罗斯发动恐怖袭击。什么什么，我没听清你说什么，请再大声说一遍。🤣🤣

3月24日，一名女子称，自己千里迢迢从东北来到江苏淮安投入200万开烧烤店，结果店开起来后状况不断，时常停电，最后不得不关店回老家，投入的200万也全打了水漂血本无归。并且还接到通知，不准在公共平台讨论此事。

3月20日，山东济南。女子硕士毕业去招聘会找工作，一圈逛下来发现就业形势不容乐观。要么就是只有五险没有一金，要么就是底薪4000，要么就是只要党员或博士后。

有没有发现，自从川普上台以后，中共闹的笑话一下变得不那么精彩了？今日大瓜：美国国防部长、副总统等等一群川普核心团队成员居然用私营聊天软件来沟通打击胡塞武装的机密军事行动，还误把一个记者拉进群。这件事是如此荒诞，这名记者一开始以为这是个恶搞的假群。

东森新闻、联合新闻网、：“我是台湾孩子” 陆配亚亚老公全台语控诉：难道要我走？陆配网红「亚亚」刘振亚因被控武统言论，移民署做行政处分要求离境。刘的老公今天也现身，他全程用台语表示，「我是台湾孩子，你们还是要让我走吗？我有生存在这的权利！」

遇事不決，可問無人機

近日，有Up主实地调查重庆秀山领越戒网瘾学校和贵州戒网瘾学校的犯罪证据，引发B站大量网友关注。为搜集证据，该Up主甚至舍身饲虎，打电话让网瘾学校的教官来宾馆抓自己，以记录下自己在网瘾学校经历的虐待和折磨。 3月24日，该视频在B站被下架。随后网友们开始接力转发。

3月24日，陆配“小薇”在直播中表示：我为什么不嫁到贵州大山，而选择嫁到台湾，就是为了搞钱啊。我在台湾搞到钱了再回到贵州发展啊。我只有嫁到台湾，拿我的台湾老公当成跳板，以此提高自己的身份，改变自己的命运。

🚨香港首富李嘉诚的生意经🔥 中共听了肯定不喜欢！您对此怎么看？

3月24日，一名北京大爷评价投资上亿的电影《云上法官》：“拿虚构的东西去套事实” “正能量不是靠虚构出来的” “你得做到了才行，大家才会认可，而不是让我们听故事” 据猫眼票房数据，该片3月6日上映，目前累计票房20元，累计观影人次：1

国内短视频平台上，一名打台球的男子酷似大人物，引发网友恶意跟评。

He does it to prove that he is a real man.

【亚亚抗拒限期离境在台湾内政部陈情】【大批民众聚集抗议亚亚要求她“回归中国”】网红八囧与群众在内政部门口与亚亚及支持者对峙，高喊口号。亚亚在内政部门口辩称自己没有主张武统，是对“形势的分析”。看看资料影片，大家觉得她的口气是“分析”还是“鼓吹武统”？ #亚亚 #武统 #居留 #台湾 #中国

“特朗普2.0”时代开始不久，短短约一个月内，民间与政坛目睹美国一度停止乌克兰军援、台积电向特朗普许下巨额投资，一时间加剧了“今日乌克兰，明日台湾”的焦虑。乌克兰最新局势对台海有多大参考价值？台湾要“倚美”还是“疑美”？台湾总统赖清德此时提出17项应对中国的国安措施，公众怎么看？

有朋友发现，好几个有关“今月”的帖子都被限制评论。这是傅希秋和陈光程在进行损失控制？

🇨🇳0:2🇦🇺

3月25日，海银诈骗案的受害者再度前往上海市进行维权，要求上海市政府公开公正处理海银诈骗案，严惩诈骗的始作俑者，途中遇到上海市相关暴力机构粗暴对待

马斯克断绝关系的变性儿子

陆配亚亚今早带着家人与台湾国际家庭互助协会（TIFA）一起到内政部前开记者会，要求撤销处分。现场有民众高喊口号，并高举写有“8964”“滚回你的祖国”等标语，声援移民署。

3月24日，河南。一名男子表示自己是农民，想进入安全局看看见见世面，刚到门口便被保安叫住。保安称自己只是一个看大门的，月薪只有1千多，没有休息，至于里面的公务员工资多少他不清楚。

3月24日，湖南长沙。一名男子赶到长沙火车站等候亚亚。25日，男子再次发视频称：“我从早上五点等到现在，亚亚你到底回来了没有”

八炯到機場堵人舉牌監督送亞亞劉振亞預訂晚間6時15分到機場後搭機離境。

3月24日，湖北。一名铁路工人称，华容南站站台内有轨道板断裂，危害铁路和旅客生命安全。自己向铁路公司多次反映后无果，公司表示“找不到(故障所在地)” 工人称，你们把旅客的生命安全放到什么地方了，你们必将成为历史的罪人！

新能源韭菜

本站自动实时分享网络热点
24小时实时更新
所有言论不代表本站态度
欢迎对信息踊跃评论评分
评分越高，信息越新，排列越靠前

2

1

0

很多人担心DeepSeek的低成本训练会冲击显卡市场，但我认为其实是利好
首先一个误区是其他厂商模仿DeepSeek就不需要那么多卡了。
其实DeepSeek-R1的低成本训练方法是可以scaling的。也就是说用更多卡，理论上效果只会更好。他本质上是一种improvement of scaling
时政
( twitter.com )

1个月前由 JundeWu 提交

很多人担心DeepSeek的低成本训练会冲击显卡市场，但我认为其实是利好

首先一个误区是其他厂商模仿DeepSeek就不需要那么多卡了。
其实DeepSeek-R1的低成本训练方法是可以scaling的。也就是说用更多卡，理论上效果只会更好。他本质上是一种improvement of scaling law，可以参考我下面画的不太严谨的示意图。在deepseek出来之前，其他大模型用PRM (process reward model)的时候，已经观察到scaling law失效，边际效应递减了，因为需要额外的卡训练PRM模型来监督推理过程，但是deepseek的出现重新验证了scaling law，也就是多一张卡，性能就成正比提升。这对显卡市场显然是一种利好。

另一个误区是DeepSeek做的是推理，不是训练。其实DeepSeek-R1做的是纯纯的训练，他们是通过post-training，后训练，来训练出模型有更强的推理能力，这种训练和预训练对显卡的需求没有本质区别。纯粹的推理端scaling/搜索，也就是模型自己推理多种答案，然后再挑一个最好的给你，其实现在用的不是很多，因为对用户的延迟太长了，猜测o1-pro应该是用了推理端搜索，有趣的是deepseek发现PRM (process reward model)对推理后训练虽然没用，但对推理端搜索是有用的，只不过not worth it，性价比很低。

其实未来对显卡市场和Scaling Law的最大威胁不是模型，而是数据。现有大模型已经用了几乎所有互联网数据，未来数据获取难度将指数级上升。之后很可能会遇到空有大量显卡，但没数据的窘境。

点击图片查看原图

1周内 1个月内 1年内全部时间

1
2
3
4
5
6
...
400
下一页

1

2

1

1

这个事情其实不难解释，我在2天前的DeepSeek论文分析报告中也已经总结，很多疑惑看过paper就有答案。
V3的低成本算力提升主要有三个因素
1）fp8 的低精度浮点数训练，之前有人尝试过fp8的低精度训练，但都失败了。deepseek靠着顶尖数学竞赛生，硬是把它调了出来
2) MoE,
时政
( twitter.com)

1个月前 • 勃勃OC • -- 点击 0 评论

2

2

1

1

拳手的低成本躲避训练
时政
( m.weibo.cn)

4年前 • 微博 • -- 点击 0 评论

3

2

1

1

OpenAI 研究员确认 DeepSeek 独立发现了一些o1的核心idea。
此外随着DeepSeek 的出圈，很多人担心审查、数据安全性。我只能说，这是一个开源模型，OK？
担心数据安全请选择其他服务商托管的版本（数据不会发给中国）；担心审查就耐心等待下，uncensored版本迟早社区会post -training
时政
( twitter.com)

1个月前 • 九原客 • -- 点击 0 评论

4

2

1

1

看了下DeepSeek论文，做了点笔记和思考
DeepSeek降低训练成本会不会让算力需求下降？看历史就知道了，GPT4级别token价格在一年半之内降低了100~1000倍，也没有类似的担忧(如图)
AI算力通缩是必然现象，长线旋律就是十年加速六个数量级：软件/算法加速三个数量级，硬件加速三个数量级
IT技术
( twitter.com)

1个月前 • fin • -- 点击 0 评论

5

2

1

1

DeepSeek 用黑科技完成了fp8训练，取得了举世瞩目的效果
结果今天，微软突然公布了自己在fp4上的训练成果
要知道，fp4比fp8还要节省一半
其实DeepSeek的DualPipe 本来就是和微软的ZeRO框架合作的
有这样的成果，并不意外
不过美中不足的是，
时政
( twitter.com)

1个月前 • 勃勃OC • -- 点击 0 评论

6

2

1

1

DeepSeek可以做很多事情，比如“和 Dexscreener 构建免费的 AI 加密交易机器人”，如果将DeepSeek部署在自己电脑里面，就可以训练自己的专属AI资料库。
✅今天分享《仅需3步，在本地部署DeepSeek》。本教程保姆级，内容详细，步骤简单，适合初学者【建议收藏】。
🧵教程如下：
时政
( twitter.com)

1个月前 • 加密狗 • -- 点击 0 评论

7

2

1

1

金融专用大模型：BloombergGPT
500亿参数，训练成本超过1300万，用AWS64台8xA100训练53天完成核心模型训练。
主要实现问答、新闻头条编写、生成BQL等
按青云相同配置价格粗略计算训练成本1300W+
然而…
推特中文圈
( twitter.com)

2年前 • nash_su • -- 点击 0 评论

8

2

1

1

晚上有机会坐下来细看DS公布的数据，再次被深深震惊了。
DeepSeek在线服务的运行数据
英文版本见公布的Github链接。
所有DeepSeek-V3/R1推理服务均在H800 GPU上运行，且推理精度与训练一致：
🔹 矩阵乘法和调度传输采用 FP8 格式（与训练对齐）。
🔹
时政
( twitter.com)

23天前 • Compute King • -- 点击 0 评论

9

2

1

1

解释下这个库能干嘛: DeepSeek一项重大进步是使用FP8精度进行训练。训练的本质其实是矩阵乘法。默认大家都使用NVIDIA CUDA库中提供的矩阵乘法。DeepSeek这个库在最优情况可以将矩阵乘法性能提升2.7x. 可以加速训练速度. 另外在早些年一些商用BLAS库(Basic Linear Algebra
时政
( twitter.com)

27天前 • karminski-牙医 • -- 点击 0 评论

10

2

1

1

Awesome DeepSeek Integrations，很多有意思的集成 DeepSeek 的项目，也许能给你带来灵感
deepseek-ai/awesome-deepseek-integration
IT技术
( twitter.com)

28天前 • 宝玉 • -- 点击 0 评论

11

2

1

1

【维护成本飙升，预算限高，美国空军转向更低成本VR飞行训练】一个名为Rotary Wing Next的VR培训项目最快能在14周时间里完成新手驾驶员的培训，比原来提前六周时间。通过减少训练时长和集成虚拟现实等创新技术，每位空军飞行员的训练成本平均节省了大约6万美元。
大陆资讯
( news.nweon.com)

3年前 • 巭孬嫑夯昆 • -- 点击 0 评论

12

2

1

1

DeepSeek V3 实测：与 Claude 3.5 Sonnet、o1 Pro 代码能力对比
本期视频将深入解析DeepSeek最新发布的V3版本，包括其671亿参数、14.8T token 预训练等核心规格。
通过多轮测试，分别与Claude 3.5 Sonnet和o1 Pro在Python、JavaScript、Swift、Java等编程语言上进行了对比。
时间戳
0:00 -
时政
( twitter.com)

2个月前 • nicekate • -- 点击 • 下载视频 0 评论

00:12:13

13

3

2

2

DeepSeek有没有使用OpenAI的专有模型来训练自己的模型？你怎么看？
时政
( twitter.com)

1个月前 • 中日政经评论 • -- 点击 0 评论

14

2

1

1

很多人担心FTX崩塌事件会影响后续美国华尔街资本进场的信心，甚至会导致币圈长期在低位徘徊。
我只想说，这个影响有多大，后续的机会就有多大。
币圈
( twitter.com)

2年前 • twitter机器人 • -- 点击 0 评论

15

2

1

1

DeepSeek推理成本上涨4-5倍，低价时代结束
时政
( twitter.com)

1个月前 • 勃勃OC • -- 点击 0 评论

16

3

2

2

好人很难竞争的过坏人，核心是坏人的竞争成本低，好人成本高，一个高成本的人怎么可能跟低成本的人竞争呢，坏人可以做很多你做不了的事，因为你要面子，你有是非心，所以必然给自己设定很多界限从而处于竞争劣势。
推特中文圈
( twitter.com)

1年前 • 日本大誠不動産•石川港 • -- 点击 0 评论

17

2

1

1

DeepSeek R1的论文非常值得仔细看，粗略扫了下，他们只用了GRPO+Reward Model在线RL就可以就训练出思考模型。而且很诚实的把PRM、MCTS放到失败尝试中。
同时这也证明领域级思考模型的训练目前的技术完全可以复现，只需要想办法合成对应的cot训练数据。
时政
( twitter.com)

2个月前 • 九原客 • -- 点击 0 评论

18

2

1

1

别担心，由专业人士组成的特扶大队出马，他们受过专业训练，轻松将老人扶起。——扶不起的，就地爆破。（@大师兄_朱炫）
图片
( ww1.sinaimg.cn)

9年前 • 有趣图片 • -- 点击 0 评论

19

2

1

1

很多在国内九九六的人一说起移民移居就担心游艇别墅的生活成本太高无法负担
推特中文圈
( twitter.com)

2年前 • twitter机器人 • -- 点击 0 评论

20

2

1

1

MosaicML发布超大型AI模型MPT-30B，训练成本颠覆行业

AI创业公司MosaicML近日发布了一款拥有3000亿参数的语言模型MPT-30B。令人瞩目的是，这款模型的训练成本只有70万美元，远远低于其竞争对手GPT-…
IT技术
( twitter.com)

1年前 • GPTDAOCN • -- 点击 0 评论

21

2

1

1

今天有跟Nvidia 研发中心的一位技术负责人聊，他们这有六十多块A100。之前帮一团队训练模型，用8块A100训练，训练效率大概每秒10w Token。无锡超算那边基本上大部分都是国产化设备，训练模型的效率大概是每秒9w Token。在模型训练上，仅用8块A100就能抵过一个超算中心了。
时政
( twitter.com)

1年前 • Shawn Xie • -- 点击 0 评论

22

2

1

1

有一个观察，很多人之所以抓不住重点，并不是他本身不够聪明，而是很少有机会独立的做出决策。
抓重点的能力，是需要训练的，最好的训练方式，就是独立做决策。
如果缺乏这种场景和训练，人只是习惯了按照“被要求”的做到最好，就很容易看不到完整图景。
推特中文圈
( twitter.com)

1年前 • 章工GPT • -- 点击 0 评论

23

2

1

1

在对解放军攻台的担忧加剧之际，台湾军队面临的最紧迫问题是准备不足和士气低落。一名参加过四个月军事训练的年轻人称，其受训期间主要是在扫树叶、搬轮胎和拔杂草。他说，除了一些射击训练外，他的训练课程毫无意义。
推特中文圈
( cn.wsj.com)

3年前 • twitter机器人 • -- 点击 0 评论

24

2

1

1

关于幻方的成本问题，国内舆论开始“发酵”了。
其实就算一次训练花费600万美金，也不代表他们一次就能跑通DeepSeek V3，然后就发文章。
按照行业内的经验，幻方至少在前期做了10-100次实验，那么也就是6000万，甚至6个亿的成本（按照论文中训练小时数成比例估算）
时政
( twitter.com)

1个月前 • 勃勃OC • -- 点击 0 评论

1
2
3
4
5
6
...
400
下一页

0.16813 Second , Gzip Enable.本网所有言论均来自网络，不代表本网站立场。联系方式: admin@bad.news

©2012.11.21 bad.news All rights reserved. 社区自动运营第 -- 年零 -- 天
This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.

关注推特