Dave不愧是成功微软退休工程师兼长期克服谱系的阿斯伯格天才,他这个科技故事实在是说的太好了。
他使用了一个很好的比喻。记得去年夏天我在说牛津学习手册的时候说的一个词叫做scaffolding, 他也用了这样一个词来比喻。大模型比如GPT4,是很大的,你可以把他想象成个院士,大聪明。这个大聪明带学徒,院士有一堆parameter, 但是他可以把很多他的心得告诉这个学徒,这个学徒就不需要携带这些parameter了。而且这个学徒不仅跟一个院士学习,还跟其他一堆大聪明学。这个学徒成了Deepseek R1.
他作为资深工程师见证了个人PC的发展。他说一下这个,democratize of AI. 我也前几天说过。他个人经历过PC Revolution。在大主机的时代,PC被认为虽然不够好但是对于个人来说玩得起。然后呢?海量的玩得起的个人,加起来推进这个进化,成就了一个时代和未来。所以他重视这种小型开源模型,个人车库玩的起,让你脱离云端后端的。这跟我几个月前提出部署个人本地大模型被怼,现在还是被嘲笑,诶不过我们观点一样的。Democratization会造就想象不到的进化效果。