说来话长 原因很多 我“局部观察”的原因是被一个真的想帮忙但水平一般的投资方给影响了 从 AI 切换到了区块链
但如人饮水 创业不易 选择都是事后才知道结果 请不要解读为对此公司或者创业者的批评
时间回到2017年。我已经把 https://t.co/YbiX5ePpyv 公司卖掉加入 Reddit 了 ,在硅谷听说又有一组人要来搞 AI 写代码 就在旧金山市区约了聊了一下
当时就是 Illia 和他的共同创始人 Alex. 其中 Alex 是 ACM 竞赛世界级选手,Illia 是 Google Research Transformer 团队的训练集群 TL.
我原原本本地告诉他们我遇到的问题,RNN 训练的挑战 语言模型往上做的基础设施上的挑战等等 包括企业用户提的反馈
当时虽然 Illia 是 Transformer 的共同作者 我记得在那场谈话里我们都没有提到要用 decoder only transformer 去做语言模型 (即 GPT 的思路)。我们都是沿着只用代码训练语言模型 或者用 Stackoverflow 训练英语到 snippet 模型。或者用向量提取做 snippet 查询 (当时还没有 RAG 这个概念)
然后我引荐了几个我当时谈的投资人 其中就有他们后来签的第一个投资人(名字略去)。那个投资人既投资了 AI 代码生成方向 , 又投资了 dApp
于是 他们的公司 https://t.co/xVpddZ16fm 就开张了。取这个名字是因为大家都相信 AI 写代码不远了 就是最后几公里的事情
下面的事情就快速变化了:回想起来因为当时的模型,算力,包括思路(先训练英语再用 RL 微调)都没达到,所以明知道就那一座山 但是所有人都没能力翻过去。 这也是侧面证明 Google 和 OAI 后来的创新是很重要的
Anyway, 当你融了一笔钱 训练烧光了一半,被投资追着要“帮你”的时候,你的眼前全是一连串的“如何 pivot”. 在当时区块链的风气下 用 AI 写 contract 就成了下一个转进点。这不是我瞎编了 相同的投资人给我相同的建议 只不过我比较固执没采纳而已
所以后来 Near 团队就去看了区块链 一看 嘿 公链性能太差 还得先 yak shave 一下
下面的就是历史了
硅谷都是这样一个个故事组成的 做事情,碰机会。 英雄不论出处 事前不必担心对错