ChatGPT 参数规模被扒—— 很可能只有7B（70亿）

发布时间: 2024-03-18 09:16:11

1分

数据加载中

关注推特

收听电报

2

1

0

ChatGPT 参数规模被扒—— 很可能只有7B（70亿）
大陆资讯
( www.ithome.com )

10个月前由牛郎侄女提交

Markdown支持

评论加载中...

您可能感兴趣的：更多

1

3

2

2

目前英文 7B 规模的 SOTA 模型是 zephyr-7b-beta。它放弃了质量参差不齐的开源数据集，使用ChatGPT和GPT-4 全新标注了 UltraChat 和 UltraFeedback 数据集（已开源）。是 llama-index 项目实测出来唯一能够支持 Agent 的小参数模型。

与之相比，中文开源模型虽多，数据集却很少开源。
时政
( twitter.com)

1年前 • 九原客 • -- 点击 0 评论

2

2

1

1

【ChatGPT参数只有200亿？】谁都没想到，ChatGPT的核心秘密被微软一篇题为《CodeFusion: A Pre-trained Diffusion Model for Code Generation》的论文透露出来了：ChatGPT是个「只有」20B（200 亿）参数的模型。GPT-3参数量就达到了1750亿，实用化以后的大模型居然被OpenAI瘦身了快9倍，这合理吗？
大陆资讯
( www.jiqizhixin.com)

1年前 • 墙头看世界 • -- 点击 0 评论

3

2

1

1

Mistra 刚发布了新的类似于 ChatGPT 的聊天应用，使用的是 Pixtral Large 124B参数的多模态模型，可以免费使用，功能还比较强，有网络搜索、写作画布、Flux Pro 画图
网络搜索和画图都是很实用的功能！
IT技术
( twitter.com)

1个月前 • 宝玉 • -- 点击 0 评论

4

2

1

1

开源社区Hugging Face开放了ChatGPT的“平替”——HuggingChat，可在线免费使用。目前与Open Assistant一样，都是基于300亿参数的LLaMA模型。…
时政
( twitter.com)

1年前 • 外汇交易员 • -- 点击 0 评论

5

2

1

1

可商用！复旦大学开源了160B参数的大模型MOSS
MOSS是一个支持中英双语和多种插件的对话语言模型，基座模型在约七千亿中英文以及代码单词上预训练得到。具备多轮对话能力及使用多种插件的能力
很多训练语料都使用ChatGPT AP…
推特中文圈
( twitter.com)

1年前 • nash_su • -- 点击 0 评论

6

2

1

1

最新支持中文的开源模型个人向推荐（不同参数规模的）。
时政
( twitter.com)

5个月前 • 九原客 • -- 点击 0 评论

7

2

1

1

Google Bard 刚刚进行了大规模升级。

ChatGPT 现在有些地方落后了。

以下是使用 Bard 可以做而 ChatGPT 做不到的 10 件事：
币圈
( twitter.com)

1年前 • Will 3.6-6.16 硅谷 • -- 点击 0 评论

8

2

1

1

如何让ChatGPT帮你辅导面试？这里有个Prompt可以参考：

Step1：要求ChatGPT接收简历并以简历所有者的身份模拟面试
———
As ChatGPT, you'll be participating in an i…
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

9

2

1

1

微软今天发布小模型 Phi-2 的新闻关注度还蛮大的，只有2.7B参数（Llama 2最小的模型都是 7B的），模型越小就对设备要求越低，甚至于移动设备都能运行。但模型的能力又跟模型的训练量和参数量息息相关，数据量越大参数越大能力越强。…
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

0.13557 Second , Gzip Enable.本网所有言论均来自网络，不代表本网站立场。联系方式: admin@bad.news

©2012.11.21 bad.news All rights reserved. 社区自动运营第 -- 年零 -- 天
This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.

关注推特