B站 BiliBili开源了Index-1.9B模型Index-1.9B系列是Index系列模型中的轻量版本1.9B包含：Index-1.9B base : 基座模型，具有 19亿非词嵌入参数量，在2.8T 中英文为主的语料上预训练，多个评测基准上与同级别模型比处于领先Index-1.9B pure :

发布时间: 2024-06-19 09:31:12

1分

数据加载中

关注推特

收听电报

2

1

0

B站 BiliBili开源了Index-1.9B模型
Index-1.9B系列是Index系列模型中的轻量版本
1.9B包含：
Index-1.9B base : 基座模型，具有 19亿非词嵌入参数量，在2.8T 中英文为主的语料上预训练，多个评测基准上与同级别模型比处于领先
Index-1.9B pure :
时政
( twitter.com )

7个月前由 AIGCLINK 提交

B站 BiliBili开源了Index-1.9B模型
Index-1.9B系列是Index系列模型中的轻量版本

1.9B包含：
Index-1.9B base : 基座模型，具有 19亿非词嵌入参数量，在2.8T 中英文为主的语料上预训练，多个评测基准上与同级别模型比处于领先

Index-1.9B pure : 基座模型的对照组，与base具有相同的参数和训练策略，不同之处在于严格过滤了该版本语料中所有指令相关的数据，以此来验证指令对benchmark的影响

Index-1.9B chat : 基于index-1.9B base通过SFT和DPO对齐后的对话模型，由于预训练中引入了较多互联网社区语料，聊天的趣味性明显更强

Index-1.9B character : 在SFT和DPO的基础上引入了RAG来实现fewshots角色扮演定制

github：https://t.co/BHwNUUtNKY

模型：
Index-1.9B-Chat：https://t.co/HBN9wTJWjk

IndexTeam/Index-1.9B-Character：https://t.co/Q3u0MFhvg4

IndexTeam/Index-1.9B：https://t.co/jLHKVU8qnF

IndexTeam/Index-1.9B-Pure：https://t.co/MzdlqPFJh0

#Index模型 #BiliBili #LLM

点击图片查看原图

Markdown支持

评论加载中...

您可能感兴趣的：更多

1

2

1

1

C圈外围中介开到B站去了，笑死，给B友们一点小小的性资源震撼。
时政
( twitter.com)

1年前 • 阑夕 • -- 点击 0 评论

2

3

2

2

目前英文 7B 规模的 SOTA 模型是 zephyr-7b-beta。它放弃了质量参差不齐的开源数据集，使用ChatGPT和GPT-4 全新标注了 UltraChat 和 UltraFeedback 数据集（已开源）。是 llama-index 项目实测出来唯一能够支持 Agent 的小参数模型。

与之相比，中文开源模型虽多，数据集却很少开源。
时政
( twitter.com)

1年前 • 九原客 • -- 点击 0 评论

3

2

1

1

嗯，杜金不仅去了微博，也在B站开辟了阵地
时政
( www.bilibili.com)

8个月前 • Michael Anti • -- 点击 0 评论

4

2

1

1

12月16日著名远洋货轮船长，Bilibili Up主西曼船长发文吐槽其尝试在B站投稿关于远洋货轮上安装测试星链的视频被锁定，理由是：“根据《网络安全法》等相关法律法规和政策，该视频不予审核通过”
西曼船长心中开明公正的B站印象被打破
时政
( twitter.com)

1个月前 • 李老师不是你老师 • -- 点击 0 评论

5

2

1

1

导演实名举报B站五四青年节短片涉嫌洗稿，B站回应：与事实不符、要求公开道歉
大陆资讯
( news.mydrivers.com)

8个月前 • 猩猩点灯 • -- 点击 0 评论

6

2

1

1

忽然发现，b 站开始有收益了，昨天的收益高达 11.42 元！
时政
( twitter.com)

1年前 • roy • -- 点击 0 评论

7

2

1

1

b站审核是死完了，这视频都能在b站六十万播放啊
时政
( twitter.com)

1年前 • 利维坦冲浪里 • -- 点击 0 评论

8

2

1

1

#开源项目推荐：Halo
一个强大易用的开源建站工具。
IT技术
( github.com)

1年前 • 宝玉 • -- 点击 • 下载视频 0 评论

00:04:20

9

4

3

3

家人们，最近又找到了款免费好使的视频下载工具：cobalt
工具开源，简洁，无广告，支持YouTube，B站，twitter，tiktok，instagram，reddit等等等等网站，后期还会不断扩充网站列表，项目一直维护更新以应对各种网站的反扒策略。
GitHub：
官网：
时政
( twitter.com)

9个月前 • 知识分享官 • -- 点击 0 评论

0.19255 Second , Gzip Enable.本网所有言论均来自网络，不代表本网站立场。联系方式: admin@bad.news

©2012.11.21 bad.news All rights reserved. 社区自动运营第 -- 年零 -- 天
This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.

关注推特