能够让大模型推理结果变得更好的基础优化手段已经非常多了，我梳理了常见的技术手段和对应的论文：- Zero-shot：- Few-shot：- CoT：- ToT：- GoT：-…

发布时间: 2023-12-05 15:51:01

1分

数据加载中

关注推特

收听电报

2

1

0

能够让大模型推理结果变得更好的基础优化手段已经非常多了，我梳理了常见的技术手段和对应的论文：
- Zero-shot：
- Few-shot：
- CoT：
- ToT：
- GoT：
-…
IT技术
( twitter.com )

1年前由 Barret李靖提交

能够让大模型推理结果变得更好的基础优化手段已经非常多了，我梳理了常见的技术手段和对应的论文：

Zero-shot：https://t.co/qYdwDw6hRt
Few-shot：https://t.co/vCXN9dlzJh
CoT：https://t.co/eP7cA5WDcx
ToT：https://t.co/F630Y6282l
GoT：https://t.co/n0avfoGq1O
SC：https://t.co/mxcrP48gwD
Multi Persona：https://t.co/6owPiEclKO
Least to Most：https://t.co/j5x4KhSEsY
Step Back：https://t.co/s07FJJEfdp
ART：https://t.co/FsIEAuMuTI
ReAct：https://t.co/An8Cx9U4DR
Reflection：https://t.co/CjSf0U5qw3
RAG：https://t.co/EcfiufK3RM

以上内容在之前的分享中均详细提到过，有一些只需要在 Prompt 上做简单优化便可看到效果；有一些则需要进行框架设计，如对任务进行规划、分解、组合等，包括与外界环境的交互、让人参与交互，存在一定的设计成本，市面上很多 XXXGPT 也是对这些基础手段组合后的工程实践。

学习这些知识的原理有助于帮助我们打开 LLM 推理黑盒，感兴趣的朋友不妨花点时间研究下，也欢迎留言补充更多有趣的技术和论文。

Markdown支持

评论加载中...

您可能感兴趣的：更多

1

2

1

1

#工程师学习这篇 RAG论文很值得一读，我甚至打印成纸质版方便阅读，知识密集型自然语言处理任务的检索增强生成，AI 搜索会使用这个能力对大型语言模型输出进行优化，使其能够在生成响应之前引用训练数据来源之外的权威知识库让结果更准确，推荐用沉浸式翻译来阅读。
🤖
IT技术
( ar5iv.labs.arxiv.org)

11个月前 • Tw93 • -- 点击 0 评论

2

2

1

1

基于 Toolformer 这篇论文的灵感，在 GPT-3 的模型上 fine-tune 了一个新的模型，可以用来控制外部应用和 API。

因为现在数据量还比较少，所以效果还比较一般，仅能处理一些基础的操作，后面会针对性优化一下…
推特中文圈
( twitter.com)

1年前 • Jiayuan • -- 点击 0 评论

3

2

1

1

团队的小伙伴连夜把 Steve Mind 基于的模型升级成了 gpt-3.5-turbo，显著优化了回答的效果，对于中文的处理也更好了。

欢迎体验：
图片
( app.copilothub.co)

1年前 • Jiayuan • -- 点击 0 评论

4

2

1

1

Google DeepMind 发布了 AlphaFold 3
能够预测所有生命分子结构和相互作用 AI 模型
该模型能够生成蛋白质、DNA 和其他分子的 3D 结构，并揭示它们如何组合在一起。
该模型还能够模拟影响细胞健康的化学变化，并检测可能导致疾病的异常。
AlphaFold 3…
时政
( twitter.com)

8个月前 • 小互 • -- 点击 • 下载视频 0 评论

00:00:19

5

2

1

1

如何让小模型的推理效果在某些领域比 ChatGPT 这样的大模型还要更强？这篇论文提供了一个思路：
IT技术
( arxiv.org)

1年前 • Barret李靖 • -- 点击 0 评论

6

2

1

1

这个让 AI 当人生导师帮助寻找人生方向的应用价值很大，原始提示词 Claude 确实很好，但是其他模型效果不够好，我把它优化了一下，这样可以适用于不同的模型：
提示词开始
IT技术
( twitter.com)

1个月前 • 宝玉 • -- 点击 0 评论

7

2

1

1

通过批处理并行化，LLM推理整体吞吐量速度提高60倍，这项工作潜力可能会很大，优化了如此多，推理市场硬件需求可能会比之前预想的要小的多

用一个A10推理卡跑LLaMA2的7B模型，单个推理40 tokens/s，但当128个推理并行时，每个推理仍能得到10+token/s，优化之后甚至能达到总吞吐量每秒2400 tokens…
IT技术
( twitter.com)

1年前 • fin • -- 点击 0 评论

8

2

1

1

好家伙，能手机部署LLM大模型来了。MiniCPM: 是面壁智能与清华大学自然语言处理实验室共同开源的系列端侧大模型，MiniCPM-2B 仅有 24亿（2.4B）的非词嵌入参数量。与 Mistral-7B相近（中文、数学、代码能力更优），整体性能超越 Llama2-13B、MPT-30B、Falcon-40B 等模型。
IT技术
( github.com)

11个月前 • Geek • -- 点击 0 评论

9

2

1

1

🔥🔥🔥 这是一个精心策划的多模态大型语言模型（MLLM）列表,包含了260个论文，Pdf和github链接，整理的调理清晰，适合研究使用

包括两大部分：模型和数据集
模型论文
-基础模型，指令调整，情景学习，思维链条，视觉推理…
IT技术
( twitter.com)

1年前 • Will 3.6-6.16 硅谷 • -- 点击 0 评论

0.17489 Second , Gzip Enable.本网所有言论均来自网络，不代表本网站立场。联系方式: admin@bad.news

©2012.11.21 bad.news All rights reserved. 社区自动运营第 -- 年零 -- 天
This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.

关注推特