有人尝试了借助开源大语言模型，无需联网在本机实现和游戏 NPC 自由对话，技术栈： - Mistral7b，开源大语言模型 - StyleTTS2 文字转语音 - llama.cpp 用来运行大语言模型的库生成一句新对话的时间大约为 2-3…

分享一个链接

发表一篇文章

任何有趣的，图片，热点新闻，视频，文字...

2437 位用户此时在线

24小时点击排行 Top 10：

疑似是坠楼学生的舅舅指责有关部门不让家长知道真相。另一个直播间里，评论区观众纷纷号召陕西人民团结起来，把事情闹大。

学校前聚集了大批为坠楼学生讨说法的民众，校门口的标语写着 “发展职业教育，我支持你们——习近平”

“澳门游” 导游大叔讲出了在国内不敢讲的话，直逼强国医疗和教育的真相！

1月2日，湖北。一名盲人用第一视角记录出门买生日蛋糕的过程。她走在属于她的盲道上，却一直在说着对不起。

目前，平台正在陆续删除蒲城职校民众维权讨说法的视频。

央視三級節目

近日，广东东莞。网友“胆小北”在商场发现一名男子多次偷拍女性裙底，他上前制止时遭到偷拍男子殴打住院。目前“胆小北”仍在东莞人民治疗，并且因无法工作导致无力承担医药费用，而偷拍打人男子仅被拘留五天。截至发文，“胆小北”自述打人者仅被拘留五天的视频已被删除。

义愤填膺的民众们聚集在蒲城职业学校前为坠楼学生和家属发声讨公道，公安布置了大量警力维稳。

1月3日，上海。男子称，中国诞生新的政党，是目前老百姓心中最想看到的文明进步。 1月3日，江苏。男子称，他们说的连一个标点符号都不能相信，一个个把我当成猪狗一样看待的群体，我怎么能去相信他们，相信他们会对我好。

民众们聚集在蒲城职校为坠楼孩子和家属发声，期间有民众遭警察锁喉带走。还有知情者称“校长已经翻墙跑路了”

近日，陕西渭南。蒲城职业学校一学生坠楼，家属被老师控制在宾馆里。 1月5日，家属在学校手捧孩子遗像下跪维权，大批民众前来为家属声援，有网友在现场直播，随即直播间遭平台封禁。

揭秘萝莉岛亚洲女星PPT，好莱坞停摆现状

印度🇮🇳航班。😄

1月5日，赴俄参军的中国人 “平头哥洪明” 发视频称，刚接到连长命令，他们四人组成的小队要去进攻一处地下室。他还劝国人不要来俄罗斯参军，并表示如果活下来的话会给大家报平安。

蝴蝶的女儿胡友松 25岁被毛腊肉送给75岁的李宗仁凡49年后留在大粪坑中共国的无一例外都成为魔鬼的祭品 🙏

飞机着陆时撞到一群鸟

1月5日(发布) 河南村镇银行储户蔡广丽老夫妇，自2022年4月开始就无法再从自己的银行卡里取出积攒一辈子的存款至今已有三年，因没有生活费，导致生活难以为继，夫妇俩只能靠捡破烂生存。

中国第一造反大省，古近代大小造反从未缺席！民风为何那么彪悍？

珠海撞人之后，我国的钢铁产量已超过房地产高峰时期，始终坚持用习近平思想指导工作，潜力可是大大的有！

网约车司机:你打快车支付18,到我手机才8块,我不拉了,你取消

用華為產品的人與土豆無異，專家利用土豆做了比對，結果證實了華為的欺詐行為。

1月4日，安徽淮北。一男子下跪手举标语，呼吁国家取缔网约车，还出租车师傅们的饭碗。男子称“网约车是日资和美资主导的平台，坑害国人”

女性举报：我在泰州公安局被强奸，怀了孩子。

全程回顾2023年违规穿越罗布泊遇难事件，在2023年7月22日，23人违规穿越罗布泊致4人遇难，7辆川籍，1辆粤籍，及两辆甘籍越野车组车10车23人车队违规进入罗布泊无人区穿越。结果一进入沙漠就意外频发，错误也一个接一个出现，最终导致了一场更为严重的事件出现。本期视频结合地图重新回顾这起事故过程。

集成了 GPT-4o 视觉模型的变形金刚玩具，可以对话，卖 $1199，值这个价吗？

本站自动实时分享网络热点
24小时实时更新
所有言论不代表本站态度
欢迎对信息踊跃评论评分
评分越高，信息越新，排列越靠前

2

1

0

有人尝试了借助开源大语言模型，无需联网在本机实现和游戏 NPC 自由对话，技术栈：
- Mistral7b，开源大语言模型
- StyleTTS2 文字转语音
- llama.cpp 用来运行大语言模型的库
生成一句新对话的时间大约为 2-3…
IT技术
( twitter.com )

1年前由宝玉提交

有人尝试了借助开源大语言模型，无需联网在本机实现和游戏 NPC 自由对话，技术栈：
- Mistral7b，开源大语言模型
- StyleTTS2 文字转语音
- llama.cpp 用来运行大语言模型的库

生成一句新对话的时间大约为 2-3 秒。在生成新对话行时会稍微有点卡顿，但影响不大。StyleTTS2（文本转语音系统）需要占用约 14GB 的 RAM，而基于 llama.cpp 运行的服务器占用 3GB，因此运行这一系统需要较大的 RAM 容量。不过我相信 StyleTTS 还有进一步优化的空间。从视频中可以看出，对帧率影响不大，游戏画面依然能够保持流畅的 60 帧每秒。

缺点也很明显：

Mistral 在判断游戏世界中哪些事情可能发生哪些不可能方面也不是很准确。比如，在演示中出现的关于训练村民的任务，在游戏中实际上是无法实现的，因为游戏中根本没有相关机制。

尽管 Mistral 模型的处理速度更快，但一致性不如 GPT3.5。容易偏离主题，并且不太能坚持事实。

StyleTTS2 的语音合成效果也不够自然，还带有些许机械感。对于它不熟悉的词汇，它的发音不太准确，或者会根据上下文错误地发音（例如，Angers 这个城市的发音与动词“to anger”发音不同）。

不过还是相当有积极意义的一次尝试👍🏻

相关源码：https://t.co/2C6aE4oVaN

原文：https://t.co/M3IHNp8MVU
译文：https://t.co/fVlZifHNC6

1周内 1个月内 1年内全部时间

1
2
3
4
5
6
...
400
下一页

1

2

1

1

现在已经可以在 iPhone 或 iPad 上本机离线运行开源的 Mistral-7B 大语言模型了！
需要借助 LLMFarm（），一个支持 Apple Silicon 技术的开源客户端。对于设备的要求是：
- 一台至少配备M1 + 8GB RAM 的 iPad 或 iPhone
- 至少 8GB…
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

2

2

1

1

Google刚刚发布了开源大语言模型 Gemma，这是对标 LLAMA 2 的开源大语言模型。
Gemma是一系列基于创建Gemini模型所使用的相同技术与研究的、在其领域内技术领先的轻量级开源模型。…
IT技术
( twitter.com)

10个月前 • 宝玉 • -- 点击 0 评论

3

2

1

1

现在最火的开源大语言模型当属 mixtral-8x7 了，已经有人基于它微调了一个完全无审查无防护的版本 dolphin-2.5-mixtral-8x7 ，再也不用担心：“作为一个AI助手，我不能……”
模型下载地址：
IT技术
( huggingface.co)

1年前 • 宝玉 • -- 点击 0 评论

4

2

1

1

部署在树莓派 (Raspberry Pi)上 GPT 语音助手，使用开源的大型语言模型（LLM）响应请求，转给爱折腾的小伙伴。
IT技术
( github.com)

10个月前 • Geek • -- 点击 0 评论

5

2

1

1

FinGPT是一个开源的金融语言模型（LLMs），由FinNLP项目提供。这个项目让对金融领域的自然语言处理（NLP）感兴趣的人们有了一个可以自由尝试的平台，并提供了一个与专有模型相比更容易获取的金融数据。

▸ FinGPT使用…
IT技术
( twitter.com)

1年前 • GPTDAOCN • -- 点击 0 评论

6

2

1

1

说的太对了，那么多开源大语言模型，真没有超过GPT-3.5的
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

7

2

1

1

这个开源翻译项目今天在 Github 冲得太快了。它支持三种翻译模式：一问一答、对讲机模式、文本模式。需下载1.24GB翻译和语音识别模型，完全开源、免费和离线使用。目前只有 Android 端，有需要的朋友可以试试。
IT技术
( github.com)

6个月前 • Geek • -- 点击 0 评论

8

2

1

1

分享一个效果很好的基于 LLaMA 模型在多模态上的应用，强烈建议试一试。通过在语言模型中添加可学习的适应提示，以及引入让语言模型学习视觉特性的策略，做到了只需要微调语言模型的千分之二的参数（12 million），一个小时就能训…
IT技术
( twitter.com)

1年前 • Quinn Leng • -- 点击 0 评论

9

2

1

1

大语言模型微调之道2——为什么要微调

#大语言模型微调之道

欢迎来到由Sharon Zhou主讲的《大语言模型微调之道》课程。这门课程将教你如何在自己的数据上进一步训练开源LLM。

这视频中，我们探讨了为什么要微调大语言模型（LLM）。…
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 • 下载视频 0 评论

00:14:35

10

2

1

1

【Stable Diffusion背后公司开源大语言模型，很火，但很烂】先别急着说StableLM是史上最糟糕的语言模型。毕竟人家Alpha版本的参数量目前较小，以及还是开源的。
大陆资讯
( www.qbitai.com)

1年前 • 新白娘子玩传奇 • -- 点击 0 评论

11

1

0

0

【Meta 开发了实时翻译闽南语的 AI】该模型目前仍在开发中，并且只适用于那类具有中间语言可以桥接两个不同语言的语言，如果两个语言之类没有密切相似的可桥接语言的话，将无法使用这个新模型，但该模型仍然为通用翻译开辟了更多的新语言。
大陆资讯
( www.oschina.net)

2年前 • 你妹的溢达 • -- 点击 0 评论

12

2

1

1

最近提出的Falcon-40B模型在与其他开源大型语言模型（LLMs）的比较中达到了前所未有的性能水平，甚至可以与付费模型相媲美。以下是Falcon-40B成功的关键因素：

1. 更多的网络数据：许多LLMs在经过筛选的文本语…
IT技术
( twitter.com)

1年前 • GPTDAOCN • -- 点击 0 评论

13

2

1

1

开源项目推荐：decipher
借助OpenAI的Whisper帮助你给视频生成带时间轴的字幕，不需要联网，但是需要下载额外的数据包，找了个视频测试了一下效果挺好。

是Python程序，需要Python运行环境和ffmpeg…
漫画
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

14

2

1

1

我们做了一个大模型测试集「Z-Bench」，300个问题全方位考察大语言模型能力
大陆资讯
( mp.weixin.qq.com)

1年前 • 三聚氰胺 • -- 点击 0 评论

15

2

1

1

推荐阅读：《深入了解大语言模型运维 (LLMOps) [译]》
这篇文章 5 月份的，但并没有过时，对于大语言模型的运维(LLMOps)讲的非常系统。
随着大语言模型的普及，未来的 Ops 肯定离不开 LLMOps ，甚至于需要专门的团队做 LLMOps。
文章中把 LLMOps 分成了几个关键步骤：
第 1 步：选择基础模型…
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

16

2

1

1

终于有人做这个事情了，专门用来生成Midjourney提示词的语言模型。

老哥收集了很多提示词微调了一个开源语言模型用来生成提示词。原推有试用链接。
我自己试了一下，要求是生成一张龙与地下城风格的照片。左边是没有优化的提示词，右…
推特中文圈
( twitter.com)

1年前 • 歸藏 • -- 点击 0 评论

17

2

1

1

PowerInfer：让普通电脑也能跑大语言模型
由上海交通大学开发，目的是在配备消费级GPU的个人电脑上提供高速的大语言模型推理服务。
PowerInfer 无缝整合了 CPU 和 GPU 的内存和计算能力，优化了内存和计算资源，从而在个人电脑上高效地运行复杂的 AI 模型。
比llama.cpp快11倍...…
IT技术
( twitter.com)

1年前 • 小互 • -- 点击 • 下载视频 0 评论

00:00:56

18

2

1

1

大语言模型微调之道1——介绍

#大语言模型微调之道

欢迎来到由Sharon Zhou主讲的《大语言模型微调之道》课程。这门课程将教你如何在自己的数据上进一步训练开源LLM。

虽然你可能已经知道如何提示一个大语言模型，但这门课程会深入讲解另一个重要工具：微调。…
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 • 下载视频 0 评论

00:02:59

19

2

1

1

#AI开源项目推荐：GFPGAN
腾讯开源的AI模型GFPGAN，能帮助恢复老照片

项目地址：
在线测试地址：
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

20

3

2

2

看到一篇对Kimi探索版的复杂逻辑推理测试很有意思。Kimi经过一系列假设验证，得到了正确结论。
对大语言模型来说，需要借助CoT（思维链），生成分析过程。但是有思维链不代表就一定能做对，分别测试一下几个模型，GPT-4o 和 o1 都能做对，尤其是 o1，推理很严谨。让我意外的是 Claude
IT技术
( twitter.com)

2个月前 • 宝玉 • -- 点击 0 评论

21

3

2

2

开源之光:RedPajama重塑大语言模型的未来
LLaMA最强平替，超12万亿训练数据，全开源
1. 开源12万亿训练数据，参考LLaMA数据集配比。
2. 模型马上开源
*标题由Claude生成…
推特中文圈

开源推荐
( twitter.com)

1年前 • nash_su • -- 点击 0 评论

22

2

1

1

又写了一篇万字文章，Meta 这篇文论太顶了。

LLaMA 2：免费可商用的开源大语言模型

IT技术
( mp.weixin.qq.com)

1年前 • lencx • -- 点击 0 评论

23

3

2

2

推荐阅读：《我们是如何利用大语言模型 (LLM) 改进 GitHub Copilot 的探索之旅》，GitHub Copilot 官方发布的博客，原标题：How we’re experimenting with LLMs to evolve GitHub Copilot。
文章中讲述了很多他们在探索如何使用大语言模型改进 GitHub Copilot的尝试，比如自动写 PR…
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

24

2

1

1

下午和一起在Pal alto编辑了大语言模型的开发流程图表，借助了。

他投入了1000小时实践，开发了3次llm应用。

以下是他的5点收获，可以让你在开发llm应用的时候，少走很多弯路：
IT技术
( twitter.com)

1年前 • Will 3.6-6.16 硅谷 • -- 点击 0 评论

1
2
3
4
5
6
...
400
下一页

0.53766 Second , Gzip Enable.本网所有言论均来自网络，不代表本网站立场。联系方式: admin@bad.news

©2012.11.21 bad.news All rights reserved. 社区自动运营第 -- 年零 -- 天
This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.

关注推特