看了下模型文件才1G多，本地运行应该配置要求不高吧？

发布时间: 2024-09-15 14:20:14

1分

数据加载中

关注推特

收听电报

看了下模型文件才1G多，本地运行应该配置要求不高吧？
IT技术
( twitter.com )

3个月前由宝玉提交

点击图片查看原图

Markdown支持

评论加载中...

您可能感兴趣的：更多

一个全平台的本地 LLM 聊天软件Jan，支持自动下载模型以及非常详细的设置。懒得配置 Ollama 的可以试试。
除了支持本地模型以外，在线的模型可以使用 API 接入，All in one 的模型管理。交互和 UI 也都很合理。
同时支持在系统的任何可以输入的地方调取模型能力。
IT技术
( twitter.com)

9个月前 • 歸藏 • -- 点击 • 下载视频 0 评论

00:00:26

这位 Reddit 网友本地AI大模型配置击中多少垃圾佬的心？啧啧，闲鱼看了一些大件，能捡漏应该还要不到 $2000……
HP DL380P Gen 准系统￥350
E5-2667 ￥260(130一颗)
16X16 256G ECC ￥720
8 X TESLA P40 24GB ￥7200
请不要贴脸开大在评论中提3090和灭火器。
IT技术
( twitter.com)

9个月前 • Geek • -- 点击 0 评论

在我吐槽 YAML 以后，今天发现有一种配置格式击穿了我的下限，webpack 的文档挖到的重量级选手
谁能想到使用 JSX 居然还能写配置文件？这应该是奇葩比烂配置文件格式大赏第一名。
IT技术
( webpack.js.org)

10个月前 • Viking • -- 点击 0 评论

兄弟们炸裂了
这个语音专文本TTS模型应该是目前对中文支持最好的了
ChatTTS：专门为对话场景设计的文本到语音TTS模型
该模型经过超过10万小时的训练，公开版本在 HuggingFace 上提供了一个4万小时预训练的模型。
专为对话任务优化，能够支持多种说话人语音，中英文混合等。
时政
( twitter.com)

7个月前 • 小互 • -- 点击 • 下载视频 0 评论

00:05:26

Cursor 收购了另一个 AI 编码插件 Supermaven。
Supermaven 的主要特点是响应速度极快、具备 100 万上下文窗口。
未来 Cursor 将推出全新版本的 Tab 模型。
运行速度更快、具备上下文感知能力、智能程度更高，尤其是在处理连续多次改变时。
IT技术
( twitter.com)

1个月前 • 歸藏(guizang.ai) • -- 点击 0 评论

HuggingChat 出 iOS 应用了，在设置中有多款模型可以切换。
注：下载应用需要海外 Apple 账号
IT技术
( apps.apple.com)

8个月前 • lencx • -- 点击 0 评论

最近玩 Ollama 项目，搭配 Ollama-webui 在本地跑几个小模型玩玩，纯 CPU 输出(黑苹果A卡的痛)，突然想到为啥不利用我 24X7 运行的 NAS，配置也不低（i5 10500T 48G内存），通过搬瓦工日本 VPS 搭建 Ollama-webui，再用 frp 打洞连接到 NAS 的 Ollama API，岂不美滋滋（以上已实现）。下一步，NAS…
IT技术
( twitter.com)

1年前 • Geek • -- 点击 0 评论

NVIDIA发布一个可以运行在PC上本地模型：Chat With RTX
该模型可以与你自己的内容（文档、笔记、视频或其他数据）相连接，
利用检索增强生成（RAG）、TensorRT-LLM和RTX加速技术，用户可以个性化地创建一个聊天机器人。
快速获得上下文相关的答案。所有操作均在用户本地完成！
它专为搭载NVIDIA…
IT技术
( twitter.com)

10个月前 • 小互 • -- 点击 • 下载视频 0 评论

00:01:05

推荐阅读：把大语言模型封装成桌面应用
作者使用Electron+Transformer.js，把大语言模型打包成桌面应用，这样就可以本地运行大语言模型。
另外作者开发了一个框架叫ollama（ 2、Mistral等，但目前只支持Mac和Linux，还不支持Windows。…
IT技术
( github.com)

1年前 • 宝玉 • -- 点击 0 评论

看了下模型文件才1G多，本地运行应该配置要求不高吧？ IT技术 ( twitter.com )

IT技术

IT技术

IT技术

在我吐槽 YAML 以后，今天发现有一种配置格式击穿了我的下限，webpack 的文档挖到的重量级选手 谁能想到使用 JSX 居然还能写配置文件？这应该是奇葩比烂配置文件格式大赏第一名。 IT技术 ( webpack.js.org)

IT技术

时政

IT技术

HuggingChat 出 iOS 应用了，在设置中有多款模型可以切换。 注：下载应用需要海外 Apple 账号 IT技术 ( apps.apple.com)

IT技术

IT技术

IT技术

IT技术

创建一个新帐户

登录

看了下模型文件才1G多，本地运行应该配置要求不高吧？
IT技术
( twitter.com )

在我吐槽 YAML 以后，今天发现有一种配置格式击穿了我的下限，webpack 的文档挖到的重量级选手
谁能想到使用 JSX 居然还能写配置文件？这应该是奇葩比烂配置文件格式大赏第一名。
IT技术
( webpack.js.org)

HuggingChat 出 iOS 应用了，在设置中有多款模型可以切换。
注：下载应用需要海外 Apple 账号
IT技术
( apps.apple.com)