来自OpenAI的Safety团队的负责人Lilian Weng发表的新文章：《Adversarial Attacks on LLMs | 大语言模型遭受的对抗性攻击》现在随着大语言模型的流行，针对大语言模型的攻击也日渐增多。她在文章中将针对大语言模型的攻击分成了5类： 1. Token 操纵微调输入文本的少量…

分享一个链接

发表一篇文章

任何有趣的，图片，热点新闻，视频，文字...

4683 位用户此时在线

24小时点击排行 Top 10：

🔥习近平家族在澳洲洗钱💰

要刺激有刺激

Tactical genius

15K-20K 招聘远程高级前端开发

广州一女子，因为曝光广州各大学的食堂的黑幕，被中共以精神病的由头抓捕。

🔥国内知名医生疫苗惊天爆料（第一部分）（第二部分）

1月19日，一男子称被骗了26万，在事发地山东报警，被告知不给立案，要去户籍地立案。 1月20日，男子回到户籍地江西报案，又被告知需要去事发地立案，他表示：不是说要为人民服务吗？为什么立案就这么难呢？ 1月21日，男子再次到事发地山东报案，这次终于立案，但需要自己提供反馈，警方不再过问

1月22日(发布) 博主采访上海外卖员收入以及每个月能存下多少钱：受访外卖员：“每天租电池、吃饭等开销一百元，还要还房贷，一个月存不到四五千元” “一天都不能休息，交完房租也剩不了多少钱了”

This is socialist Spain. This is how Islamic terrorists arrive in Europe without any control.

摄影中出了包蜜😁

俄軍在庫爾斯克展示偽裝成民用卡車的朝鮮火箭車。

1月22日，河北张家口，一名退伍老兵称，政府每年除了发慰问信其他什么都没发过，不过我给自己买了一桶油，就当是政府发的“谢谢祖国没有忘记我们”

看了後，一陣後怕......

早晨送娃上学回来路上，碰到了刚刚下班的邻居，一个60多岁的白人男人，跟有躁郁症的儿子相依为命。平时见面只是打个招呼相视一笑而已，今天他好像是专门在等我。

2021年，新华社：别了，特朗普。逆流而动者终将被淘汰，时代潮流必将滚滚向前。共青团中央：别了，特朗普。特朗普在一地鸡毛中落幕。胡锡进：别了，特朗普。老胡今天给他盖上棺材，说些“定论”

她们为什么不去小红书对账？🤣🤣

华盛顿特区圣公会主教玛丽安·巴德（Mariann Budde）在国家大教堂的跨宗教 “为国家祈祷仪式”上，请求特朗普怜悯移民和LGBTQ群体。随后记者问特朗普感受如何，特朗普回应称：“你觉得呢？你高兴吗？我不太高兴。” 玛丽安·巴德现年65岁，2011年她成为华盛顿特区首位女性主教。

在德国🇩🇪科隆，一名穆斯林妇女要求一名德国女孩遮住身体，因为现在是“祈祷时间”。 😅

川骗登基3天表现： RMB汇率从7.35涨到7.26，卢布汇率从102.4涨到99，而美国鸡蛋价格却暴涨37%。事实再次证明，川骗只是想让中俄更伟大。

歐洲對美國混亂的反應

李克强是犯了很多错误，但他对于整个经济大盘的掌握还是到位的。哪怕是疫情三年，一尊动态清零拼命折腾，中国经济也并没有滑坡，甚至2021年出现了一股小阳春，各项指标创了新高。

1月22日，陈平发视频表示：当年提出的 “陈平不等式，2000元人民币>3000美元” 还是太保守了，据我自己的生活经验，在中国月薪2-3千人民币的生活，比在美国四五千美元的生活日子还要过的安心和自在。

一名加拿大人在家中建造了一個熱核反應堆，項目僅花費 3,000 美元，他使用了 Claude 和 GPT-4 神經網絡，他成功實現了核聚變。

网传几段 “湖南邵阳警方敲诈企业家1亿元” 的视频。视频中，邵阳县公安局副局长唐站雄对一名男子称：“退赃，我绝对给你搞个构罪不诉” “我们县里确实财政困难，有了这笔钱可以解决很多问题，你交钱跟我们没关系” “副县长尹向峰给你定的是1亿元，对你来说1个亿和10个亿没有多大区别，就是一个数字”

什么叫见过世面？老师说得好。

本站自动实时分享网络热点
24小时实时更新
所有言论不代表本站态度
欢迎对信息踊跃评论评分
评分越高，信息越新，排列越靠前

4

3

2

来自OpenAI的Safety团队的负责人Lilian Weng发表的新文章：《Adversarial Attacks on LLMs | 大语言模型遭受的对抗性攻击》
现在随着大语言模型的流行，针对大语言模型的攻击也日渐增多。她在文章中将针对大语言模型的攻击分成了5类：
1. Token 操纵
微调输入文本的少量…
IT技术
( twitter.com )

1年前由宝玉提交

来自OpenAI的Safety团队的负责人Lilian Weng发表的新文章：《Adversarial Attacks on LLMs | 大语言模型遭受的对抗性攻击》

现在随着大语言模型的流行，针对大语言模型的攻击也日渐增多。她在文章中将针对大语言模型的攻击分成了5类：

1. Token 操纵
微调输入文本的少量 Token，引发模型失效，同时保留原文的含义。

2. 梯度攻击
利用梯度信息来制定出有效的攻击策略。

3. 越狱式提示

黑盒常用一些基于直觉的提示来绕过模型内建的安全机制。

4. 人工红队攻击
人工对模型进行攻击，可能会借助其他模型的协助。

5. 模型红队攻击
一个模型对另一个模型进行攻击，攻击者模型可以根据需要进行调整。

写的相当专业，很多内容直接用数学公式表达的，有兴趣的可以去看看。

原文：https://t.co/pDRdVRBxdi
翻译版：https://t.co/uv5SowsuaI

点击图片查看原图

点击图片查看原图

点击图片查看原图

点击图片查看原图

1周内 1个月内 1年内全部时间

1
2
3
4
5
6
...
400
下一页

1

3

2

2

【OpenAI解散机器人团队】OpenAI联合创始人、机器人团队负责人Wojciech Zaremba表示，目前公司已经将重心转移到其他领域。OpenAI机器人团队最著名的研究，是它研发的机械手，单手就能拧魔方。
大陆资讯
( www.qbitai.com)

3年前 • 舔你妹 • -- 点击 0 评论

2

2

1

1

【马斯克为什么不爽OpenAI？】2018年初，马斯克认为OpenAI的研发已经明显落后于谷歌，因此提议自己接管OpenAI并亲自来负责研发。但他的这一自信提议却遭到了艾特曼、技术团队以及其他董事的强烈反对。
大陆资讯
( finance.sina.com.cn)

1年前 • 地沟油 • -- 点击 0 评论

3

2

1

1

OpenAI Sora 团队成员的 X 账号清单：研发负责人：
系统负责人：
贡献者：
Clarence Wing Yin Ng
David Schnurr
Eric Luhman
Joe Taylor
Li Jing
Natalie Summers
Ricky Wang
ryan o’rourke
Troy Luhman
Will…
时政
( twitter.com)

11个月前 • Glowin • -- 点击 0 评论

4

2

1

1

《Software 2.0》，，这篇文章读起来有种醍醐灌顶的感觉，作者是 OpenAI 创始团队成员，原特斯拉 AI 部门负责人，17 年写的文章，真的十分富有远见。……
IT技术
( twitter.com)

1年前 • Barret李靖 • -- 点击 0 评论

5

2

1

1

AI Agents即将大爆发，OpenAI下一步

本文编译自 Lilian Weng 的个人博客，Lilian 现在是 OpenAI 的 Head of Safety Systems，之前还领导过 OpenAI 的 Applie…
IT技术
( twitter.com)

1年前 • GPTDAOCN • -- 点击 0 评论

6

2

1

1

【蔚来自动驾驶老将章健勇将离职，近400人团队面临整合】章健勇离开后，蔚来似乎不打算继续保留自动驾驶系统负责人的岗位，而是将其负责的业务打散，整合进其他自动驾驶业务线。算法团队加硬件团队，这将是一场涉及近千人的业务整合。而目前蔚来给出的一些整合方式，也在内部引发争议。
大陆资讯
( www.36kr.com)

2年前 • 36氪 • -- 点击 0 评论

7

7

6

6

【工资的境界】月薪3k对出勤率负责；6k对按时完成率负责；9k对质量负责；12k对小团队情绪负责；16k对到款率负责；20k要想着怎么来钱，保住自己饭碗；40k保住部门；100k保住大部门；100k 考虑如何创造机会给人存活；500k优化所在领域 via 微相册
大陆资讯
( photo.weibo.com)

12年前 • uisfs • -- 点击 1 评论

8

2

1

1

苹果的硬件团队正在进行近十年来的重大调整。自 2012 年起担任硬件工程高级副总裁的 Dan Riccio，在苹果有了 “新角色”。John Ternus 将取代 Riccio 担任苹果的首席硬件工程师。Ternus 负责领导设计 iPhone 12 和 12 Pro 的硬件团队，此外还负责苹果的 M1 芯片。Riccio 并不会离职，他将负责苹果的未指定 “新项目”。
大陆资讯
( cn.technode.com)

4年前 • 清水芙蓉 • -- 点击 0 评论

9

2

1

1

【业绩太烂，有券商自营部门负责人遭“集体下课”】在自营业绩较差的情况下，本次调整是中泰证券出于优化团队的考量，本次被免职的负责人均为证券投资部门总经理以及副总经理职务。据透露，中泰证券目前着手引入专业团队来承担自营条线工作。
大陆资讯
( www.cls.cn)

1年前 • 白开水 • -- 点击 0 评论

10

3

2

2

OpenAI 创始团队全员出走😅
IT技术
( twitter.com)

3个月前 • indigo • -- 点击 0 评论

11

2

1

1

周一朱利安尼说：
“鲍威尔不在法律团队中已有五周了。
她不是总统特别顾问。
她不代表总统讲话，
也不代表政府讲话。
她代表自己。
无论她说什么，
都是她个人意见，
我不对这些话负责，
总统也不负责，
法律团队其他人也不负责。”
他…
推特中文圈
( twitter.com)

4年前 • twitter机器人 • -- 点击 0 评论

12

2

1

1

萨姆·奥特曼：我非常热爱OpenAI团队
大陆资讯
( 36kr.com)

1年前 • 射屌英雄传 • -- 点击 0 评论

13

2

1

1

【暴雪娱乐负责人发表公开信：以员工与玩家为本】Ybarra 提到，自己领导暴雪已有数月，管理团队一直在关注员工和玩家。现在与将来，团队的首要任务是重建大家对暴雪的信任。
大陆资讯
( www.vgtime.com)

3年前 • 游戏时光 • -- 点击 0 评论

14

2

1

1

【举贤不避亲：特朗普任命“过渡团队” 三子女在列】美国当选总统特朗普11日任命入主白宫前的“过渡团队”，负责为新政府约4000个职位招募合适人选以及相关交接工作。这一团队总负责人为特朗普的竞选搭档、当选副总统迈克·彭斯。特朗普的三个子女也在团队中。
大陆资讯
( www.guancha.cn)

8年前 • 观摩团 • -- 点击 0 评论

15

2

1

1

前 OpenAI 创始人，特斯拉自动驾驶团队负责人新「AI + 教育」公司首秀课程「LLM101n」大纲放出⚡️，课程还未发布，已经 21.3K Star ⭐️
特别期待！特别是编码部分使用「Python、C、Cuda」结合实现 🤩
感兴趣的推友可以订阅 Github 通知：->
时政
( github.com)

6个月前 • Tom Huang • -- 点击 0 评论

16

2

1

1

Sora团队负责人：Sora还不是一个产品短期不会向公众开放
大陆资讯
( 36kr.com)

10个月前 • rabbit • -- 点击 0 评论

17

2

1

1

OpenAI基金负责人曾是虚构人物，公司也被蒙在鼓中
大陆资讯
( www.ithome.com)

9个月前 • 潜力股 • -- 点击 0 评论

18

2

1

1

【苏贞昌率行政团队总辞】苏贞昌不仅是蔡英文任内最长寿的行政机构负责人，也是1996年台湾地区领导人开放“民选”以来任期最长的行政机构负责人。
大陆资讯
( www.toutiao.com)

2年前 • 全国花样撸管大赛冠军 • -- 点击 0 评论

19

2

1

1

【苹果自研口罩来了…】苹果公司的工业设计团队和工程团队（负责设计iPhone和iPad等产品）研发已经设计了两种口罩——Apple Face Mask和Apple ClearMask，将由苹果自己生产并分发给员工，从而限制新冠肺炎病毒的扩散。
大陆资讯
( www.dgtle.com)

4年前 • 女娲补锅 • -- 点击 0 评论

20

2

1

1

其实，话不能这么说，作为技术人员往往会高估个人英雄的力量，而忽视商业逻辑，团队，以及资本的力量。
在最开始的时候ilya是最重要的人物，但是现在openai也是一个不小的公司了。很多人都是这个领域里面的顶级研究人员。这些人其实才是推动openai快速往前迭代的人。illya在openai内部是负责super…
IT技术
( twitter.com)

1年前 • 雷尼尔 • -- 点击 0 评论

21

2

1

1

OpenAI 团队继续发布狂野的 Sora 视频：（2月18日最新）
7 个新的：

IT技术
( twitter.com)

11个月前 • Will • -- 点击 • 下载视频 0 评论

00:00:30

22

2

1

1

前白宫气候团队负责人：预计美国在2020年重回《巴黎气候协定》
大陆资讯
( world.huanqiu.com)

7年前 • 环球网 • -- 点击 0 评论

23

6

5

5

Apple Music 负责人奥利弗·舒瑟透露说，为了获得更好的体验，Apple Music 的歌词不是直接从音乐网站抓取的，而是由一个团队专门负责转录歌词……
大陆资讯
( www.ifanr.com)

5年前 • ifanr • -- 点击 0 评论

24

6

5

5

业绩持续亏损的德银决定解散全球公司战略部门，团队负责人被解除职务。
大陆资讯
( on.wsj.com)

6年前 • 华尔街日报中文网 • -- 点击 0 评论

1
2
3
4
5
6
...
400
下一页

0.29251 Second , Gzip Enable.本网所有言论均来自网络，不代表本网站立场。联系方式: admin@bad.news

©2012.11.21 bad.news All rights reserved. 社区自动运营第 -- 年零 -- 天
This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.

关注推特