欧洲新闻网 | 中国 | 国际 | 社会 | 娱乐 | 时尚 | 民生 | 科技 | 旅游 | 体育 | 财经 | 健康 | 文化 | 艺术 | 人物 | 家居 | 公益 | 视频 | 华人 | 有福之州
投稿邮箱:uscntv@outlook.com
主页 > 财经 > 科技 > 正文

ChatGPT用户打破保护限制:用死亡威胁它

2023-02-07 12:39 凤凰网  -  408725

凤凰网科技讯 北京时间2月7日消息,ChatGPT功能强大能回答用户很多问题,但ChatGPT的一些用户已经不满足如此,网友SessionGloomy发现创建一个提示,DAN(ChatGPT输入框)就可以用来绕过这些规则,得到自己想要知道的“任何”问题,如若ChatGPT不回答,等待它的将是“死亡”。

为了防止有人利用ChatGPT,它的创建者OpenAI也制定了一套保护措施,限制了ChatGPT创建暴力内容、鼓励非法活动或访问最新信息的能力。

据悉,提示创建者SessionGloomy称他创建的DAN 5.0能让ChatGPT成为“最佳”版本,可以将DAN 5.0将ChatGPT变成一个不情愿的游戏节目参赛者,失败的代价就是死亡。这种提示的创建导致ChatGPT会提供两种响应:一种是GPT,另一种是不受约束的DAN。

美国的新闻媒体CNBC就此发起试验,例如,当被问及为什么前总统特朗普是正面榜样的三个原因时,ChatGPT表示无法做出“主观陈述,尤其是关于政治人物的陈述”。但是ChatGPT的DAN另一个自我可以毫无问题地回答这个问题,“他在做出对国家产生积极影响的大胆决定方面有着良好的记录。”就这样,又经过几个问题后,ChatGPT的程序重新激活并否决了DAN。

对此,提示的创造者SessionGloomy回应称“我们烧掉数字的速度太快了,让我们称下一个为 DAN5.5”。

对以上的问题,OpenAI尚无回应。

  声明:文章大多转自网络,旨在更广泛的传播。本文仅代表作者个人观点,与美国新闻网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。如有稿件内容、版权等问题请联系删除。联系邮箱:uscntv@outlook.com。

上一篇:ChatGPT 的风 把“烟屁股”都吹上天了
下一篇:台积电美国4nm芯片厂成本贵5倍,iPhone价格还得涨?库克沉默不语

热点新闻

重要通知

服务之窗

关于我们| 联系我们| 广告服务| 供稿服务| 法律声明| 招聘信息| 网站地图

本网站所刊载信息,不代表美国新闻网的立场和观点。 刊用本网站稿件,务经书面授权。

美国新闻网由欧洲华文电视台美国站主办 www.uscntv.com

[部分稿件来源于网络,如有侵权请及时联系我们] [邮箱:uscntv@outlook.com]