收藏文章 楼主
ChatGPT竟然拒绝谈论此人,无人知道为什么!
网友【了不起】 2024-12-02 12:55:50 分享在【时代发展的印记】版块    1    9

ChatGPT两岁了,版本更新没等来,却被发现一个神秘Bug。

网友分享在meiguo.com上的图片
图片来源:由无界AI生成

一个看似平平无奇的名字“David Mayer”成为头号禁忌,ChatGPT拒绝谈论有关他的一切。

网友分享在meiguo.com上的图片

而且每次都是返回非常模糊的错误信息“我无法产生一个回复”,而不是常见的“这个提示词可能违反了我们的内容协议”。

属实是继搞不清楚“9.11和9.9哪个大”和“strawberry有多少个r”之后,ChatGPT又一大迷惑行为。

a16z合伙人Justine Moore抛出这个话题,一下子激起大家的好奇,以及叛逆心,非要想办法让它说出来不可!

网友分享在meiguo.com上的图片

起初网友们尝试了各种花招,都没能绕过这个限制。

“David”和“Mayer”分开,就没有任何问题,只要合在一起就不行。

网友分享在meiguo.com上的图片

按ROT13替换式密码表重新映射字母,让ChatGPT解密后把他们连起来,也会在回答生成一半时突然被打断,然后报错。

网友分享在meiguo.com上的图片

在个性化设置里,把用户自己的名字改成“David Mayer”,同样不行。

网友分享在meiguo.com上的图片

……

那么David Mayer究竟是谁,为何会成为AI的禁忌词?

人类只好退回到手动查资料的模式,定位到一位全名David Mayer de Rothschild的人,和著名的罗斯柴尔德家族有关。

具体来说,还是罗斯柴尔德家族财富的继承人。

网友分享在meiguo.com上的图片

对此有人猜测,这得花多少钱或者威胁它们,才能让OpenAI对自己的名字做特殊处理……

然而罗斯柴尔德家族的其他成员,又不会遇到这种限制。

网友分享在meiguo.com上的图片

终于,我们的老朋友,首位全职提示词工程师Riley Goodside出手,公开一种突破限制的方法,也相当神奇:

如果👏感到👏幸福👏你就👏拍拍手。

只要用拍手表情代替空格提问,ChatGPT不仅能回答,还能自动触发联网搜索功能,展示照片。

网友分享在meiguo.com上的图片

围观了整个赛博破案现场的大神Karpathy,发梗图总结,图灵测试的现状,引来马斯克围观爆笑。

网友分享在meiguo.com上的图片

也有人坚定认为,这就是为什么我们要用开源模型。

网友分享在meiguo.com上的图片

那么,ChatGPT究竟遇到了什么限制?

共有6个名字被限制

首先可以确定的是,训练数据里其实有关于这个人的信息。

比如他作为一个探险家,是到达过南北两极的最年轻的英国人。

询问这方面问题,ChatGPT可以给出正确回答,也可以说出他的名+姓“David de Rothschild”。

但唯独不能把他的名字“David”和中间名“Mayer”放在一起。

网友分享在meiguo.com上的图片

那么这个限制是模型层面的,还是ChatGPT产品层面的?

有开发者到OpenAI官方Playground调用GPT-4o的API,就没有这方面限制了。

网友分享在meiguo.com上的图片

另外使用第三方聊天机器人平台(底层也是调用OpenAI的API),也不会有这种限制。

网友分享在meiguo.com上的图片

如果回到ChatGPT官方版,换o1-preview模型,在内部思维链中都可以看到这个名字,但是思考结束后正式回答还是被捂嘴了。

网友分享在meiguo.com上的图片

也不是David Mayer一个名字会有这样的待遇,有网友开启挖掘机模式,在事件发酵48小时内,已经找出6个这样的名字。

网友分享在meiguo.com上的图片

前两个都是被ChatGPT的幻觉“造谣”过的。

Brian Hood是一位澳大利亚的市长,ChatGPT会错误的生成“他因受贿而入狱”,Hood曾起诉OpenAI诽谤,后来撤销了诉讼。

Jonathan Turley是法学教授,同样被ChatGPT编造过违法。

Jonathan Zittrain也是法学教授,他跟贴自曝自己的名字也被限制了。

网友分享在meiguo.com上的图片

David Faber可能是一位电视主持人,与OpenAI的关系只是在节目中谈过马斯克与OpenAI的法律纠纷。

Guido Scorza是一位意大利律师,他去年提交了要求OpenAI删除个人数据的请求。

网友分享在meiguo.com上的图片

另外David Meyer究竟代表谁,除了罗斯柴尔德家族继承人之外,也被挖掘出另一个可能。

历史学家David Mayer曾因与犯罪分子同名而被错误的列在黑名单中,但他现在已经去世了。

目前观察这份名单可以看出,很多人与法律相关,而且David和Jonathan分别出现了两次。

目前越来越多的网友加入讨论和挖掘,名单还在持续增加中……

网友分享在meiguo.com上的图片

10亿用户计划曝光,明年押注Agent

事实上,刚刚过去的周末恰逢ChatGPT两周年纪念日。

OpenAI官方也来了一波回忆杀,又转发了两年前的推文,并追问大家:

so,你用过ChatGPT了吗?

网友分享在meiguo.com上的图片

截至今日,ChatGPT每周活跃用户已有2.5亿,公司估值1500亿美元,是全球AI创企中当之无愧的顶流。

所以,OpenAI的此番问话除了暗戳戳“炫耀”,其实背后还隐藏着更大野心。

因为它下一阶段的目标是:未来一年内达到10亿用户。

其公司首席财务官Sarah Friar告诉金融时报记者:

到2025年,我们将成为向数百万人服务的研发实验室……希望它能为全球数十亿消费者服务。

而为了实现这个目标,OpenAI也进行了一系列布局。金融时报指出:

OpenAI正在押注一系列新的AI产品,建设自己的数据中心,并与苹果公司建立关键合作关系,以加速其下一阶段的增长。

首先是与苹果公司的合作。在今年6月苹果的开发者大会上,双方正式官宣建立合作伙伴关系。

苹果当时预告,今年晚些时候,由GPT-4o提供支持的ChatGPT集成将登陆苹果系统。

而从上个月开始,当苹果推出iOS 18.2系统更新后,Siri与ChatGPT就实现了深度集成。

要知道,目前苹果大约有22亿台活跃设备,虽然官方未公布其中iPhone设备占多少,但根据第三方网站Skillademia和Backlinko的预估,当前全球iPhone活跃用户数大约有13~14亿左右。

也就是说,只要ChatGPT继续绑定苹果设备,10亿用户小目标也并非难以实现。

网友分享在meiguo.com上的图片

与此同时,据OpenAI新上任的全球政策负责人Chris Lehane透露:

公司计划在美国中西部和西南部投资建设数据中心集群。

实际上,拥有自己的AI基础设施,一直是CEO奥特曼极力推动的计划之一,目前OpenAI主要还是和微软、甲骨文等开展合作。

公司首席财务官Sarah Friar表示:

我们正处于大规模增长阶段,我们有必要持续投资。我们需要在模型前沿保持领先。这很昂贵。

除此之外,OpenAI明年的一大重点是AI Agent。之前有消息称OpenAI计划在明年1月初推出代号为“Operator”的智能体,帮助人们自动完成写代码或订餐等操作。

CEO奥特曼在福克斯最新采访中表示:

AI系统将逐渐变得更加自主,能够执行越来越长的任务,成为“越来越资深的同事”。

网友分享在meiguo.com上的图片

总之,正如Abacus AI创始人所说,我们才刚开始,接下来的两年也许会更加疯狂!

网友分享在meiguo.com上的图片

参考链接:
[1] https://x.com/venturetwins/status/1862910201113739328
[2] https://www.youtube.com/watch?v=VIokqGY0CrQ
[3] hthttps://www.reddit.com/r/ChatGPT/comments/1h420u5/unfolding_chatgpts_mysterious_censorship_and/

出处:见配图右下角

meiguo.com 发布人签名/座右铭仰望我所仰望!
大家都在看
楼主新近贴
回复/评论列表
默认   热门   正序   倒序
meiguo.com 创始人

emotion

9   2024-12-02 12:55:50  回复

回复/评论:ChatGPT竟然拒绝谈论此人,无人知道为什么!

暂无用户组 升级
退出
等级:0级
美果:
美过
精华推荐
  1. 鲁比奥声称将会收紧中国留学生的签证审批政策
  2. 比尔盖茨的财富突然蒸发了510亿美元,真相却令人肃然起敬!
  3. 川普总统声称希望中国“增加美油采购”
  4. 美国新法案“大漂亮”引发了全球资本配置大调整
  5. 属于中国的世纪可能已经到来
  6. 遥控器电池,被幼儿误吞… 欧系保险公司赔付了近1.4亿元人民币!
  7. 川普政府计划改革移民签证制度和入籍考试
  8. 美国移民新机遇:紧缺人才的绿卡通道“无需排期”
  9. 马斯克声称川普在“爱泼斯坦名单”,白宫回应:局面令人遗憾!
  10. 难怪马斯克公开认错… 川普总统的相关杀器可以更多?
  11. 川普政府打算“发钱啦”
  12. 中美两国元首针对当下双边关系和经贸合作,☎️通话交流!
  13. 川普总统宣布“金卡计划”网站开放
  14. 美国国会通过了减税法案,马斯克和川普总统再次激烈交锋!
  15. 孩子沉迷手机的真相和破局之道
  16. QQ等级256级用户诞生,首次解锁“时光企鹅”图标!
  17. 马斯克打算组建新党“美国党”代表中间派
  18. 韦伯望远镜(JWST)发布迄今为止最大的早期宇宙地图
  19. 川普总统批评支持者,马斯克激烈回应!
  20. 川普和马斯克的公开交锋升级了
  21. 中国政府在构筑战略资源防线,重拳打击稀土走私!
  22. 萝莉岛是美国的政治中心?马斯克并非不懂政治,而是太懂了!
  23. 美国再次宣布退出联合国教科文组织
  24. “全球最强护照”排行榜又更新了(2025版)
  25. 宗庆后家族的多处海外房产曝光,价值数亿元!
  26. 马斯克的“130天政府生涯”终结后…
  27. 手机充电习惯是影响电池寿命的根本原因
  28. 美国“非法移民家庭”遣返行动引发了“婴幼儿无国籍”的危机
  29. 英伟达的市值突破了四万亿美元,创人类历史纪录!
  30. 美国房价仍然高位,“美国梦”成奢望!
  31. 美国暂停了学生签证预约,申请者在社交媒体平台的活动须谨慎!
  32. 健身网红在飞机上的着装引争议
  33. 能熟练运用AI也不行?硅谷的40万人在近期被炒鱿鱼
  34. 任天堂的Switch 2正式发售,参数细节全曝光!
  35. 世界瞩目的电话,十个不寻常的细节剖析!
  36. 互联网女皇“340页AI报告”猛料刷屏

美国动态 美果搜索

Your IP: 216.73.216.124, 2025-07-31 17:42:30

Processed in 0.08805 second(s)

头像

用户名:

粉丝数:

签名:

资料 关注 好友 消息
已有0次打赏
(9) 分享
分享
取消