收藏文章 楼主
ChatGPT竟然拒绝谈论此人,无人知道为什么!
网友【了不起】 2024-12-02 12:55:50 分享在【时代发展的印记】版块    1    9

ChatGPT两岁了,版本更新没等来,却被发现一个神秘Bug。

网友分享在meiguo.com上的图片
图片来源:由无界AI生成

一个看似平平无奇的名字“David Mayer”成为头号禁忌,ChatGPT拒绝谈论有关他的一切。

网友分享在meiguo.com上的图片

而且每次都是返回非常模糊的错误信息“我无法产生一个回复”,而不是常见的“这个提示词可能违反了我们的内容协议”。

属实是继搞不清楚“9.11和9.9哪个大”和“strawberry有多少个r”之后,ChatGPT又一大迷惑行为。

a16z合伙人Justine Moore抛出这个话题,一下子激起大家的好奇,以及叛逆心,非要想办法让它说出来不可!

网友分享在meiguo.com上的图片

起初网友们尝试了各种花招,都没能绕过这个限制。

“David”和“Mayer”分开,就没有任何问题,只要合在一起就不行。

网友分享在meiguo.com上的图片

按ROT13替换式密码表重新映射字母,让ChatGPT解密后把他们连起来,也会在回答生成一半时突然被打断,然后报错。

网友分享在meiguo.com上的图片

在个性化设置里,把用户自己的名字改成“David Mayer”,同样不行。

网友分享在meiguo.com上的图片

……

那么David Mayer究竟是谁,为何会成为AI的禁忌词?

人类只好退回到手动查资料的模式,定位到一位全名David Mayer de Rothschild的人,和著名的罗斯柴尔德家族有关。

具体来说,还是罗斯柴尔德家族财富的继承人。

网友分享在meiguo.com上的图片

对此有人猜测,这得花多少钱或者威胁它们,才能让OpenAI对自己的名字做特殊处理……

然而罗斯柴尔德家族的其他成员,又不会遇到这种限制。

网友分享在meiguo.com上的图片

终于,我们的老朋友,首位全职提示词工程师Riley Goodside出手,公开一种突破限制的方法,也相当神奇:

如果👏感到👏幸福👏你就👏拍拍手。

只要用拍手表情代替空格提问,ChatGPT不仅能回答,还能自动触发联网搜索功能,展示照片。

网友分享在meiguo.com上的图片

围观了整个赛博破案现场的大神Karpathy,发梗图总结,图灵测试的现状,引来马斯克围观爆笑。

网友分享在meiguo.com上的图片

也有人坚定认为,这就是为什么我们要用开源模型。

网友分享在meiguo.com上的图片

那么,ChatGPT究竟遇到了什么限制?

共有6个名字被限制

首先可以确定的是,训练数据里其实有关于这个人的信息。

比如他作为一个探险家,是到达过南北两极的最年轻的英国人。

询问这方面问题,ChatGPT可以给出正确回答,也可以说出他的名+姓“David de Rothschild”。

但唯独不能把他的名字“David”和中间名“Mayer”放在一起。

网友分享在meiguo.com上的图片

那么这个限制是模型层面的,还是ChatGPT产品层面的?

有开发者到OpenAI官方Playground调用GPT-4o的API,就没有这方面限制了。

网友分享在meiguo.com上的图片

另外使用第三方聊天机器人平台(底层也是调用OpenAI的API),也不会有这种限制。

网友分享在meiguo.com上的图片

如果回到ChatGPT官方版,换o1-preview模型,在内部思维链中都可以看到这个名字,但是思考结束后正式回答还是被捂嘴了。

网友分享在meiguo.com上的图片

也不是David Mayer一个名字会有这样的待遇,有网友开启挖掘机模式,在事件发酵48小时内,已经找出6个这样的名字。

网友分享在meiguo.com上的图片

前两个都是被ChatGPT的幻觉“造谣”过的。

Brian Hood是一位澳大利亚的市长,ChatGPT会错误的生成“他因受贿而入狱”,Hood曾起诉OpenAI诽谤,后来撤销了诉讼。

Jonathan Turley是法学教授,同样被ChatGPT编造过违法。

Jonathan Zittrain也是法学教授,他跟贴自曝自己的名字也被限制了。

网友分享在meiguo.com上的图片

David Faber可能是一位电视主持人,与OpenAI的关系只是在节目中谈过马斯克与OpenAI的法律纠纷。

Guido Scorza是一位意大利律师,他去年提交了要求OpenAI删除个人数据的请求。

网友分享在meiguo.com上的图片

另外David Meyer究竟代表谁,除了罗斯柴尔德家族继承人之外,也被挖掘出另一个可能。

历史学家David Mayer曾因与犯罪分子同名而被错误的列在黑名单中,但他现在已经去世了。

目前观察这份名单可以看出,很多人与法律相关,而且David和Jonathan分别出现了两次。

目前越来越多的网友加入讨论和挖掘,名单还在持续增加中……

网友分享在meiguo.com上的图片

10亿用户计划曝光,明年押注Agent

事实上,刚刚过去的周末恰逢ChatGPT两周年纪念日。

OpenAI官方也来了一波回忆杀,又转发了两年前的推文,并追问大家:

so,你用过ChatGPT了吗?

网友分享在meiguo.com上的图片

截至今日,ChatGPT每周活跃用户已有2.5亿,公司估值1500亿美元,是全球AI创企中当之无愧的顶流。

所以,OpenAI的此番问话除了暗戳戳“炫耀”,其实背后还隐藏着更大野心。

因为它下一阶段的目标是:未来一年内达到10亿用户。

其公司首席财务官Sarah Friar告诉金融时报记者:

到2025年,我们将成为向数百万人服务的研发实验室……希望它能为全球数十亿消费者服务。

而为了实现这个目标,OpenAI也进行了一系列布局。金融时报指出:

OpenAI正在押注一系列新的AI产品,建设自己的数据中心,并与苹果公司建立关键合作关系,以加速其下一阶段的增长。

首先是与苹果公司的合作。在今年6月苹果的开发者大会上,双方正式官宣建立合作伙伴关系。

苹果当时预告,今年晚些时候,由GPT-4o提供支持的ChatGPT集成将登陆苹果系统。

而从上个月开始,当苹果推出iOS 18.2系统更新后,Siri与ChatGPT就实现了深度集成。

要知道,目前苹果大约有22亿台活跃设备,虽然官方未公布其中iPhone设备占多少,但根据第三方网站Skillademia和Backlinko的预估,当前全球iPhone活跃用户数大约有13~14亿左右。

也就是说,只要ChatGPT继续绑定苹果设备,10亿用户小目标也并非难以实现。

网友分享在meiguo.com上的图片

与此同时,据OpenAI新上任的全球政策负责人Chris Lehane透露:

公司计划在美国中西部和西南部投资建设数据中心集群。

实际上,拥有自己的AI基础设施,一直是CEO奥特曼极力推动的计划之一,目前OpenAI主要还是和微软、甲骨文等开展合作。

公司首席财务官Sarah Friar表示:

我们正处于大规模增长阶段,我们有必要持续投资。我们需要在模型前沿保持领先。这很昂贵。

除此之外,OpenAI明年的一大重点是AI Agent。之前有消息称OpenAI计划在明年1月初推出代号为“Operator”的智能体,帮助人们自动完成写代码或订餐等操作。

CEO奥特曼在福克斯最新采访中表示:

AI系统将逐渐变得更加自主,能够执行越来越长的任务,成为“越来越资深的同事”。

网友分享在meiguo.com上的图片

总之,正如Abacus AI创始人所说,我们才刚开始,接下来的两年也许会更加疯狂!

网友分享在meiguo.com上的图片

参考链接:
[1] https://x.com/venturetwins/status/1862910201113739328
[2] https://www.youtube.com/watch?v=VIokqGY0CrQ
[3] hthttps://www.reddit.com/r/ChatGPT/comments/1h420u5/unfolding_chatgpts_mysterious_censorship_and/

出处:见配图右下角

meiguo.com 发布人签名/座右铭仰望我所仰望!
大家都在看
楼主新近贴
回复/评论列表
默认   热门   正序   倒序
meiguo.com 创始人

emotion

9   2024-12-02 12:55:50  回复

回复/评论:ChatGPT竟然拒绝谈论此人,无人知道为什么!

暂无用户组 升级
退出
等级:0级
美果:
美过
精华推荐
  1. 手机充电习惯是影响电池寿命的根本原因
  2. 美国企业在强化回归办公室的工作要求
  3. 川普总统:加拿大可以免费加入“金穹”导弹防御系统
  4. 马斯克声称川普在“爱泼斯坦名单”,白宫回应:局面令人遗憾!
  5. 金星地壳似乎剧烈变化了,NASA即将启动新任务探索求证!
  6. 互联网女皇“340页AI报告”猛料刷屏
  7. 川普政府的关税政策或将加速中国崛起,助力中国成为全球的经济主导力量!
  8. QQ等级256级用户诞生,首次解锁“时光企鹅”图标!
  9. “蜗居”纽约的中国穷人:男女同住,毫无私隐… 却坚持不肯回国
  10. 美国“非法移民家庭”遣返行动引发了“婴幼儿无国籍”的危机
  11. 世界瞩目的电话,十个不寻常的细节剖析!
  12. 属于中国的世纪可能已经到来
  13. 川普家族“哈佛风波”和签证政策的突变
  14. 英国2岁男童竟然刷新了门萨俱乐部“最年轻男性”会员纪录
  15. 美国暂停了学生签证预约,申请者在社交媒体平台的活动须谨慎!
  16. 任天堂的Switch 2正式发售,参数细节全曝光!
  17. 韦伯望远镜(JWST)发布迄今为止最大的早期宇宙地图
  18. 中美两国元首针对当下双边关系和经贸合作,☎️通话交流!
  19. 在美国,千万别做的这些事盘点!
  20. 全球AI人才的争夺战白热化,顶尖研究员成为了科技巨头争夺焦点
  21. 盖茨列出了10项改变世界的技术名单
  22. 出乎全世界意料,中美两国的“2025日内瓦谈判”太亲密了吧?
  23. 鲁比奥声称将会收紧中国留学生的签证审批政策
  24. 美国联邦调查局警示:“新型医疗保险”骗局泛滥
  25. 旅居海外十几年,母亲是心头之痛!
  26. 中美通话的内容简短,但意味深长!
  27. 能熟练运用AI也不行?硅谷的40万人在近期被炒鱿鱼
  28. 川普和马斯克的公开交锋升级了
  29. 马斯克打算组建新党“美国党”代表中间派
  30. 中美贸易战的谈判再起,稀土贸易成为焦点
  31. 马斯克的“130天政府生涯”终结后…
  32. 美国房价仍然高位,“美国梦”成奢望!
  33. 美国对华为“HarmonyOS”采取行动,引发科技领域的新争议!
  34. 嘴唇经常干裂起皮,或许并非缺水!
  35. 中美各自取消91%关税!为防🇺🇸川普政府反悔,🇨🇳重申关键问题!
  36. 判刑15年!发币ICO的定性为诈骗

美国动态 美果搜索

Your IP: 216.73.216.8, 2025-07-02 11:12:46

Processed in 0.08418 second(s)

头像

用户名:

粉丝数:

签名:

资料 关注 好友 消息