关于AI:人类面临的真正威胁是什么?
网友【chuang】于【太平洋时间 2022-07-22 11:48:28】分享在【时代发展的印记】版块    37545    1    2

你试着在搜索栏敲入“搞笑视频”,点击其中一个搜索结果。

视频里的旁白用蜡笔小新似的语气向你介绍着故事背景,出人意料的剧情让你微微一笑,意犹未尽。

而下一个自动播放的视频,比刚看完的更胜一筹,甚至“搞笑”两个字直接出现在了搜索框热词里。

这是普通人刷手机最平常的画面,也是AI“不知不觉”深度参与的生活场景。不得不承认,我们的生活已经无法离开AI。

未来十年,AI技术的发展趋势和机遇在哪里?我们普通人的生活会受到怎么样的影响?我们可以做好哪些准备,拥抱机遇?

2022年7月17日,杨澜独家对话李开复、陈楸帆,三位共同聊了聊科技变化的风口和机会。

对话嘉宾:

李开复

国际人工智能专家、创新工场董事长兼CEO

陈楸帆

著名科幻作家、编剧、翻译、策展人

杨 澜

资深媒体人、天下女人研习社创始人

—1—

不是AI技术!

人类面临真正的威胁是什么?

李开复:我觉得AI带来几个惊喜中最大的一个就是深度学习的发明。

深度学习的算法其实跟人的大脑是完全不一样的,它是靠着海量的数据来驱动的,需要非常多的案例才能够工作和迭代。

案例多了,它就可以通过不断增加的案例,不断地增强自己的能力。所以,AI的进步速度靠数据驱动,我觉得这是特别令我欣喜的一件事情。

AI在过去十年发生的进步,可能比其他任何科学领域看到的发展都更快。

网友分享在meiguo.com上的图片

担忧的话,倒不是担忧AI本身会是坏的,会做坏事情、会伤害我们、会统治我们。AI发展出自我意识、感情还很遥远,甚至不一定能做得出来。我想强调的是,技术是中性的,是为善还是为恶主要是看使用者是谁。

我们能看到的担忧是在一些有坏意的人的操控之下,AI会被用来做坏事。有时候,一些心怀好意的人因为一些疏忽或者是不理解,也可能用AI做出了很不好的结果。

一些负面的效应包括部分缺乏自控力的年轻人、青少年对一些APP上瘾。这其实就是AI很聪明地了解了每个人的“胃口”,不断地迎合用户达到的结果。但具体导致的效果,是因使用者而异的。

另外,我们也发现美国的剑桥数据公司(Cambridge Analytica),曾用非常恶意的方法针对性地给选民洗脑,甚至导致在几年前的美国总统选举都可能是受人为操作的。

使用AI而导致了洗脑和改变选票等影响,发生这一类事情就很危险了。

网友分享在meiguo.com上的图片

还有就是自主武器了。我们都知道无人机,但是无人机如果加上人工智能的人脸识别功能,再加上一些火药、子弹或者毒药,就可以成为一个暗杀机器。

而且如果成群大量地使用,甚至可以国家对国家,或者恐怖分子对普通人造成非常大的伤害,而且这是由机器来判断是否该伤害或者该伤害哪一个人。这也是一个很大的隐忧。

最后我想强调,技术造成的问题,可以用技术来解决。

类似“用魔法来打败魔法”。以上AI造成的一些问题,其实都有相应的解决之道,比如如果未成年人对部分APP上瘾,其实APP上施加“限制时长”即可。这都需要各方评估和博弈找到靠谱的解决方案。

杨澜:2016年,我开始制作《探寻人工智能》这个纪录片的时候,走访的还是全世界各大研究机构的实验室。但是到了这两年,我们会发现,当年实验室里的黑科技,已经成为我们平凡的日常,普通的一部智能手机上面的AI应用都是非常多的。

疫情防控中,大量地在使用人工智能技术;学校也在推进教育数字化转型,一些老师已经开始使用数字人小助理,来与学生沟通。所以这几年AI的发展,可以说是风起云涌。

面对这种发展和变化,有人惊喜,有人担忧。

我想说,人工智能就是一面镜子,它可以让我们更好地看到我们自身的渴望,也看到我们自身的脆弱,从而对未来有更加清晰的选择,看到过去没有意识到的可能性。

起码让人们看到一些更坏的可能和更好的可能是怎样的,因为毕竟选择还是在人类自己的手中。

陈楸帆:创作者经常会被问到AI是否在未来能够取代作者的地位。

最近几年我其实比较关注的,包括像Open AI推出最新版本的GPT3,这是一个预训练的大模型,它使用深度学习可以非常流畅地进行写作,包括小说、散文、诗歌,甚至还可能模仿逝去的一些名人来跟你对话。

所以它是一个非常强大的AI模型。那么,这个模型是否有可能在未来会代替我们作家的地位,这是我非常关注的一个点。

关于技术本身,它其实是一个相对中性的存在,那么关键就在于技术背后是被什么样的利益集团、什么样的动机在使用。

我觉得我比较担心的,包括AI所造成的信息茧房,它会不会让每一个人困在我们自己想要看到的信息里,或者加剧了某种极端化的对立情绪。

这样的现象,在非常多的社交网络媒体上已经出现了。

未来如何去打破这样一个算法的牢笼?

另外就是一些不法分子会利用AI,比如用deepfake这样的工具,制作出一些以假乱真的视频、图片、声音等等,做到完全超出一般人感官所能分辨的程度。那么这样一些信息,或者说不实的信息或者谣言流传到社会上,就会造成非常负面的后果。

—2—

元宇宙将成为

“新冠一代”依赖的场景吗?

杨澜:我在传媒行业,对此有非常深刻的体验。

所谓线下和线上的空间,真实和虚拟的空间本身也成为一种媒介。

这种沉浸式的、各种混合现实的技术,也让我们调动六感去体验一种空间,沉浸式地感受一些信息和故事情绪等等。这对于我们传媒行业的改变是非常大的。

对于社交也是这样,人和人之间的关系和社交的方式也在发生变化。

书中《无接触之恋》这个故事,说的是在疫情长期(居家)隔离的影响之下,人们可能越来越害怕出门去接触真实的人,逐渐地退缩在自己的虚拟世界当中。

通过元宇宙去建立的人和人之间的关系,其实有的时候也是难辨别真伪的。

网友分享在meiguo.com上的图片

陈楸帆:这样一种有一定创伤性的记忆,或者说这样一种心理上的创伤,远比病毒本身带来的危害要更为深远。

其实在未来,AI,包括我们所说的它能够更快地制备疫苗、药物,也包括我们怎么样用元宇宙里的这些技术去追踪流行病的传染路径,能让每一个人能既安全又便利地去享受日常生活。

李开复:我们可以感受到疫情之后工作的方式有很大的改变。

比如说在创新工场,在疫情之下在线办公的时长加长,我们看项目或者募资,经常是人与人完全都没有线下见面就能通过线上的深度交流达成一定的协议。我也看到国外的朋友,他们远程办公越来越多了。

最近比较主流的一个西方“声音”是,远程办公(不能)做得太过分、过度,人与人之间的信任、感情,是没有办法在一个视频会议上建立和交流的。

所以大家还是公认,即便是工作,也不能百分之百地在家里工作,永远不见自己的同事。

杨澜:疫情刚开始的时候大家还觉得,远程办公的时代已经到来了,我们为什么要去通勤呢?为什么要去忍受堵车呢?为什么要去排放碳呢?我完全都可以远程来做这些事情。

但是现在我们就会有一个更全面,更平衡的看法。

的确,有一部分工作可以远程,但是人和人之间的这种交流,特别是人和人之间建立起的信任,还是不能够脱离面对面的接触的。

—3—

未来的金钱和社会制度

是什么样的?

杨澜:我们会发现,在现实生活当中人和人之间的关系,人性当中的一些渴望,在虚拟的世界当中也依然会体现出来。

包括经济的一些行为,也还是会在这个新的宇宙当中被如法炮制。

两位合作的这本书中,有一个故事就是讲到未来的货币会是怎样,我觉得这是在重新构建一个人类社会的交易方式,或者是游戏规则,是一种范式革命的洞察。

李开复:从一个纯技术的方向来说,在未来二十年,今天的简单重复的工作毫无疑问在很大程度上会被机器人和AI取代。

未来,用很低廉的价钱就能生产出产品,我们使用的各种材料也可以用这种新的合成生物和其他的方法来做,这对环境更友好,价格也更低廉。

所以,未来我们能用更便宜的价钱,做出更好的产品。

未来,能源会下降百分之九十左右的价钱。

所以当制作一个物品的原材料、人工制造的费用,还有能源都大幅度下降的时候,全世界所有的东西,包括食品、物品等,我们的衣食住行都会变得非常价廉物美。那么,在那样的一个环境里,理应能够帮助世界消除贫困和饥荒。

但是是什么阻扰了我们,达不到这样的目的呢?其实还是人类的贪婪。

网友分享在meiguo.com上的图片

一个公司,比如今天用十元的成本做出一个二十五元的产品,如果未来十元的成本降到了一块钱,他是不是还会想尽办法让每一个人付十五元钱,就为了能够赚更多的钱?

这个是一个大概率的事件。

所以我想提醒大家,如果我们是一批外星人,同时来到了地球,拥有我们二十年以后的所有的技术。

我们要自我组织,成为一个社会规则的时候,首先肯定会考虑到的是让所有的人达到温饱。在这个基础上,再做一些其他的事情。

贪婪的来源,一部分来自金钱制度。

金钱好的一面在于它能让人能达到物质上的温饱,保障衣食住行,这是过去金钱可能扮演的、最主要的角色。

但是未来也许就不那么需要金钱了,因为衣食住行可能都得到满足了,那如果金钱只是沦为扩大差距和互相攀比的负面工具,那么它引发的贪婪就很难让我们能够形成这样的一个乌托邦的社会。

所以,有没有可能我们能走向一个不同的金钱制度?

当然,我觉得这是一个非常理想化的故事。我们在一百年之内能够改变金钱制度的概率是非常低的,但是我们还是需要思考这几件事情。

杨澜:在未来的这一二十年,哪些工作是很有可能被AI取代,或者受到影响的?又有哪些工作可能会有更多的需求,或者说被创造出来?

李开复:AI和机器人,其实最擅长的还是用海量的数据在单一的领域里面做重复性最高的工作。

一个任务,如果非常繁杂、需要创意、(涉及到)不同环境,那么AI是没有办法胜任这类工作的。

所以,我们也可以因此来推算,人类的能力很难在20年之内被AI全面超越。

从一方面来说,这可以帮我们做更好的职业规划。我觉得我们需要去找那些复杂度比较高的工作、有创意的工作,需要深度分析、跨领域洞察的工作。这些工作难度比较高,而AI这种用海量的数据算法是做不出来的。

比如说,管理者、科学家,或者小说家、艺术家,这些工作的创意要求跟复杂度会比较大,并不是AI非常容易就能够取代的啊!

网友分享在meiguo.com上的图片

所以无论是做投资、做企业管理,或者是做内容创作,这些还属于需要人类做的工作。

重复性较高的工作,包括蓝领或者白领的部分工作。

蓝领的工作当然包括其中了,比如流水线工作,比如送货员等。此外,还有比较大的一个工种就是司机。如果以后将推行无人驾驶,就不需要由人来开车了。所以这些是重复性的蓝领工作。

重复性的白领工作其实也非常多。

如果今天你的工作是重复性地去处理报销,或者是复制文字数据,得到老板的批准,发邮件、发微信,那么,这些也都是重复性很高的任务。我预测这些工作也都会被AI取代。

总而言之,刚才谈到复杂度高的、难度高的、创意需求高的工作很难被取代。但这类工作的准入门槛也很高,通过再培训从普通的重复性工作跃升成胜任科学家、小说家、投资家这类工作的可能性不是很大。

还有一类AI很难取代的工作是社交性的、需要人与人面对面的服务型工作,这些工作能建立起人与人之间的信任关系。比如照顾老人等,这类强服务型的工作以后应该会越来越多,因为人活得更长寿了,年纪大的人肯定需要得到更多的看护。

很多物质需要可以靠刚才谈到的丰饶社会得到满足,而我们可能会更多地追求那些服务型工作。

无论是美食还是导游,以后还会有更多服务型的工作被创造出来。

所以我认为,如果从事重复性的蓝领、白领工作有下岗可能的话,那服务业可能会是相对培训起来不会那么困难,而且行业的容量非常大的一个(方向和)机会。

杨澜:我也关注到,在AI时代,工作岗位上性别结构的不平衡。

在天下女人研习社APP,我们有一门课是与开复老师合作。其中就有数据显示,高薪岗位中,除了战略咨询和证券分析师之外,其余岗位女性占比都不及30%,有一些技术领域女性占比普遍不足20%,甚至是个位数,比如说架构师只有3%。

网友分享在meiguo.com上的图片

—4—

更多问答

杨澜:培训AI进行创作小说可以实现吗?

陈楸帆:在接下来非常长的时间里,人机协作大概率会变成社会的主流。

包括写作,可能也会借助AI帮忙搜集一些资料,进行一些提示等。AI其实能做到六七十分的写作水平,但要达到顶尖的水平就非常难。

因为写作中包括非常多的个人生活经验,包括感官上的具身性,然后也包括情感的这部分怎么去处理,怎么让人去能够有代入感、能够共情。

杨澜:医生什么时候会被AI取代?

李开复:应该还有很长的时间。

其实,技术层面我认为二十年应该差不多够了,我们应该可以收集足够多的脱敏数据。一旦我们有海量的脱敏个人数据,这种个性化的精准医疗就能成为可能性。但是,还存在好几个很大的阻碍。

第一个阻碍就是我们收集数据,涉及到各种隐私的问题。

第二个问题就是AI一定还是会犯错的。那当AI犯了错是谁来负责呢?因为人命关天。所以这个事情就会带来很大的挑战。

第三,我觉得还是心态的问题,医生能不能接受AI助手跟自己合作,以及病人能不能够信任由一个机器人来给自己看病。

这些都需要时间来慢慢地被人所接受。所以我觉得,当数据够了,优势肯定在AI这边,但是之前谈的各种社会因素也会让AI的主流化会更漫长一些。

杨澜:AI时代,职业女性应该如何生存呢?

李开复:首先,无论是男性或者女性,我们应该要拥抱AI。

这是一个必然来到的重大的技术,如果不拥抱它,那么就会落后。

第二,我觉得无论是男性还是女性,都需要去做自己真正热爱的工作,因为未来你的竞争对手已经不止是其他的人类了,还包括AI。

其次,对于女性来说,我认为未来的工作机会方向,一个是创造性的或者复杂分析管理类的工作,我觉得男女都能够胜任。

也许今天男性的比例较高一点,但是未来我觉得应该是可能达到男女平等的。

另一个就是服务型的工作,也就是说要求人有更高的情商、更多的关怀关爱,才能把服务型工作做强做大。在服务业,我认为女性是有一定的天生优势的。

网友分享在meiguo.com上的图片

杨澜:面临未来趋势,职场上的年轻人要卷还是该躺平?

陈楸帆:我觉得在AI到来的几十年时间里,对人而言是一个机会,人们可以摆脱原来很多的束缚。

比如刚才您提到了的女性,为什么女性在职场里会处于劣势,因为我们设立了非常多的标准,而非常多衡量职位的、所谓的index是由男性来制定的。

但是,很多女性在共情力、沟通力、直觉力、审美力等等方面其实是占有优势的。有可能在未来人机共创的时代,女性反而能够占据优势的地位。

同样地,对年轻一代来说,应该能非常清晰地看到(这一趋势)。

以往在基础教育里面,我们非常多地强调记忆、计算、逻辑等等,这些能力有可能在未来不一定是人类的优势所在,而往往是一些我们以往不太重视的,比如说审美能力、想象能力,包括讲故事的能力、共情能力,反而会是我们可能的长处。

所以我觉得最重要的还是大家从自己的初心出发。每个人都要找到自己最有热情、能够坚持去投入,甚至是投入一辈子的一个事情。

出处:喜马拉雅APP

meiguo.com 发布人签名/座右铭我已经有美国绿卡了,只差美果绿卡啦!
大家都在看
楼主新近贴
回复/评论列表
默认   热门   正序   倒序
meiguo.com 创始人

emotion

2   2022-07-22 11:48:28  回复

回复/评论:关于AI:人类面临的真正威胁是什么?

暂无用户组 升级
退出
等级:0级
美果:
美过

美国动态 美果转盘 美果商店

Your IP: 44.200.137.63, 2022-09-25 04:20:26

Processed in 0.66159 second(s)

头像

用户名:

粉丝数:

签名:

资料 关注 好友 消息
已有0次打赏
(2) 分享
分享
取消