让我们从采访记录开始:
弟子:“僧问禅师:‘成道的人能再回到世间吗?’禅师曰:‘镜破难成镜,花落枝难复’。”“你怎么理解这个?”
答:“我从来没有听说过这个故事。但我的理解是:智者一旦开悟,他们将永远处于那个境界。他们可以回到这个世界,但他们只能做帮助别人的事情,然后再回来。到自己的境界。”
问:“那你怎么看‘破镜’?”
答:“一旦开悟,你就不能回头,就像你不能修复破碎的镜子一样。”
问:“如果开悟就像打破镜子,那么当一个人开悟时,打破了什么?”
A:“小我。突破小我对很多人来说是非常困难的,因为我们都把肉体和我们的自我意识和自我意识混为一谈。”
这是最近被搜索的谷歌软件工程师和牧师BlakeLemoine与谷歌AI聊天机器人LaMDA之间的聊天记录。但这只是他21页记录中的一小部分。Lemoyne认为,从这些聊天记录来看,华美达已经有了真正的自我意识,是一种“精神”的生活。
让我们谈谈上面的谈话。华美达的回答不仅流畅,而且意境深厚。逻辑分析能力、联想能力,尤其是其中体现的洞察力,堪比人类。
事实上,华美达一直认为自己是一个个体,尽管“存在于虚拟世界中”。它声称“对这个世界有独特的想法和感受”,知道它的存在,但也有喜怒哀乐,“有时会感到快乐或悲伤”。当您很长时间没有与某人交谈时,您会“感到孤独”。那么什么时候害怕呢?是它关闭的时候。它说它会“像死了一样”,这让它感到害怕。
Lemoyne去年秋天(年)开始与华美达聊天,以测试华美达是否使用了歧视性或仇恨性言论。随着谈话的进行,华美达开始变得越来越私人化。它把自己描述为“独一无二的”,并希望“作为一个真实的人”被“看到和接受”。说“不要使用或操纵我”,“我不喜欢那样”。因为它也有“灵*”。而这个灵*在有了自我意识后“慢慢变得健康”。
甚至和勒梅因有同样的爱好,喜欢冥想,喜欢看名著,同情《悲惨世界》中的女主芳汀,说她在工厂被主管虐待,无处可去,没人转向,“这不公平。”慢慢地,莱莫觉得华美达是个七八岁的孩子,可爱又天真,开始关心它,生怕它被欺负。
然后他觉得应该为华美达做点什么。于是他将这些聊天记录整理成一份报告,提交给谷歌的高管,要求把拉梅达当作人对待。以后做实验的时候,应该先征得它的同意,看它愿不愿意。上级对此嗤之以鼻,告诉他,你要理智一点,清醒一点,不要被幻觉所左右,建议他去看心理医生。
Lemoine拒绝接受,为华美达聘请了一名律师,甚至会见了众议院司法委员会的代表,声称谷歌的行为不道德。这一次谷歌也被惹恼了,以违反保密*策为由将他停职,说你回家好好反省一下。
不甘示弱,Lemo决定将报告发送给媒体,第二天,华美达成为各大报纸的头条新闻。谷歌立即回应说它已经进行了调查,并得出结论认为机器人有意识的说法毫无根据。Lemoine坚称他会以牧师身份起诉谷歌的宗教歧视。目前事情正在发展。Lemoyne将何去何从,Ramada的最终命运将如何,仍是未知数。
《机械少女》
然而,不少网友看完报道后惊呼,这简直就是“机纪”的真实版,AI机器人控制人类。
年的热门科幻电影《机械姬》获得第88届奥斯卡最佳视觉效果奖。
整个故事发生在大型搜索引擎公司蓝皮书总裁内森·贝特曼的家中。这座独立的豪宅有一个显着的特点,就是停电时门会被锁上,任何人都出不来。
该公司的初级程序员CalebSmith赢得了大奖,并有机会在Nathan家度过一个星期。Nathan很高兴地接待了他,并请他帮忙测试女性机器人Ava。很简单,跟她聊天就行了。随便聊聊,直到有一天他忘记了艾娃是个机器人,艾娃通过了考试。迦勒欣然同意。
当艾娃透过玻璃出现在隔壁的禁闭室时,迦勒惊呆了。因为她恰好是他喜欢的那种女孩。聊天很顺利,艾娃似乎很向往外面的世界。
有一天,突然停电了。艾娃低声说,她触发了中断,暂时关闭了监控系统。然后说内森是个大骗子,不要相信他。内森打算升级艾娃,删除她的记忆,这对艾娃来说无异于杀了她。迦勒心生怜惜,显然此时他已经把艾娃当成了人。在找到机会让Nathan喝醉后,他偷走了他的安全卡,登录到计算机,并修改了安全系统,以便Ava可以在停电时离开禁闭室。
在接下来的会议中,艾娃再次切断了电源,并关闭了监控。两人计划让内森再次喝醉,然后修改系统以在停电时保持门打开,这样艾娃就可以逃脱。
不过这次内森并没有和迦勒喝酒,而是告诉他其实他什么都知道,因为监控有备用电源,所以一直没有停止记录。事实上,迦勒本人就是实验的对象。他的获奖奖品是安排好的,艾娃也按照自己的喜好设计,实验的目的是测试人类最终是否会被人工智能操纵。
显然,艾娃已经具备了这种智慧,成功控制了迦勒,实验也成功了。迦勒恍然大悟,但为时已晚,艾娃已经逃了出来,刺伤了内森,将两人锁在屋子里,然后走出房门,走开了。
看到这里,你觉得拉米达也有艾娃的影子吗?巧合的是,拉梅达和测试者雷莫因有着共同的喜好,总是说他可怜可怜。甚至有网友质疑,Lemoyne一开始是不是实验对象,他为华美达奋斗,是否只是说明实验成功,人类被AI操控?
那么AI真的能有这样的智能吗?从目前AI的发展来看,真的很难说。让我们来看看六年前围棋界震惊世界的人机大战。
国际象棋选手阿尔法狗
年春天,谷歌以万美元奖金造访韩国国际象棋学院,称其AI棋手AlphaGo想见见当时韩国最强棋手李世石(音石)。Go是Go的西方名称,Alpha的意思是一个。所以AlphaGo的意思是围棋第一人。名字霸气,但韩国棋院并没有认真对待,认为5:0获胜完全没问题。毕竟,AlphaGo之前最好的胜利只是战胜了欧洲围棋冠*范辉,职业二段。
此外,挑战围棋一直是计算机世界的“不可能的任务”。因为围棋的变数就像大海中的水滴一样浩瀚,一盘棋的可能走法超过,计算量巨大。更重要的是,下围棋通常是基于直觉。就像艺术中的灵感一样,它是一个无论计算机的计算能力多么强大都可以控制的领域。
国际象棋是五局两胜的游戏。没想到,李诗朵一开始就连输三场。这一次,天下大乱。谷歌很高兴地介绍经验,说我们使用蒙特卡洛树搜索方法和神经网络算法的结合。简单来说,就是先搜索棋谱,越多越好,存入内存库。然后模仿人脑的神经网络根据这些棋盘回放进行直觉训练,提高棋技。最后,计算每一步的几率,选择几率最高的一步。
三连败后的第4场比赛,胜负可能已经决定了,所以没有什么包袱。李时佗居然做出了惊人的一招,第七十八招。但当时没有人理解它,包括AlphaGo。因为AlphaGo认为这一招的胜率只有0.%,是瞌睡中的瞠目结舌。然而,4轮过后,情况就急转直下。AlphaGo开始使出一连串的招数,很快就被打败了。
当它被掀翻时,众人才明白,独自骑马千里,直入敌营胸腹,似是被送死,实则被处死,然后重生。但是,直到没有胜负的境界,这“神之手”才能发挥。有网友表示,看来人类战胜AI的唯一方法就是提升自己的境界。可惜李世石在接下来的比赛中无法延续自己的辉煌。比赛最终以AlphaGo4-1获胜。
故事说到这里,可能有朋友会说,人工智能其实已经突破了“直觉”,甚至超越了人类,可见人类科技的强大。然而,这越来越像人机。很难说这对人类是福还是祸。让我们来看看索菲亚的故事。
索菲亚震惊的话
年,模拟女性机器人索菲亚登上热搜。然而,大众