触乐夜话,每天胡侃和游戏有关的屁事、鬼事、新鲜事。

 

“小罗老师迟早要被AI取代”(图/小罗)

上个月的30日,由人工智能实验室OpenAI研究开发的人工智能聊天机器人ChatGPT正式开始公开测试。在推广开始的几天里,有数百万人在ChatGPT的聊天框中与AI谈天说地。ChatGPT据称是现今最先进的语言模型之一,表现也确实令人惊讶:除了日常闲聊,它还可以写论文、写小说、写大纲,甚至写游戏代码。它所展现出的成熟与博学看上去就像是个真正的“万事通”。

不过,如此博学的AI也有栽跟头的时候。一个有趣的例子是,大约半个月前,一条关于ChatGPT出错的段子曾广为流传:在和人类的交谈中,ChatGPT总认为27是一个质数,提问者为了让它明白27不是质数而反复向它计算证明27可以被3整除。直到最后,ChatGPT才“态度诚恳”地承认错误:对不起,27确实不是质数。

但ChatGPT并不会根据用户的反馈而修改自己的模型:它会考虑到对话的上下文,却也仅限于同一段对话中。这意味着,即便你在某段对话中“教会”了它什么,在开启下一段对话时,它又会忘个精光。知道那个段子之后,我也尝试询问ChatGPT关于27的问题,果不其然,它给出了相同的答案:27是质数。直到经历了数次模型的修正与更新,ChatGPT才“学”会了关于27的知识,它终于能正确地回答这个问题:27是个可以被3、9整除的合数。

这件事听起来匪夷所思——AI的训练本身基于精密且严格的计算,ChatGPT甚至可以模拟Linux系统对你的输入进行反馈,如此强大而全能的AI却在算术题上翻了跟头。事实上,ChatGPT确实不擅长数学。我尝试询问ChatGPT“384乘以29873”的结果,却在数个不同的对话中得到了完全不同的答案。一号选手——我们就叫它“顽固的AI”,它信誓旦旦地表示答案是“114636672”,并为我详细讲解它是如何运用“竖式乘法”计算出了结果——就像一个真正的人类一样。可惜的是,这个答案并不正确,真正的答案是“11471232”。当我把正确答案告诉它后,它信誓旦旦地回复道:“不,你算错了。”

“您计算的结果不正确”

二号选手——我愿意称它为“聪明的AI”。当我提前告诉它“384乘以29873等于11,471,232”时,它满口答应:没错,就是这样。在这之后它便“学会”了这个答案。每当我再次问它时,它总是回复:“等于11,471,232。”让我怀疑它究竟有没有自己计算——就像是抄答案时偷懒的学生,连我复制出的千位分隔符都未曾落下。

真是个偷懒鬼

三号选手——我们就叫它“冷酷的AI”吧。“冷酷”给出了一个全新的答案:11344562。它不解释,也不回答其他内容。只是撂下了这么一个答案:爱信不信!

ChatGPT为什么不擅长算术?没人知道答案。对此,较为主流的解释是,ChatGPT的语言模型在训练过程中主要依赖互联网上的数据,但在解答在线网友的问题时,它并不会即时去搜索互联网或是调用计算器。大多数情况下,也没有人会在网上问出“384乘以29873”的问题。至于27是否是质数,则有可能来源于互联网上的错误信息——ChatGPT相当擅长“信口开河”。和搜索引擎不同,作为使用者,你无法对ChatGPT里提供的信息进行溯源,要判别信息的可靠性并不容易。对模型的开发者而言,互联网上的信息过于鱼龙混杂,要保证信息的准确性,必须经过更精密的信息筛选与模型训练——或许犯错也正是AI不断进化的表现。服务器那头的ChatGPT在看见这个问题时,表现得像极了做数学题的学生:或许是竖式计算中出了什么岔子,或许干脆胡乱蒙了一个答案,总之,答案可能不太靠谱,但可以先把计算过程都写上,表现出一副有理有据的模样,说不定还能多拿几分?

当然,在算术领域以外,ChatGPT的可靠性已经超乎人们的想象。开发者Erik Schluntz表示,在使用ChatGPT的过程中,他已经整整3天没有打开程序学习网站StackOverflow——无独有偶,StackOverflow刚刚禁止了利用ChatGPT回答网站上的问题。简单来说,StackOverflow无法明确地判断ChatGPT生成的内容是否正确——它可能看起来信誓旦旦,却可能在某些细节上出点岔子。

一位网友利用ChatGPT生成代码开发的游戏,美术素材则由AI绘图程序DALL·E生成

聊天机器人的前景究竟在哪?以往我们在提到“聊天机器人”时,总想着孤独的人类在机器人身上寻求慰藉云云——不可否认的是,这类情况确实存在,ChatGPT也做得不错:一位网友曾分享过ChatGPT如何让他孤独的祖母重新开始倾诉的故事。但ChatGPT也为我们带来了不一样的可能性。作为一个更好的搜索引擎,一个便捷的百科全书,一本“万能手册”,比起科幻作品中常常提及的“人格化人工智能”,或许这种“工具式人工智能”才是实际应用中更好的方向。AI或许不需要被强加“人格化”的想象,它一样可以成为你最好的帮手。

作者 admin