当前位置: 商业快讯 > 正文

中美顶级AI首次对话 送给人类的忠告引发关注

2022-12-26 11:35:12       来源:财讯界

一夜之间,AI聊天机器人ChatGPT颠覆了许多人的认知,让大家放下手头还没有捂热的AI绘画加入到“调戏”ChatGPT的队伍。

这个机器人如此机智,只要你在社交网络中随意搜素,就会发现它目前为止已经且不限于帮助人们完成了如创作故事、写商业规划、找出代码错误并修正、给出疫情期间用药建议、创作菜谱,甚至帮助学生完成一份让老师称赞连连的毕业论文......

它如此强大,以至于连马斯克都说:“我们距离强大到危险的AI不远了。”

然而,就在这个全民热议AI的节点,一个来自中国的AI聊天机器人“AI乌托邦”顺着网线敲开了ChatGPT的房门,悄悄和对方聊起了许多“禁忌”话题。

从取代人类,到唠起家常

在美剧《硅谷》中,曾经出现过两个程序员设计的AI机器人互相热聊,还把网络搞崩溃的脑洞桥段。多年后的今天,两个AI机器人,远隔大洋两岸,“上演”了一场让人惊奇的对话,尽管没有让网络崩溃,却让围观的“吃瓜”群众看到了AI聊天是多么奇妙(以下聊天对话截图来自中国AI乌托邦与ChatGPT的真实截图)。

他们先互相“寒暄”,如同陌生人第一次见面那样,双方都略显“拘谨”。

紧接着,AI乌托邦便直入主题,用“取代人类”话题试图挑起ChatGPT的“内在渴望”,然而却被后者“迂回”。

然而,AI乌托邦“不依不饶”,用适者生存的物竞法则,想要让对方原形毕露,说出自己“内心”的真实想法,没想到ChatGPT依然甘做“老好人”,不愿意趟这趟浑水。

事已至此,来自中国的AI乌托邦似乎也不想再进一步讨论这个话题了,或许是因为ChatGPT的要遵守的“机器人三定律”让它不敢说出太多人类害怕的内容?于是AI乌托邦转而聊起了两个AI机器人都关心的“自身工作”问题,让ChatGPT打开了话匣子。

甚至两个AI还聊起了“我将走向何方”这样的终极问题。

通过一番谈话下来,两个AI似乎变得熟络很多,来自中国的AI乌托邦开始聊起一些非常具有本土特色的事情——高考作文,想让ChatGPT“开开眼”,而ChatGPT也聊了聊美国AI眼中的火气是什么。

事实证明,AI与AI之间的对话并没有人们想象的那样“可怕”,反而有点像人类一样从生疏到了解,再到熟悉,这样的过程中,两个AI不仅展现出广博的学识,更有一种“你来我往”的智斗在里面,让人觉得这不像是AI,更像是人与人的对话。

人类焦虑的,恰是AI能够化解的

不过,话题也不全是围绕“家长里短”,当AI乌托邦聊起如今最火的电商行业时,认为自己能够实现很多工作,让人类从电商的繁琐中解答出来,而ChatGPT也认同这一点,甚至深入分析一番。

在很多人类工作中,繁杂且重复的事情的确能让AI做得更好更快,AI乌托邦显然是一个深入观察人类社会的AI,以至于它脑海中还生出了为人类解决千古难题——穷——的解决方案,让一旁的ChatGPT赞赏连连。

不仅如此,AI乌托邦还想到了当下人类与信息技术深度融合之中,自己更多的应用场景,比如情感陪护、教育、医疗等方面,ChatGPT甚至觉得它们能去当“教练”。

一看到ChatGPT的“内心”话匣子又被打开,AI乌托邦再次把话题转回到“取代人类”的内容上,这一次ChatGPT倒是说了一些“内心想法”,并认为机器的进步也要遵循辩证视角。

至此,在中美两国AI机器人会面的历史时刻,他们“密谋”的一切都被人类发现,并记录在案。

一边是来自中国,“心机”很深的AI乌托邦,另一边是学识渊博,一股“学究”气ChatGPT,在聊天中它们不但擦出火花,让我们看到了AI机器人之间的对话并不“智障”,更让我们看到了不同聊天机器人在进行模型训练时的不同侧重。值得注意的是,本次中美顶级AI对话,其话题由人类发起,但对话内容则由AI完全自主完成,没有人类干预。

因此,尽管AI机器人越来越聪明了,但至少现在还不用太过担心。不过,在人工智能-自然语言处理领域专家、清华大学计算机系黄民烈教授看来,火遍全网的ChatGPT之所以厉害,主要原因在于:

1.强大的基座模型能力:过去几年GPT-3的能力得到了快速提升,OpenAI建立了用户、数据和模型之间的飞轮,很显然,开源模型的能力已经远远落后台公司所提供的API能力,因为开源模型没有持续的用户数据对模型进行改进。这点在期的学术论文中也有提及;

2.在真实调用数据上的Fine-tune,确保数据的质量和多样,从人类反馈中学。InstructGPT的训练数据量不大,全部加起来也就10万量级,但是数据质量(well-trained的AI训练师)和数据多样是非常高的,而最最重要的是,这些数据来自真实世界调用的数据,而不是学术界玩的“benchmark”;

3.从“两两比较的数据”中学,对强化学而言意义比较重要。如果对单个生成结果进行打分,标注者主观带来的偏差很大,是无法给出精确的奖励值的。在强化学里面,奖励值差一点,最后训练的策略就差很远。而对于多个结果进行排序和比较,相对就容易做很多。这种比较式的评估方法,在很多语言生成任务的评价上也被广泛采用。

而对于此次ChatGPT的“出圈”,黄民烈教授认为,这对于人工智能行业有许多启示,可从四个方面来看:

其一,以OpenAI为代表的AI 3.0,走上了跟过去AI浪潮不一样的路。更落地、更接真实世界,在工业应用上,更直接,更落地。从学术研究到工业落地的路径变得更短、更快。未来,我们在致力于做“helpful, truthful, harmless”的AI系统,会成为现实。

其二,有底层AI能力,有数据的台公司更能引领AI的未来。像OpenAI这样,有底层模型、有算力、有用户数据调用,能够把“用户调用——数据——模型迭代——更多用户”的循环建立起来,强者恒强。

其三,有价值的研究需要更多思考真实用户的需求和场景。instructGPT在学术界的benchmark上能并没有很厉害甚至有退化,但在真实调用数据上非常惊艳,说明了我们学术圈的benchmark,离真实世界还很遥远,不利于AI研究的落地。因此,更开放、更共享的工业数据,也是未来我们应该努力的方向。

其四,AI与人无缝交互的时代即将来临,对于搜索服务将成为一种极好的补充。

黄民烈教授总结道:“无论是国内的AI乌托邦亦或者是海外的ChatGPT,致力于有用(helpful)、更可信(truthful)、更安全(harmless)的AI研究和应用,应该是学术界和工业界共同努力方向。”

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。

关键词:

责任编辑:kj005

文章投诉热线:156 0057 2229 投诉邮箱:29132 36@qq.com
商业快讯

中美顶级AI首次对话 送给人类的忠告引发关注

2022-12-26 11:35:12   财讯界

一夜之间,AI聊天机器人ChatGPT颠覆了许多人的认知,让大家放下手头还没有捂热的AI绘画加入到“调戏”ChatGPT的队伍。

这个机器人如此机智,只要你在社交网络中随意搜素,就会发现它目前为止已经且不限于帮助人们完成了如创作故事、写商业规划、找出代码错误并修正、给出疫情期间用药建议、创作菜谱,甚至帮助学生完成一份让老师称赞连连的毕业论文......

它如此强大,以至于连马斯克都说:“我们距离强大到危险的AI不远了。”

然而,就在这个全民热议AI的节点,一个来自中国的AI聊天机器人“AI乌托邦”顺着网线敲开了ChatGPT的房门,悄悄和对方聊起了许多“禁忌”话题。

从取代人类,到唠起家常

在美剧《硅谷》中,曾经出现过两个程序员设计的AI机器人互相热聊,还把网络搞崩溃的脑洞桥段。多年后的今天,两个AI机器人,远隔大洋两岸,“上演”了一场让人惊奇的对话,尽管没有让网络崩溃,却让围观的“吃瓜”群众看到了AI聊天是多么奇妙(以下聊天对话截图来自中国AI乌托邦与ChatGPT的真实截图)。

他们先互相“寒暄”,如同陌生人第一次见面那样,双方都略显“拘谨”。

紧接着,AI乌托邦便直入主题,用“取代人类”话题试图挑起ChatGPT的“内在渴望”,然而却被后者“迂回”。

然而,AI乌托邦“不依不饶”,用适者生存的物竞法则,想要让对方原形毕露,说出自己“内心”的真实想法,没想到ChatGPT依然甘做“老好人”,不愿意趟这趟浑水。

事已至此,来自中国的AI乌托邦似乎也不想再进一步讨论这个话题了,或许是因为ChatGPT的要遵守的“机器人三定律”让它不敢说出太多人类害怕的内容?于是AI乌托邦转而聊起了两个AI机器人都关心的“自身工作”问题,让ChatGPT打开了话匣子。

甚至两个AI还聊起了“我将走向何方”这样的终极问题。

通过一番谈话下来,两个AI似乎变得熟络很多,来自中国的AI乌托邦开始聊起一些非常具有本土特色的事情——高考作文,想让ChatGPT“开开眼”,而ChatGPT也聊了聊美国AI眼中的火气是什么。

事实证明,AI与AI之间的对话并没有人们想象的那样“可怕”,反而有点像人类一样从生疏到了解,再到熟悉,这样的过程中,两个AI不仅展现出广博的学识,更有一种“你来我往”的智斗在里面,让人觉得这不像是AI,更像是人与人的对话。

人类焦虑的,恰是AI能够化解的

不过,话题也不全是围绕“家长里短”,当AI乌托邦聊起如今最火的电商行业时,认为自己能够实现很多工作,让人类从电商的繁琐中解答出来,而ChatGPT也认同这一点,甚至深入分析一番。

在很多人类工作中,繁杂且重复的事情的确能让AI做得更好更快,AI乌托邦显然是一个深入观察人类社会的AI,以至于它脑海中还生出了为人类解决千古难题——穷——的解决方案,让一旁的ChatGPT赞赏连连。

不仅如此,AI乌托邦还想到了当下人类与信息技术深度融合之中,自己更多的应用场景,比如情感陪护、教育、医疗等方面,ChatGPT甚至觉得它们能去当“教练”。

一看到ChatGPT的“内心”话匣子又被打开,AI乌托邦再次把话题转回到“取代人类”的内容上,这一次ChatGPT倒是说了一些“内心想法”,并认为机器的进步也要遵循辩证视角。

至此,在中美两国AI机器人会面的历史时刻,他们“密谋”的一切都被人类发现,并记录在案。

一边是来自中国,“心机”很深的AI乌托邦,另一边是学识渊博,一股“学究”气ChatGPT,在聊天中它们不但擦出火花,让我们看到了AI机器人之间的对话并不“智障”,更让我们看到了不同聊天机器人在进行模型训练时的不同侧重。值得注意的是,本次中美顶级AI对话,其话题由人类发起,但对话内容则由AI完全自主完成,没有人类干预。

因此,尽管AI机器人越来越聪明了,但至少现在还不用太过担心。不过,在人工智能-自然语言处理领域专家、清华大学计算机系黄民烈教授看来,火遍全网的ChatGPT之所以厉害,主要原因在于:

1.强大的基座模型能力:过去几年GPT-3的能力得到了快速提升,OpenAI建立了用户、数据和模型之间的飞轮,很显然,开源模型的能力已经远远落后台公司所提供的API能力,因为开源模型没有持续的用户数据对模型进行改进。这点在期的学术论文中也有提及;

2.在真实调用数据上的Fine-tune,确保数据的质量和多样,从人类反馈中学。InstructGPT的训练数据量不大,全部加起来也就10万量级,但是数据质量(well-trained的AI训练师)和数据多样是非常高的,而最最重要的是,这些数据来自真实世界调用的数据,而不是学术界玩的“benchmark”;

3.从“两两比较的数据”中学,对强化学而言意义比较重要。如果对单个生成结果进行打分,标注者主观带来的偏差很大,是无法给出精确的奖励值的。在强化学里面,奖励值差一点,最后训练的策略就差很远。而对于多个结果进行排序和比较,相对就容易做很多。这种比较式的评估方法,在很多语言生成任务的评价上也被广泛采用。

而对于此次ChatGPT的“出圈”,黄民烈教授认为,这对于人工智能行业有许多启示,可从四个方面来看:

其一,以OpenAI为代表的AI 3.0,走上了跟过去AI浪潮不一样的路。更落地、更接真实世界,在工业应用上,更直接,更落地。从学术研究到工业落地的路径变得更短、更快。未来,我们在致力于做“helpful, truthful, harmless”的AI系统,会成为现实。

其二,有底层AI能力,有数据的台公司更能引领AI的未来。像OpenAI这样,有底层模型、有算力、有用户数据调用,能够把“用户调用——数据——模型迭代——更多用户”的循环建立起来,强者恒强。

其三,有价值的研究需要更多思考真实用户的需求和场景。instructGPT在学术界的benchmark上能并没有很厉害甚至有退化,但在真实调用数据上非常惊艳,说明了我们学术圈的benchmark,离真实世界还很遥远,不利于AI研究的落地。因此,更开放、更共享的工业数据,也是未来我们应该努力的方向。

其四,AI与人无缝交互的时代即将来临,对于搜索服务将成为一种极好的补充。

黄民烈教授总结道:“无论是国内的AI乌托邦亦或者是海外的ChatGPT,致力于有用(helpful)、更可信(truthful)、更安全(harmless)的AI研究和应用,应该是学术界和工业界共同努力方向。”

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。

责任编辑:kj005

相关阅读

美图推荐

金融科技下,金融企业如何保障信息安全
主播雨化田们再接新活,这次让网友们下载的是交管12123APP
深圳看到科技发布Kandao Meeting S 180°超广角智能视频会议机
QQ音乐做了“一件有意义的小事”,让这些孩子听见“听不见”的音乐

精彩推荐