首页 > 经济·科技

想刁难ChatGPT?没想到破防的是小编!权威专家科普来了!

2023-02-11 09:39:01

来源:中国新闻网

  中新网2月11日电 (记者 孟湘君)这几天,ChatGPT可以说是“火爆全宇宙”!

  大家想出各种各样奇奇怪怪的问题,尽情“投喂”给这款聊天机器人,看它如何给出或专业准确的回复,或驴头不对马嘴的搞笑答案。

  记者也出了些题让ChatGPT作答,一起来看看它的“小作文”写得怎么样吧!没想到,其中一篇,记者的小编同事被戳中痛点,破防了!

  先看第一个:

  

  对于特定采访对象,ChatGPT贴心设计了有针对性的提问,可以说基本达到了记者们的应有水平吧。

  来看下一个题目:

  

  ChatGPT是懂新闻行业的!这描述也太生动贴切了吧,简直“人间真实”!

  它还对从事新闻工作的意义进行了升华,有小编看完后对记者表示,自己顿感肩头责任重大,看着看着,不禁眼眶一热,破防了!(强行与AI共鸣)

  再来看几个:

  

  

  

  从写工作周报、写求职信、回答公务员考试试题的情况来看,ChatGPT的表现还行。那么,它的工作原理是怎样的?

  根据OpenAI介绍,相比之前的GPT模型,其对ChatGPT采用了全新的训练方式,即为一种“从人类反馈中强化学习”的训练方式。

  这意味着,用户输入信息越多,ChatGPT深度学习、持续改进的机会也就越多,对人类语言的理解和“反刍”,也会越来越深刻。换言之,是广大用户义务帮OpenAI来“教”自家的“娃”。

  对此,中新网记者专访清华大学国强教授、智能产业研究院(AIR)首席研究员聂再清,对ChatGPT的创新性、特点以及应用前景等,进行深入解析。

  中新网:

  ChatGPT究竟是一个什么样的产品?

  聂再清:

  ChatGPT本质上是一个基于统计的语言模型。当然,它现在还只是一个语言模型,以后应当会逐步发展到多模态,比如为图片(拟出)对应文字,给出对图片的理解等。与人聊天只是它能力的一方面,更多地还是内容生成的能力,包括未来可能更多地把它运用到写作上。

  

OpenAI官网介绍ChatGPT为一种“优化对话的语言模型”。图片来源:OpenAI官网截图

  中新网:

  大家或多或少接触过国内已有的一些语音聊天机器人,比如扫地机器人、语音智能助手等,ChatGPT与这类机器人相比,有哪些区别?

  聂再清:

  之前的聊天机器人已经能够通过语音交互,帮用户完成很多重复性的工作。这类机器人在业界比较成功的应用,是运用基于任务型的对话,通过意图理解、槽值填充,把问题参数抽出来,然后去回答用户的问题,比如智能客服;或帮用户完成一个智能家居的操作,比如AIoT语音助手。

  它们更多是属于一些封闭域内任务完成型的机器人,通过对话真正去执行某些特定领域的功能,首先得把事情做对,才能获得用户信任。这是这类机器人最关键的一项能力。

  ChatGPT更多地则是实现开放域的对话、输出写作内容等。跟以前的聊天机器人比,ChatGPT最让人印象深刻的就是能用像模像样的“人话”来回答几乎任何领域的用户问题,并对上下文有一定程度的理解。

  

资料图:美国企业家埃隆·马斯克。

  中新网:

  一些人以 “从0到1”、“划时代的革命性突破” 来形容ChatGPT, 美国富豪埃隆·马斯克也发文称“ChatGPT好得吓人”。您认为ChatGPT有那么厉害吗?其创新性体现在哪些方面?

  聂再清:

  ChatGPT在算法层面一个比较重要的创新,就是把强化学习引入到大模型的训练和使用上。之前实现开放域对话的最大困难,在于用户输入的话题各种各样,任务空间太大,很难有足够的监督信号拿来训练。

  那么,如今ChatGPT通过利用人类反馈信号学习到的奖励模型(reward model),来为任意一个问题自动估算监督信号,充分利用强化学习的尝试探索(exploration)能力来解决开放域任务空间太大的挑战。这是一个比较好的创新应用。它在回答开放域问题时基本上能做到逻辑上比较通畅,句式上也像模像样,这不是很容易就能做到的。

  同时ChatGPT用到的GPT3.5,作为一个基础语言模型的质量也是非常高的。这需要大量的数据预处理工作,需要把各领域的语料整理好“喂”进大模型,在训练过程中不断积累能力,才能产生一个如此高效的基础语言模型。

  另一个比较重要的能力,就是ChatGPT能拒绝回答一些它判断为不适合回答的问题,懂得“拒绝”。实际上之前一些聊天机器人在设计时,也会谨慎处理一些比较敏感的问题,以及跟人类主流价值观不契合的内容。ChatGPT也在不断提升这种能力,防范生产出敏感或有偏见的内容。

  

ChatGPT的试用页面上,标注了偶尔可能输出错误、有害、有偏见信息;对2021年后的世界认知有限等说明。

  中新网:

  大家体验后发现,ChatGPT不是完美的,还是会出错,也就是“一本正经地胡说八道”。您认为它需要改进的方面有哪些?

  聂再清:

  ChatGPT进行开放域聊天最大的好处,是它什么话题都接得住,能一直聊下去,有连续性。但最大的坏处是,有时用户无法判断它是否正确。如果提问人对问题答案不了解的话,会觉得它答得不错;但对一些不常见,提问人又知道答案的问题,就会发现ChatGPT有可能用一本正经的口气,编出了错误答案。

  因此,不看具体知识点的话,ChatGPT似乎回答得很专业。但它目前难以真正理解和回答开放域里有具体知识点的问题,在处理开放域的问题上实际上还是基于概率,基于前一个值来生成下一个值。要通过图灵测试,还要继续努力。

  中新网:

  ChatGPT是把所有输入给它的信息复制、堆砌起来,还是能生成原创内容?它有“创造力”吗?

  聂再清:

  可以视为ChatGPT是在搞创作,因为这是它经过大量学习后,基于概率自己产生的内容。让它写一封邮件、一首诗,也可以输出看上去“长得很像”用户所要求的东西。

  但比如去写论文、搞数学论证、去做实验并得出结果,它现在应该还没有那么强大,还不能系统地提出具有创新性的观点,但是它输出的一些内容可能会对科研工作带来一些启发。

  

在谁可能取代自己这个问题上,ChatGPT列出了一些对象,中国企业华为的产品上榜。

  中新网:

  您认为中国需要拥有类似于ChatGPT这样,属于自己的语言大模型吗?

  聂再清:

  我认为我们特别有必要去构建像ChatGPT这样一个大的语言模型,中国需要有自己的这类产品。ChatGPT不光可以聊天、帮助写作,也是很多下游人工智能任务的基础模型(foundation model)。一些中国企业已经在跟进,相信接下来我们国家会出现类似的模型。但是具体功能和质量能否超越ChatGPT,需要等发布以后才知道。这需要我们的企业在资源和人才投入上有耐心,具备长远的眼光,不能太注重短期的商业回报。

  当然,我们也不需要每个企业都做一个ChatGPT,造成资源浪费。

  中新网:

  一些观点认为,ChatGPT将来会取代部分人的职业。您怎么看?

  聂再清:

  我认为,虽然有一些模板化、重复性的写作可以被ChatGPT取代,但应该说它还是作为人类的助手更合适。比如帮助用户在从事写作、写代码、商业提案、广告文案设计、翻译等工作时,可以大幅提高他们的工作效率。

  它应当被用作一种提高效率的工具,成品最终还是要人类来把关和确认。而且如果出了错,责任应该还是落到具体的人身上。

  中新网:

  ChatGPT这样的语言交互类产品,是否存在隐私泄露的风险?

  聂再清:

  用户向ChatGPT提问的问题,本身就带有信息量,向它输入信息,不排除有一定的信息泄露风险,包括信息跨境流动问题。这取决于这个产品的研发人员、运营人员、数据管理者等,是否对相关信息进行了妥当处理,不让个人隐私等外泄,或用于其他用途。如果有问题,责任应由他们承担。

  看完专家的权威分析,再来看看我们还给ChatGPT布置了哪些有趣的“作业”吧!

  如果有人发来这样一封情书,你会心动吗?

  

  看到小帅、大壮、小美几个名字,你的耳畔有没有自动响起一段充满悬疑感的音乐?

  

  这首诗说明,对于博大精深的中华文化,ChatGPT还有很多东西要学习……

  

  看着这“跌宕起伏”的小说情节,只能说ChatGPT尽力了!

  

  虽然知道ChatGPT是语言模型,记者还是想“逼”它画画,但是直接让它画,它回答做不到,最后记者用“打印”指令,让它“画”出了一只数码小猫,送给大家。

  

  ChatGPT,和你想象中的一样吗?(完)

【责任编辑:长风】
  • 相关阅读
  • 中国石化“询问”ChatGPT油价:能回到5元时代吗?

      中新网2月10日电 “中国石化”公众号10日发布《专访ChatGPT:汽油能回到5元时代吗?》一文,其中针对“汽油能回到5元时代吗”这一问题,ChatGPT回答称,很难预测汽油的未来价格。如果没有意外情况的影响,汽油的价格可能不会回到每升5元。(中新财经)中国石化公众号截图。...

    时间:02-10
  • 京东云言犀将推出产业版ChatGPT:ChatJD 并公布落地应用 “125”计划

      依托京东集团在零售、物流、金融、健康等领域多年的产业实践和10余年的智能对话技术积累,京东云旗下言犀人工智能应用平台将整合过往产业实践和技术积累,推出产业版ChatGPT:ChatJD,并公布ChatJD的落地应用路线图“125”计划,以产业AI力量,加速中国人工智能技术开发与落地,推动实体经济的发展。京东云言犀将推出产业版ChatGPT ...

    时间:02-10
  • 电商平台屏蔽“ChatGPT”等关键词,代问代注册生意换马甲

      新京报贝壳财经讯(记者李梦涵)近段时间由于ChatGPT在国内大火,不少电商平台商家顺势推出代问代注册服务。在贝壳财经2月9日的报道《时入上万元!ChatGPT代问代注册生意爆火 或涉嫌非法经营》中,记者发现有淘宝商家靠代注册生意一小时收入上万元,更有微信公众号接入ChatGPT聊天窗口,推出包月会员套餐。  2月10日,新京报贝壳财...

    时间:02-10
  • 要提前还贷吗?ChatGPT给建议

      与ChatGPT聊天,成为当下的新风潮。对于“提前还贷热”话题,市民是否可以留下每月10元的月供以抵税?对于提前还贷有何建议?预计提前还贷热潮什么时候结束?广州日报全媒体记者就这些问题,跟ChatGPT和专家进行了对话。  文/广州日报全媒体记者林晓丽、王楚涵 实习生温文慧  保留最低月供以抵税?“话题性”或高于“实用性”  ...

    时间:02-10
  • ChatGPT会抢谁的“饭碗”?专家亲测后如是说

      近日,智能聊天工具ChatGPT在全球掀起热潮。  谷歌、微软、苹果等科技巨头纷纷宣布跟进布局,有消息称中国互联网企业将于3月在推出类似ChatGPT的人工智能聊天机器人。这再次掀起公众对AI聊天机器人的关注热潮。  ChatGPT是由OpenAI(在美国成立的人工智能研究公司)开发的一种全新聊天机器人模型,其能够通过学习和理解人类...

    时间:02-10
  • 中国信通院专家:ChatGPT短期无法取代高水平写作

      ChatGPT火遍全球。  ChatGPT的一大特点是不再像之前的人工智能产品那么高冷,而是变得平易近人,能让普通用户参与互动聊天。  那么,在专业机构和研究人员眼中,ChatGPT代表了怎样的水平?就此,新京报新京智库专访了中国信通院云大所人工智能部副主任曹峰。  作为人工智能领域的“国家队”,曹峰和其所在的中国信息通信研究院...

    时间:02-10
  • ChatGPT引燃新一轮AI革命 业内呼吁正视差距夯实基础

      证券时报记者 阮润生  上一轮2016年人工智能程序AlphaGo击败职业围棋世界冠军引发人工智能热议,人们似乎还可以作壁上观;本轮热炒的聊天机器人ChatGPT,则从写学术论文到医疗咨询几乎席卷各个行业,自生式智能新范式已经让人们近距离感受到人工智能带来惊喜与危机,引燃新一轮AI革命。  即便多家上市公司提示交易风险,暂无相...

    时间:02-10
  • ChatGPT爆火,国内研发进展如何?

      ◎本报记者 刘园园  这段时间,一款名叫ChatGPT的人工智能聊天系统就像平地起春雷,突然刷爆网络。  “从目前普遍的对话感受来看,ChatGPT的最大亮点就在于其优秀的意图识别与语言理解能力,这令人意识到人工智能的交互能力已经实现了跨越式进展。”易观智慧院高级分析师陈晨评价。  有问必答,侃侃应对。这种神奇的人机互...

    时间:02-10
  • ChatGPT,这是你官方的回答,还是你幽默的回答?

      中新网2月10日电 (中新财经 吴家驹)近期,ChatGPT在全球爆火。2月8日中新网记者“采访”了TA 20个问题后,网友们再次好奇:TA还能回答出哪些问题?能做到哪些事情?2月9日中新网记者再次找到ChatGPT,询问了一些网友们关心的问题。  TA能回答出“先有鸡还是先有蛋”“女朋友和妈妈同时掉河里先救谁”这类...

    时间:02-10
  • ChatGPT,这是你官方的回答,还是你幽默的回答?

      中新网2月10日电 (中新财经 吴家驹)近期,ChatGPT在全球爆火。2月8日中新网记者“采访”了TA 20个问题后,网友们再次好奇:TA还能回答出哪些问题?能做到哪些事情?2月9日中新网记者再次找到ChatGPT,询问了一些网友们关心的问题。  TA能回答出“先有鸡还是先有蛋”“女朋友和妈妈同时掉河里先救谁”这类问题吗?TA认识AI界的“同行...

    时间:02-10
版权声明:内容资源均来自于网友投稿、互联网整理编辑,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容,请发送邮件举报,一经查实,本站将立刻删除。