首页 > 经济·科技

Meta加入AI军备竞赛:发布开源大语言模型,号称优于ChatGPT

2023-02-27 09:50:43

来源:澎湃新闻

  澎湃新闻记者 吴雨欣

  继微软、谷歌之后,脸书(Facebook)母公司Meta(Nasdaq:META)也加入AI军备竞赛。

  当地时间2月24日,Meta官网公布了一款新的人工智能大型语言模型LLaMA,从参数规模来看,Meta提供有70亿、130亿、330亿和650亿四种参数规模的LLaMA模型,并用20种语言进行训练。

  Meta首席执行官马克·扎克伯格表示,LLaMA模型旨在帮助研究人员推进工作,在生成文本、对话、总结书面材料、证明数学定理或预测蛋白质结构等更复杂的任务方面有很大的前景。

  怎么理解人工智能大型语言模型的参数?

  据悉,AIGC(利用人工智能技术来生成内容)形成的学习能力在一定程度上取决于参数的规模。Open AI推出的ChatGPT是通过其AI大模型GPT-3的基础上通过指令微调后得到的,参数量达1750亿,谷歌推出的Bard使用的是轻量级LaMDA模型,相比标准版本,轻量化版本模型所需要的运算能力较小,能面向更多使用者开放,使其参与体验,有报道指出LaMDA模型参数量在1370亿。百度文心大模型参数量达到2600亿,阿里则表示,从过往实践来看,其具备支撑超万亿参数大模型研发的技术实力。

  Meta此次推出的大模型实力如何呢?

  Meta首席AI科学家杨立昆(Yann LeCun)表示,在一些基准测试中,LLaMA 130亿参数规模的模型性能优于OpenAI推出的GPT3,且能跑在单个GPU上;650亿参数的LLaMA模型能够和DeepMind 700亿参数的Chinchilla模型、谷歌5400亿参数的PaLM模型竞争。

  法新社称,按照Meta的表述,LLaMA是一套“更小、性能更好”的模型,且不同于谷歌的LaMDA和OpenAI的GPT机密训练资料和演算,LLaMA是基于公开资料进行训练。

  Meta在官网表示,在大型语言模型中,像LLaMA这样的小型基础模型是可取的,因为测试新方法、验证他人的工作和探索新用例所需的计算能力和资源要少得多。基础模型基于大量未标记的数据进行训练,这使得它们非常适合于各种任务的微调。与其他大型语言模型一样,LLaMA的工作原理是将一系列单词作为输入,并预测下一个单词以递归生成文本。

  Meta称将致力于这种开源模型的研究,新模型会开源给整个AI研究社区使用,并授予大学、非政府组织和行业实验室访问权限。另外,Meta表示其还有更多研究需要做,以解决大型语言模型中的偏见、有害评论等风险。

  Meta披露的2022年第四季度财报显示,该公司已连续第三个季度出现营收同比下滑,四季度营收312.54亿美元,同比下降4%。广告为Meta的支柱业务,为第四季度的总营收贡献超97%,报告期内,尽管广告展现量增长了23%,但单位广告价格下滑了22%。

  截至美东时间2月24日,Meta股价跌0.96%报170.390美元/股,总市值4418亿美元。

【责任编辑:长风】
  • 相关阅读
  • Meta挑战微软谷歌,专家称ChatGPT绝不是终点

      作者:钱童心  微软和谷歌的大模型竞赛中又杀出了一个新对手——Meta。Meta公司的研究人员周末发布了一种新的大型语言模型,加剧了科技巨头的人工智能军备竞赛升温。  此前,凭借OpenAI的ChatGPT技术,微软公司拔得头筹,并促使谷歌和百度等全球科技巨头都匆忙加入到这场竞赛。但ChatGPT自发布3.0版本以来就拒绝开源,这也引起...

    时间:02-27
  • 爆火的ChatGPT有何用?沪上侨界沙龙热议

      中新网上海2月26日电(记者 范宇斌)ChatGPT近来炙手可热,风头超过昔日“顶流”元宇宙。爆火的ChatGPT究竟是什么?又有何用?  25日在上海举行的“新侨双创在上海”——侨界金融投资沙龙活动将主题聚焦于ChatGPT,与会侨界企业家、科学家、金融投资等领域代表人士相聚一堂,围绕“ChatGPT:元宇宙的新爆点?”的主题,各抒己见。  上...

    时间:02-26
  • ChatGPT威胁数据安全是杞人忧天吗?企业闻风而动

      作者:樊雪寒  在2023世界人工智能开发者先锋大会开幕式上,开放元宇宙基金会董事罗尤·奥布莱恩谈及ChatGPT时,特别提到了安全问题,“我们一定要有保障的规则,要有护栏,确保做坏事的人带来的影响有限。”  “安全”二字在大会期间被反复提及。  尽管ChatGPT的概念出现没有多久,但对网络安全和数据安全带来威胁的问题已经成...

    时间:02-26
  • ChatGPT威胁数据安全是杞人忧天吗?企业闻风而动

      作者:樊雪寒  在2023世界人工智能开发者先锋大会开幕式上,开放元宇宙基金会董事罗尤·奥布莱恩谈及ChatGPT时,特别提到了安全问题,“我们一定要有保障的规则,要有护栏,确保做坏事的人带来的影响有限。”  “安全”二字在大会期间被反复提及。  尽管ChatGPT的概念出现没有多久,但对网络安全和数据...

    时间:02-26
  • ChatGPT“冷思考”:发展人工智能,我们的注意力不应集中在跟风上

      中新网上海2月25日电 (记者 郑莹莹)作为一个以AI(人工智能)开发者为主角的活动,25日开幕的2023全球人工智能开发者先锋大会(GAIDC)难以“逃开”ChatGPT这一高热度话题。  在多位专家中,中国科学院院士、上海算法创新研究院院长鄂维南的思考有些“冷”。他说,ChatGPT一出来就非常非常火,我们马上就...

    时间:02-25
  • 人工智能备受关注 业内专家:ChatGPT热潮呼唤理性与定力

      ChatGPT热潮呼唤理性与定力  本报记者 孙奇茹  一个可以精准理解提问并秒速生成答案的“生成式”人工智能(AI)产品,似乎让大至科技巨头、小到初创公司的大小企业都感受到了前所未有的激情。围绕ChatGPT,业内人士近期展开了热烈讨论,不少人认为随着深度学习、自动驾驶、智能家居、机器人等人工智能相关领域不断突破,人类...

    时间:02-25
  • 山寨版ChatGPT试玩收费套路多

      广州日报讯 (全媒体记者王宇、何颖思 通讯员粤消宣)智能聊天机器人ChatGPT火遍全球,引得国内用户争相体验。在其开发者OpenAI并未开放国内用户注册使用的情况下,网上出现了众多代注册ChatGPT账号服务、山寨版ChatGPT,并收取费用。为维护广大消费者合法权益,广东省消费者委员会发布消费提示,提醒广大...

    时间:02-25
  • ChatGPT等带来网络安全新挑战 业界沪上热议“新技术安全”

      中新网上海2月24日电 (记者 郑莹莹)“大家都在讨论ChatGPT,它带来的安全挑战是非常复杂的。”360集团副总裁、首席安全官杜跃进24日在上海说。  当天,2023上海网络安全产业创新大会暨第三届上海数字创新大会数字安全论坛在沪举办,业界人士围绕网络安全展开讨论,ChatGPT等新热点备受关注。  杜跃进表示,随着数字技术被广泛...

    时间:02-24
  • 科技部谈ChatGPT:将把人工智能作为新增长引擎

      中新网2月24日电 24日,国新办举行“权威部门话开局”系列主题新闻发布会,科技部高新技术司司长陈家昌答记者问时表示,ChatGPT最近形成了一种现象级的应用,表现出很高的人机交互水平,表现出自然语言的大模型已经具备了面向通用人工智能的一些特征,在众多行业领域有着广泛的应用潜力。  下一步,科技部将把人工智能作为战略性新...

    时间:02-24
  • ChatGPT来了,元宇宙走了?

      高源  “长江后浪推前浪,ChatGPT将元宇宙拍在沙滩上。”ChatGPT近来炙手可热,风头明显盖过了昔日“顶流”元宇宙。有业内人士调侃:不少曾经的“元宇宙交流群”瞬间改名为“ChatGPT交流群”,这种进化速度比人工智能快一万倍。  作为人工智能界的新宠,Chat-GPT之火肉眼可见。从上线两个月用户破亿,到相关概念股股价狂飙,再到...

    时间:02-24
版权声明:内容资源均来自于网友投稿、互联网整理编辑,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容,请发送邮件举报,一经查实,本站将立刻删除。