首页 > 国内

大模型时代到来 算力够用吗?

2023-07-04 14:40:47

来源:新民晚报

  探访亚洲规模最大的智算中心

  大模型时代到来 算力够用吗?

  每秒百亿、千亿次的浮点运算能力,千万亿字节(PB)级的数据存储规模……许多人可能对这些指标没有太多概念,但要说起对答如流的大语言模型,自动驾驶中反应神速的汽车,大家应该不会感到陌生了吧?

  看得见的应用背后,是看不见的算力在支撑。“大模型时代”谁能占得先机,这个问题谁说了“算”?在2023世界人工智能大会召开之际,记者探访了商汤科技人工智能计算中心(AIDC)。如今,基于最新人工智能理论、采用领先人工智能计算架构,提供算力服务、数据服务和算法服务的智算中心,在推进大模型能力和数字经济发展中正发挥着越来越重要的作用。

商汤科技人工智能计算中心,是目前亚洲规模最大的人工智能计算中心之一 新民晚报记者 陈炅玮 摄

  AIGC时代

  不可或缺的“血液”

  这座位于临港新片区的商汤科技人工智能计算中心,是目前全亚洲规模最大的人工智能计算中心之一。经过一年半的运营,今天的算力规模已经达到了5000PFLPOS(1PFLPOS相当于每秒可以进行1千万亿次浮点运算)的体量,超过了当时设计的算力规模水平。

  “换句话说,商汤智算中心的峰值算力可以达到每秒500亿亿次浮点运算。通过这样的一个超大规模的算力,我们可以支持20个千亿参数超大模型同时进行训练,并提供完整的人工智能基础设施资源的能力。”商汤AI大装置产业赋能中心主任蒋钦告诉记者。

  大模型吹响了生成式人工智能(AIGC)的号角,这必然伴随着“能源”的进一步开发。这样的“能源”,在AIGC时代,正是无数服务器中运转不息的庞大算力。打比方说,大模型若是人工智能抽象化的“身体”,那么海量的算力,则是维系身体运转的“血液”。

  蒋钦解释,所谓算力并不是单一概念,它包括通用算力,就是以CPU芯片为主的算力;还包括超算,就是各种超算中心提供的高性能算力,主要服务于科学计算;还有目前非常热门的智能算力,即以GPU为典型代表的,以AI芯片为主的服务于人工智能训练和推理相关需求的计算能力。

  其中,以AI芯片为主的人工智能算力近年来呈现快速增长态势。中国信通院统计显示,2016年的算力结构中,国内人工智能算力比例只占3%左右;而截至去年,整个人工智能算力比重已超过半壁江山。

  各行各业

  需求与日俱增

  随着人工智能技术的高速发展,以及大语言模型的出现和应用,各行各业对智能算力的需求也在与日俱增。蒋钦介绍,2012年前后是一道分水岭,随着深度学习的兴起,在此之后,最先进人工智能模型的计算量每三四个月就翻一番,也就是每年增长近10倍。尤其是最近几年,在大模型取得突破、应用场景的广泛开拓与深入发展的背景下,对智能算力的需求迎来井喷。

  没有人会否认,大模型江湖的混战已然愈演愈烈,“下场”的选手越来越多。由大模型为代表引发的人工智能新技术热潮,会带动整个算力需求呈现出非常旺盛的态势。

  “大模型需要处理海量的数据,并且需要在短时间内完成复杂的计算任务,这就意味着需要更高的计算能力。”蒋钦指出,“大模型也需要访问大量的数据,存储大量的参数和中间结果,因此需要更大的内存容量。”与此同时,大模型需要在多个硬件设备上同时进行计算,因此需要更好的并行计算能力;而在“双碳”背景下,消耗大量能源的大模型也在呼唤更高能效比的算力。

  “虽然纯CPU算力也能用来进行部分人工智能计算,但效率非常低、能耗非常高。我们不会以这样的算力形式去支撑产业的发展。”蒋钦判断,“而搭载以AI芯片为主的新型算力基础设施是未来发展的重要趋势和热潮。”

  他告诉记者,在大模型的热潮下,算力服务器目前呈现紧缺状态,“大模型的发展和智能算力底座有着深刻联系,需要在大规模资源汇聚的基础上做好算力、算法、数据三要素的协同实践和联合优化,助力实体经济高质量发展。”

  助力临港

  打造算力新高地

  作为亚洲已投入使用的、最大规模的单节点智能计算中心,商汤AIDC除了算力规模体量巨大外,与之相配套的人工智能模型开发工具,针对大模型的训练、推理、数据优化服务等,都可以高效率、低成本、规模化地支撑和服务好目前以大模型为代表的整个人工智能产业的高速发展

  今年上半年,人工智能应用向纵深发展:AIGC打造的“数字人”效果媲美真人水平;人工智能预测蛋白质结构给基础研究带来全新的研究手段;人工智能驱动的大语言模型在多轮次对话和长文本理解能力上突飞猛进……这些无不依赖算力提供支撑。

  “商汤科技人工智能计算中心除了为‘日日新’大模型体系提供底层算力基座和AI工具的支撑外,也为其他行业赋能AI相关的基础能力。”蒋钦介绍,“通过云服务的方式,我们已在泛互联网、泛娱乐、自动驾驶、科研院所等多个领域里支持了十余家大模型客户的开发工作。”

  商汤科技人工智能计算中心会依托临港,进一步夯实算力底座、扩大算力规模。在算力软件平台相关技术领域,持续对集群架构、集群网络、存储性能、能源管理等多方面开展技术攻关,对于大模型训练与推理定向支持等开展技术迭代更新,以支撑更大规模的算力集群落地,助力临港打造智能算力新高地。“临港本身具有非常强大的区域产业优势,集聚了集成电路、人工智能、生物医药、高端装备制造、新能源汽车等核心优势产业。这也要求我们围绕这些优势产业去打造人工智能基础设施行业解决方案与丰富的产业上下游生态,做好产业智能化升级的算力底座。”蒋钦表示。(新民晚报 记者 郜阳)

【责任编辑:长风】
  • 相关阅读
  • 今年来最大范围高温天气来袭 大城市高温打卡日历看哪里超长待机

      中国天气网讯 今年以来最大范围高温天气即将上线!明天起(7月5日)至下周初,华北、黄淮等地将迎新一轮超长待机的高温天气,江南、华南等地也会加入“高温群聊”,出现阶段性桑拿天气。此次过程中,北方部分地区将再次冲上40℃,河北、辽宁等局地或现极端高温。中国天气网推出大城市高温打卡日历,看哪里将高...

    时间:07-04
  • 香港保安局强烈反对和谴责有国家对国安处行动的无理抨击

      中新社香港7月4日电 香港特区政府保安局7月4日表示,强烈反对和谴责有国家肆意对警务处国家安全处(国安处)依法通缉在逃人的行动作出无理抨击。  特区政府保安局发言人表示,国安处行动合情、合理、合法。危害国家安全是严重的罪行,没有哪个国家会对危害国家安全的行为和活动袖手旁观。公开因涉嫌...

    时间:07-04
  • 中国国家原子能机构:对IAEA仓促发布报告表示遗憾 日方未证明排海决定正当合法性

      中新社北京7月4日电 (记者 马帅莎)国际原子能机构(IAEA)总干事格罗西7月4日在日本东京正式发布IAEA关于日本福岛核污染水排海问题的综合评估报告(以下简称报告)。对此,中国国家原子能机构秘书长邓戈4日向媒体表示,IAEA邀请多国专家参与对日本福岛核污染水处置问题审查评估,但报告却未能充分反映所...

    时间:07-04
  • 云南省政协原副主席黄毅一审获刑13年

      中新社北京7月4日电 (记者 张素)记者从中国最高人民法院获悉,7月4日,重庆市第一中级人民法院一审公开宣判云南省政协原党组成员、副主席黄毅受贿案,对被告人黄毅以受贿罪判处有期徒刑十三年,并处罚金人民币三百万元;对其受贿所得财物及其孳息依法予以追缴,上缴国库。  公开资料显示,黄毅生于1958年8...

    时间:07-04
  • 辽宁沈阳发现一例猴痘病例 患者正在隔离治疗

      中新网沈阳7月4日电(记者 王景巍)辽宁省疾病预防控制中心4日发布消息称,6月29日,沈阳市报告1例疑似猴痘病毒感染病例,该病例经辽宁省、沈阳市疾病预防控制中心实验室检测及中国疾病预防控制中心复核,检测结果为猴痘病毒核酸检测阳性,经临床专家组会诊,7月3日,诊断为猴痘病毒感染确诊病例。目前患者正在...

    时间:07-04
  • 中国科学家揭示霍乱大流行菌株起源研究成果被写进国际权威教科书

      中新社天津7月4日电 (孙玲玲)记者4日从南开大学获悉,近日,南开大学王磊教授团队首次揭示霍乱大流行菌株起源和完整进化途径的研究成果,被写入美国微生物学会出版的权威教科书《微生物》(Microbe,3rd Edition)。  该书由美国密歇根大学米歇尔·斯旺森教授等编写,向读者介绍微生物领域最基础和核心...

    时间:07-04
  • 重庆万州遭261.2毫米特大暴雨袭击 多支队伍正开展救援

      中新网重庆7月4日电 (记者 刘相琳)记者4日从重庆市应急局获悉,3日至4日,重庆万州区遭暴雨袭击,万州长滩镇遭遇特大暴雨,最大雨量达261.2毫米,超历史极值。目前,多支队伍正开展救援。  据统计,截至4日11时,万州24个镇乡街道达到暴雨,其中16个镇乡街道大暴雨,长滩镇特大暴雨,万州白羊镇、龙驹镇、长岭镇、...

    时间:07-04
  • 中方:愿同各方一道,携手推动全球安全倡议走深走实

      中新网北京7月4日电 (李京泽 张凯璇)中国外交部发言人毛宁7月4日主持例行记者会。  有记者提问:近期,越南、蒙古国、巴巴多斯等多国领导人在访华期间不约而同表示支持、赞赏习近平主席提出的全球安全倡议,愿参与相关合作,促进世界和平稳定。我们从中感受到国际社会对倡议抱有高度热情,也看到倡议...

    时间:07-04
  • 南太平洋岛国医院里的朗朗中文声

      中新网重庆7月4日电 题:南太平洋岛国医院里的朗朗中文声  作者杨畅  “你买什么?我买一杯咖啡……”近日,位于南太平洋岛国巴布亚新几内亚(下称“巴新”)首都莫尔兹比港总医院(下称“莫港总医院”)内,会议室里传来朗朗中文声,10余名学员正有模有样地学习着汉语发音,他们既有刚毕业的医学生,也有医...

    时间:07-04
  • 独家视频丨习近平:共同把“一带一路”这条造福世界的幸福之路铺得更宽更远

      国家主席习近平7月4日下午在北京以视频方式出席上海合作组织成员国元首理事会第二十三次会议并发表题为《牢记初心使命 坚持团结协作 实现更大发展》的重要讲话。  习近平指出,今年是我提出“一带一路”倡议10周年,中方将举办第三届“一带一路”国际合作高峰论坛,欢...

    时间:07-04
版权声明:内容资源均来自于网友投稿、互联网整理编辑,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容,请发送邮件举报,一经查实,本站将立刻删除。