《科创板日报》11月18日讯(记者 张洋洋)“你这个设备是英伟达原厂出来的吗?”第二十五届中国国际高新技术成果交易会(下称“高交会”)正在深圳举行,在福田展区的新一代信息技术展上,来来往往的观众几乎都会走进潞晨科技的展台来问询、拍照。
因为,在这个不足20平的展台里,一台硕大的带有英伟达Logo的服务器箱子被十分显眼地放置在正中央。
据潞晨科技现场技术人员向《科创板日报》记者介绍,这个设备是英伟达原厂的DGX H800一体机,潞晨科技在原有的基础之上,自主设计开发了相应的大模型软件服务与之配套,从而形成了潞晨科技的Colossal-AI极速大模型工作站,对外出售或出租。
该技术人员称,公司是从今年开始开发大模型一体机,为此采购了不少英伟达的设备,同时也采购了一些国内厂商的芯片。
上述潞晨科技人士表示,开发训推一体机,已经是行业的一个趋势。大模型正在渗透至各行业当中,但是这个门槛不低,不擅长做训练或者推理企业有很多,开发训推一体机,可以帮助他们解决训练推理过程中的技术细节问题,降低成本。另外现在企业的数据隐私和安全需要强烈,一体机还可以帮助他们实现本地私有化部署,满足保密需求。
国产14nm Chiplet大模型推理芯片发布
高交会一直有科技创新“风向标”之称,今年,AI毫不意外地成为展商们展陈的焦点。像潞晨科技一样,把AI产品搬到现场的厂商其实还有很多。
在高交会开幕当天,云天励飞就在展区发布了新一代AI芯片DeepEdge10。
现场工作人员向《科创板日报》记者介绍,DeepEdge10是国内首创的国产14nm Chiplet大模型推理芯片,采用自主可控的国产工艺,内含国产RISC-V核,支持大模型推理部署。
在应用方面,相关工作人员称,依托DeepEdge10创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载SAM CV大模型、Llama2等百亿级大模型运算,可广泛应用于AIoT边缘视频、移动机器人等场景。
在智能城市展区,来自深圳的本土企业,深圳趣象时空科技的3D内容AI生产与交互引擎“Anatman”,也成为高交会组委会推荐参观路线的精品项目。只要上传照片,这个引擎就可快速生成高品质高写实的3D虚拟形象,还支持直接将3D虚拟人导出到3D建模软件进行二次开发。
该公司AI事业部总裁莫智帆告诉记者,在竞争激烈的市场中从业者会出现创意疲劳,传统的创作过程也需要耗费大量的人力、物力及时间,这些行业痛点,如今都能交给BextAI平台来解决了。
根据《科创板日报》记者观察,本届高交会的议程安排,半数以上的行业论坛,均是AI主题相关,每一天都有行业大咖和学界巨擘做与AIGC有关的主题分享。而在开幕的第一天,百度创始人、董事长兼首席执行官李彦宏更是出席了西丽湖论坛,并在现场作了《AI原生时代:冷思考和热驱动》演讲。