从千卡散群卡到万卡散群,燧本科技挨制更好的AI算力底座
2024-12-26 03:00:24 [深度故事] 来源:
电子收烧友网报道(文/吴子鹏)算力是从千新量斲丧劲的代表,随着以ChatGPT为代表的卡散卡散Transformer架构小大模子的参数规模愈去愈小大,对于合计老本的群卡群燧需供赫然删减。正在2024年天下家养智能小大会(如下简称:WAIC 2024)上,到万底座不但有国内各小大模子厂商同场竞技,本科也有歉厚的技挨算力底子措施措发挥示,其中收罗专一家养智能规模云端算力产物的制更燧本科技。
燧本科技展台
宜昌面军智算中间降天功能提醉
WAIC 2024时期,燧本科技也宣告掀晓了与浑程极智的策略开做。双圆起劲于配开挨制超小大规模智算散群的实习妄想,针对于小大模子真践操做处景妨碍硬硬协同的斥天与劣化。正在知足底子小大模子的预实习、止业小大模子的微调以及小大模子推理布置等不开的操做处景战多元的算力需供,提供更下功能、更下效力、更下性价比的万卡散群算力妄想。
其中一款案例是由燧本科技战智谱AI开做的小大模子编程助足一体机,基于云燧i20推理减速卡,能为硬件斥天企业提供代码天去世、代码翻译、代码批注、代码补齐、智能问问等多种处事。AIGC智能编程做为一种操做家养智好足艺后退硬件斥天效力的格式,已经正在真践中患上到了普遍的操做,那款小大模子编程助足一体机的尾要下风要表目下现古相闭输入的反映反映速率,战代码的细确率等。
此外一款案例是燧本科技与无问芯穹携手带去的游戏体验名目,经由历程适配不开的小大模子为用户带去流利战喜爱的体验。
借有一款案例是燧本科技MaaS仄台处事产物“燧本曜图”的降级版,WAIC 2024上,燧本科技提醉的是“燧本曜图”2.0版本。凭证燧本科技工做职员的介绍,客岁“燧本曜图”尾要提醉文本天去世图像的才气,构建了从算力到云处事、模子,再到用户往操做的一体化流程。“燧本曜图”2.0版本则带去了更细分的功能,战更好的用户体验。“燧本曜图”2.0版本反对于文去世图、视频天去世、3D天去世、自拍相机等多个子操做。正在视频天去世圆里,“燧本曜图”2.0版本提供配合的文去世图片,而后图去世视频的天去世流程,让用户可能约莫正在图片阶段逍遥救命,降降视频删改的啰嗦性。
燧本科技展台
从千卡散群到万卡散群
除了里程碑产物提醉中,算力燧本科技往年正在展台重面提醉了其降天标杆案例——宜昌面军智算中间。从千凭证燧本科技工做职员的卡散卡散介绍,之后燧本科技已经正在四川成皆、群卡群燧湖北宜昌战苦肃庆阳睁开了千卡规模智算中间的到万底座建设,松跟国家东数西算的本科小大策略。宜昌面军智算中间是技挨其中的代表,仅用1年时候实现为了300P国产算力建设战拜托,制更正式运行仅5个月,面军智算天时便已经谦载运行,300P算力被齐数消纳,客户群体收罗无问芯穹、爱奇艺、贝式合计、启智社区等,那是燧本科技正在智算中间建设新范式的一次乐成探供宜昌面军智算中间降天功能提醉
WAIC 2024时期,燧本科技也宣告掀晓了与浑程极智的策略开做。双圆起劲于配开挨制超小大规模智算散群的实习妄想,针对于小大模子真践操做处景妨碍硬硬协同的斥天与劣化。正在知足底子小大模子的预实习、止业小大模子的微调以及小大模子推理布置等不开的操做处景战多元的算力需供,提供更下功能、更下效力、更下性价比的万卡散群算力妄想。
挨制更好的AIGC体验
统计数据隐现,2024年我国AIGC的操做市场规模抵达200亿;估量到2030年,我国AIGC操做将成为万亿规模市场,五年(2024-2028年)里的年复开删减率逾越30%。战客岁的WAIC同样,WAIC 2024时期燧本科技同样正在展台提醉了颇为歉厚的AIGC操做案例,收罗编程助足、AI视频天去世、3D天去世等。其中一款案例是由燧本科技战智谱AI开做的小大模子编程助足一体机,基于云燧i20推理减速卡,能为硬件斥天企业提供代码天去世、代码翻译、代码批注、代码补齐、智能问问等多种处事。AIGC智能编程做为一种操做家养智好足艺后退硬件斥天效力的格式,已经正在真践中患上到了普遍的操做,那款小大模子编程助足一体机的尾要下风要表目下现古相闭输入的反映反映速率,战代码的细确率等。
此外一款案例是燧本科技与无问芯穹携手带去的游戏体验名目,经由历程适配不开的小大模子为用户带去流利战喜爱的体验。
借有一款案例是燧本科技MaaS仄台处事产物“燧本曜图”的降级版,WAIC 2024上,燧本科技提醉的是“燧本曜图”2.0版本。凭证燧本科技工做职员的介绍,客岁“燧本曜图”尾要提醉文本天去世图像的才气,构建了从算力到云处事、模子,再到用户往操做的一体化流程。“燧本曜图”2.0版本则带去了更细分的功能,战更好的用户体验。“燧本曜图”2.0版本反对于文去世图、视频天去世、3D天去世、自拍相机等多个子操做。正在视频天去世圆里,“燧本曜图”2.0版本提供配合的文去世图片,而后图去世视频的天去世流程,让用户可能约莫正在图片阶段逍遥救命,降降视频删改的啰嗦性。
结语
燧本科技竖坐6年去,从千卡散群到万卡散群,从算力底子配置装备部署到AIGC,每一年的WAIC上,皆能看到燧本科技的足艺真力战商业降先天气不竭安妥去世少。随着新一代推理减速产物的推出,相疑燧本正在正在外乡算力规模终将芯水燎本。(责任编辑:政商动态)
推荐文章
-
为降真公司闭于数据赋能业余操持工做要供,散焦之后扩散式光伏接进对于配网运行影响相闭问题下场,斥天实现“基于数据的扩散式光伏可视化监测场景”。据体味,之后扩散式光伏接进对于配网运 ...[详细]
-
Nordic nRF Cloud配置装备部署操持处事周齐上市 辅助客户充真操做物联网后劲
夷易近圆宣告NordicSemiconductor宣告掀晓周齐推出nRFCloud配置装备部署操持处事,小大幅扩大其云处事。新的配置装备部署操持处事与现有的定位战牢靠处事一起,完好了nRF Cloud ...[详细] -
Nature Catalysis:远“珠”者“斥”,调控纳米颗粒间距极小大后退催化抉择性! – 质料牛
一、【科教布景】多相催化可能经由历程后退能源效力战产物抉择性去降降能源老本战情景影响,正在齐球90%以上的化教品斲丧中发挥着中间熏染感动。背载型金属催化剂同样艰深由群散正在固体载体上的纳米粒子NPs) ...[详细] -
中北小大教AFM: 飞秒激光制备类脑图案顺应单栅晶体管阵列 – 质料牛
叙文顺应是去世物神经系统贯勾通接保存颇为尾要的功能。人体五感收受的情景输进旗帜旗号经由历程神经元汇散传输到神经系统,之后经由调节会患上到顺应情景修正的输入。模拟该动做的自顺应神经形态器件可能凭证外部宽 ...[详细] -
东圆日降出席2020 BIPV云上钻研会,分享光伏屋顶名目履历
4月17日,2020 BIPV云上钻研会正在线上顺遂妨碍,多位止业专家、重面企业代表环抱“光伏修筑一体化(BIPV)”睁开了深入交流。东圆日降齐球市场总监庄英宏受邀出席并宣告了 ...[详细] -
北京小大教潘锋教授团队2023年正在电池规模的代表性钻研功能 – 质料牛
潘锋教授,北京小大教讲席教授,专士去世导师,北京小大教深圳钻研去世院副院少战新质料教院创院院少。潘锋教授于1985年结业于北京小大修养教系,1988年正在中科院祸建物构所患上到硕士教位,1994年正在 ...[详细] -
《蛋仔派对于》X水波蛋联动中不美不雅超萌去袭!朗朗晴天减载中......
《蛋仔派对于》X水波蛋联动中不美不雅超萌去袭!朗朗晴天减载中......文章做者:网友浑算宣告时候:2022-06-24 08:28:33去历:www.down6.com单蛋群散,萌力暴击!潮玩戚闲竞 ...[详细] -
微疑视频号若何启闭,微疑视频号若何删除了文章做者:网友浑算宣告时候:2022-06-20 00:47:53去历:www.down6.com一部份人对于微疑视频号那个功能爱不释足,感应是一款用起去很驾沉 ...[详细]
-
苦肃建成光伏扶贫村落级电站881个 估量年支益将达7.6亿元
光伏扶贫是国务院扶贫办提出的十项细准扶贫工程之一,光伏扶贫不但能正在20年里拆穿困绕泛滥建档坐卡贫贫户贯勾通接晃动支益,做到细准扶贫带贫减贫,借可能延绝强盛大村落总体经济,是资产支益的实用格式。记者从 ...[详细] -
聂单喜教授Nano Letters:操做细胞壁纳米工程修筑下功能纤维素磨擦电质料 – 质料牛
随着家养智好足艺、质料科教、去世物工程、电子教战数据阐收足艺的快捷去世少,人们对于人体监测的闭注度愈去愈下,那拷打了可脱着配置装备部署的去世少。古晨,可脱着配置装备部署已经不竭操做于多种规模。幻念的可 ...[详细]
热点阅读
- 王秋去世教授Angew:水系锌离子电池的固态电解量界里中间相设念 – 质料牛
- 联念齐球提供商小大会:瑞萨电子枯膺单奖,共绘AI坐异蓝图
- Telegram若何配置中文版
- 中科院煤化所陈成猛团队Carbon: 预氧化真现挨算劣化以提降木量素基硬碳质料的锂离子存储 – 质料牛
- 河汉通用机械人实现7亿元天使轮融资
- 微疑刷掌支出正在那边,若何激进?(图文)
- openEuler 24.03 LTS Meetup:散焦AI、嵌进式与扩散式坐异
- 好分数若何审查魔难下场?审查期终魔难下场格式(图文)
- 微疑里若何听歌?微疑里收费听歌教程(图文)
- Nano Lett.:多孔普鲁士蓝远似物纳米笼中原位锚定多金属磷化物纳米颗粒增长析氧催化 – 质料牛