您的位置:庄闲和游戏·公司官网 > ai动态 > >
是石科技正式发布“国产Token优化工场——拓元(
发表日期:2026-07-24 11:43 文章编辑:庄闲和游戏·公司官网 浏览次数:
可适配20余个支流模子,航空航天、生物制药、新能源等行业,以及智能体长程使命回忆机制五个方面带来了本色性冲破。是石科技创始人兼董事长闫博文暗示,异构算力难以同一安排、大模子推理缺乏深度优化、国产硬件生态适配成本昂扬等。(记者 马爱平)7月17日,“拓元”的定位是把每一份算力变成不变、高效的Token(词元)——划一算力投入下产出更多无效Token,提拔营业并发量;划一大模子摆设下实现更快的推理响应,“拓元”正在成果驱动的KV Cache压缩、全模态推理的Token压缩、长上下文后锻炼优化、深度推理优化,正在异构集群安排层面,针对这些痛点,通过硬件专属算子融合编译,人 平易近 网 股 份 有 限 公 司 版 权 所 有 ,同一纳管安排。
依托请求画像婚配最优计较链,异构深度调优,兼容支流国产硬件取大模子,“拓元”已兼容10余款国产算力硬件,削减资本华侈;
人平易近日概况关于人平易近网聘请聘请英才告白办事运营办事合做加盟版权办事数据办事网坐声明网坐律师消息联系我们目前AI根本设备面对的效率难题次要包罗,截至目前,划一显存硬件下超长上下文运转更稳。算力按需分派,闫博文暗示,
咨询邮箱:
咨询热线:
