是石科技发布多模态模型服务,视频生成推理端到端平均加速2.48倍
要点
是石科技此次发布的新品为多模态模型服务。按披露的信息,其优化工作分布在四条线上:一是视频生成环节的推理加速,二是缓存与显存管理,三是多模态Token压缩,四是素材理解与生成链路的衔接。 视频生成模型需经过多轮迭代计算,相邻计算步骤之间存在可复用信息。若每一步都执行完整计算,会产…
是石科技此次发布的新品为多模态模型服务。按披露的信息,其优化工作分布在四条线上:一是视频生成环节的推理加速,二是缓存与显存管理,三是多模态Token压缩,四是素材理解与生成链路的衔接。
视频生成模型需经过多轮迭代计算,相邻计算步骤之间存在可复用信息。若每一步都执行完整计算,会产生较高推理开销;若直接复用历史结果,缓存误差又可能随迭代累积。是石科技采用基于历史缓存残差的自适应加速技术,通过历史计算信息评估缓存复用风险,并动态调整计算与刷新策略:对变化较小的部分复用历史结果,对误差风险较高的关键部分触发重新计算与校准,以维持生成轨迹的一致性。在发布方案展示的测试条件下,相比Dense基线方案,该技术端到端平均加速2.48倍,同时保持生成质量。
视频生成的资源开销还来自推理过程中的显存占用。是石科技将智能缓存决策与SGLang推理框架结合,通过缓存复用、分块处理、压缩和智能调度减少重复计算与显存开销,并引入风险感知机制,依据实际计算反馈动态调整缓存策略。这一设计把优化范围从单次推理计算扩展到多任务资源管理层,面向并发执行时的显存使用效率。
在多模态理解端,视频和音频的时序信息密度高于文本,输入会被转化为大量Token,其中部分Token包含关键语义,部分则存在冗余。针对这一差异,是石科技采用免训练的压缩方法,借助基于AudioCLIP的模态感知技术判断各模态中的有效信息,再按模态特征与信息价值分配计算资源,而非对所有输入等比例压缩。在WorldSense评测中该方法实现1.33倍加速,在VideoMME、DailyOmni等多模态理解基准上也展现出相应性能表现。
实际业务中的视频生成请求常同时包含人物图片、参考视频、音频和文字要求,并附带人物身份、动作、声音、镜头与时间顺序等约束。是石科技构建了基于全模态模型的Context Engine,先理解输入素材与创作需求,提取人物、声音和相关约束,再将其组织为包含镜头、动作、对白的结构化信息供生成模型执行,并通过素材绑定、结构化分镜、时轴校验及错误修正等机制,使不同模态的信息在生成流程中形成可校验的对应关系。
面向实际业务中的任务运行,该服务搭建了从API接入、任务编排、模型路由到推理执行、结果交付的推理架构。任务运行中出现的并发冲突、超时与中断由配套机制处理,包括任务状态管理、并发控制、超时重试与恢复;架构侧则把这些环节串联起来,覆盖从接入到交付的全过程。优化对象由此从单个模型的计算过程延伸至多模态任务的执行与交付。
公开资料显示,是石科技(平湖)有限公司于2024年由清华大学、北京大学团队在平湖成立,创始人兼董事长为闫博文;公司定位为独立第三方全栈算力运营商,纳管算力超过20000+P,覆盖10余个超智算中心。在第二十二届CCF全国高性能计算学术大会上,闫博文所作报告披露,公司通过从算子库、集群通信、推理引擎到模型压缩的全链路推理优化,实现吞吐提升近10倍、显存利用率95%以上。将这条技术脉络与本次发布对照可见,缓存残差自适应加速、SGLang缓存管理仍围绕减少冗余计算与提升显存利用展开,方法上具有连续性。
2026年7月,是石科技在世界人工智能大会发布“国产Token优化工厂——拓元(Vectron)”,覆盖结果感知驱动的KV Cache压缩、全模态推理Token压缩等方向,已兼容10余款国产算力硬件、适配20余个主流模型,日Token吞吐量达千亿级。与拓元面向通用推理全链路优化相比,本次发布的多模态模型服务把Token压缩与缓存加速落到视频生成和素材理解的具体环节,对外披露的重心由通用算力效率工具转向多模态生产链路。
2026年前三季度,是石科技营收近3亿元,累计订单超30亿元,并于9月启用全国首个自建自营的超智算中心。结合此前以算力基础设施为主的公开业务形态,本次发布多模态模型服务,显示公司对外披露的业务重点向模型服务层延伸。
是石科技表示,后续将持续围绕多模态推理效率、资源利用与服务稳定性等方面展开技术优化。




冀公网安备13068102000496号