海康威视申请KV缓存数据量化设备及方法专利减小

国家知识产权局信息显示,杭州海康威视数字技术股份有限公司申请一项名为“KV缓存数据量化设备及方法”的专利,公开号CN121031682A,申请日期为2025年8月。
专利摘要显示,本申请提供一种KV缓存数据量化设备,包括精度决策接口、压缩器和存储接口,精度决策接口用于结合token量化难度确定每个token的量化精度标记,根据所有token对应的量化精度标记生成混合量化精度指令;压缩器,用于获取每个token对应的浮点Key值和/或浮点Value值,基于精度决策接口下发的混合量化精度指令对浮点Key值和/或浮点Value值量化,生成带有每个token的缩放因子和零点的元数据,以及相应的量化数据;存储接口,用于将低精度位宽的量化精度标记对应的量化数据两两合并,将量化数据与元数据通过地址映射表关联,对量化数据与元数据分离存储。本申请能够减小KV缓存所占用的存储空间,提高模型的推理速度。
天眼查资料显示,杭州海康威视数字技术股份有限公司,成立于2001年,位于杭州市,是一家以从事计算机、通信和其他电子设备制造业为主的企业。企业注册资本916487.155万人民币。通过天眼查大数据分析,杭州海康威视数字技术股份有限公司共对外投资了67家企业,参与招投标项目5000次,财产线条,此外企业还拥有行政许可579个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
因拒绝在野外发生性关系,50岁女教师被同居11年的60岁男友用斧头砍杀,该案二审于11月27日开庭
洪灏:黄金是一个巨大的价格势能泡沫,是一定要爆掉的!人民币非常重要而且汇率被严重低估,一定会重新升值
荣耀GT2系列已经通过3C认证:100W快充+万级电池,配置也很激进!
荣耀Magic8 mini:6.31英寸直屏+7020mAh电池,小屏旗舰新标杆!
猜你喜欢
- 11-29AICoin海康威视申请KV缓存数据量
- 05-18AICoin头部梯队持续洗牌量化百
- 06-04AICoin启牛学堂:量化投资——
- 05-17AICoin突发!史上最大盗窃案1
- 05-31AICoin做AI的量化不止幻方!AI百
- 11-29AICoin消息人士称朝鲜黑客组织
- 07-03AICoin百亿量化私募集体看多中
- 08-26AICoin美股三大指数集体收跌 热
- 08-10AICoin加密货币市场行情波动X
