慧愈健康申请自然语言处理任务推理加速方法专利显著降低计算开销和显存占用
国家知识产权局信息显示,广东慧愈健康科技有限公司申请一项名为“自然语言处理任务的推理加速方法、装置、设备及介质”的专利,公开号CN121413752A,申请日期为2025年9月。
专利摘要显示,本申请公开了一种自然语言处理任务的推理加速方法、装置、设备及介质。包括:接收用户的输入数据,基于输入数据得到输入向量,基于输入向量提取特征向量;将特征向量输入到大语言模型的激活预测模块,生成稀疏掩码;基于输入向量进行短期记忆检索和/或长期记忆检索,得到匹配的短期记忆向量和/或长期记忆向量;基于短期记忆向量和/或长期记忆向量进行多尺度融合,并采用稀疏掩码进行稀疏化计算,得到稀疏化计算结果;基于稀疏化计算结果得到输出数据,将输出数据返回给用户。本申请通过采用稀疏激活与多尺度记忆检索的协同作用,在保证任务处理精度的同时,显著降低计算开销和显存占用,适用于实时交互、移动端部署和低延迟场景。
天眼查资料显示,广东慧愈健康科技有限公司,成立于2025年,位于广州市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本1000万人民币。通过天眼查大数据分析,广东慧愈健康科技有限公司专利信息1条。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
中国公民东京街头约4.2亿日元现金遭劫 我使馆再次提醒近期避免前往日本
直线大跳水!白银、黄金重挫8%、5%,网友:刚上车就1克亏了一百多......
父亲工龄48年,退休金每月才880元,我找去社保局,工作人员却愣了:他15年前就是高级工程师,特殊津贴每月16480
事发上海!雇主离世仅12分钟,保姆就陆续转走银行卡内50万元现金,还变卖玉器
iPhone 17中国卖爆 苹果在华市场强势复苏!库克:我被销量惊到 感谢中国用户
手机被扎出窟窿还能用!拍摄者:钉子通过主板穿透屏幕 主人用了三四天才来换
“孩子掉下去了”,6天婴儿摔致颅内出血,涉事月子中心突然宣布破产要关停
机构:Meta Ray-Ban Display预估带动今年全球AR眼镜95万台出货量
三星Galaxy Buds4 Pro前瞻:新增杏色吸睛,支持耳机盒反向找手机
同类文章排行
- kaiyun的自然语言处理技术有哪些核心功能?
- CV计算机视觉每日开源代码Paper with
- 自然语言处理领域的变革之路:从BERT到Qwen 25
- 人类秒懂AI却懵圈:VLM²-Bench揭示视觉语言模型「视
- AI小程序开发人工智能时代下的商业机遇
- kaiyun公司主要提供哪些计算机视觉和自然语言处理技术服务
- kaiyun的计算机视觉技术可应用于哪些行业场景?
- 如何联系kaiyun中国股份有限公司获取更多技术支持和服务咨
- kaiyun官方如何确保客户数据的安全性?
- 2025-2031年中国机器视觉市场全景调查与未来前景预测

