Tether 开源 TurboQuant,本地 AI 设备 KV 缓存压缩比最高可达 5 倍

2026年06月01日 21:34快讯10
火星财经消息,Tether AI 研究团队宣布开源 TurboQuant 生产版本,并将其集成至 QVAC SDK 0.12.0。TurboQuant 源自 Google Research 的内存压缩算法,可将 AI 运行时的 KV 缓存压缩最高 5 倍,同时保持接近未压缩模型的输出质量。这意味着笔记本电脑、手机及边缘设备在无需将数据上传至云端的情况下,可处理更长的对话、更大的文件及更复杂的任务。此次开源发布包含完整量化流水线、主流推理框架适配器及开发者文档,面向在消费级硬件、边缘设备及点对点网络上部署 AI 的开发者和初创团队。

欧易OKX交易所

全球领先的加密货币平台,适合新手与进阶交易者

新手福利:注册即享20% 交易手续费减免!

免责声明:本站所有资讯仅代表作者个人观点,不构成任何投资理财建议。

本文链接:https://www.913721.cn/post/2661.html

相关文章

稳定币使用增长47%用户用于储蓄

据Odaily星球日报报道,Castle Island Ventures发布了一份稳定币报告,展示了稳定币使用的增长,包括月活跃地址、总供应量和结算价值。新的交易价值估算表明,稳定币作为结算媒介,与现…

健之佳:部分限制性股票回购注销

9月27日晚间,健之佳发布公告称,公司于2024年9月24日在上海证券交易所网站披露《关于限制性股票回购注销实施公告》,拟实施回购注销限制性股票75,730股。本次回购注销完成后,公司2021年限制性…

允许众安银行新增虚拟资产交易条件

香港证监会(SFC)已允许 ZA Bank(众安银行)的 type 1 牌照新增虚拟资产交易条件,即可以进行加密货币交易。ZA Bank 发言人表示,ZA Bank 已获得证监会批准,允许该公司在第…

下一代区块链和DEX要更快预言机价格

Blockwork 研究文章介绍了从总担保价值 (TVS) 到总交易价值 (TTV) 作为评估预言机性能的指标的转变。下一代区块链和 DEX 要求更快的预言机价格更新。TTV 更好地反映了预言机的收入…

美国9月就业报告强劲或放缓降息步伐

美国9月份就业报告强劲,预示着降息步伐可能放缓,但仍利好比特币随着投资者对风险较高的资产产生兴趣。Grayscale的研究主管Zach Pandl表示:“在经济稳健增长的同时,有关美联储降息的讨论和有…

Telegram创始人PavelDurov伴侣因压力流产

Telegram 创始人 Pavel Durov 和伴侣 Juli Vavilova 透露,Vavilova 在 Durov 被法国当局短暂拘留期间怀孕,但因调查压力导致 2024 年 10 月 4…

政策方面,仍有进一步降准降息的空间

中信建投研报指出,未来财政政策预计将采取渐进式扩张策略,通过增发特别和超长期国债、减税降费等方式推出财政增量政策。货币政策方面,仍有进一步降准降息的空间,并可能推出更多创新型货币政策工具。房地产市场政…

涉嫌未披露关联交易USDR稳定币暴跌

10 月 16 日,房地产加密项目 Tangible 存在未披露的关联交易。CEO Jagpal Singh 的兄弟 Joshvun Singh 通过其公司以折扣价购买房产,随后以高达 21% 的加价…

苹果、英伟达和微软市值突破3万亿

韦德布什证券分析师Dan Ives表示,苹果、英伟达和微软正逐步突破3万亿美元市值大关,向4万亿美元进发。Ives指出,苹果将是首家达到4万亿美元市值的美国公司,英伟达和微软将紧跟其后。他表示,苹果基…

Ripple首席法务官确认XRP不是证券

据Odaily星球日报报道,Ripple 首席法务官 Stuart Alderoty 在美国 SEC 就 Ripple 案提起上诉时表示,确认 XRP 不是零售销售证券的裁决保持不变。他在 X 上写道…