Google 揭示内存压缩技术 内存与储存类股票急跌

Google 近期宣布推出一系列崭新算法,旨在大幅减少大型语言模型与向量搜索引擎运行所需的内存占用。 此举有望优化AI性能,但同时对全球存储器与储存市场带来冲击。

记忆体与储存类股大幅下跌

在 Google 发布上述消息后,多家主要存储器与储存供应商的股价应声下跌。 其中,Micron Technology下跌4%,Western Digital下跌4.4%,Seagate Technology下跌5.6%,而Sandisk则下跌6.5%。 值得注意的是,Sandisk 同日宣布已与半导体公司 南亚科技 签署私募配售协议,进行股权投资。

三款核心算法详解

Google 此次推出的核心算法包含 TurboQuant、Quantized Johnson-Lindenstrauss 以及 PolarQuant。 其中,TurboQuant 是一款压缩算法,专为解决矢量量化中的内存开销挑战而设计。 Quantized Johnson-Lindenstrauss 则运用一种名为 Johnson-Lindenstrauss 变换的数学技术,可在不损害数据点之间重要距离与关系的前提下,压缩复杂的高维度数据,实现零内存开销的高速简化。

PolarQuant 优化数据处理并展望未来

至于 PolarQuant,它通过使用极坐标来解决内存开销问题,使大型语言模型能够跳过数据正规化步骤,因为它将数据映射到一个边界已知的固定「圆形」网格上。 Google 研究科学家Amir Zandieh和副总裁暨 Google Fellow Vahab Mirrokni 在一篇网志文章中指出:「随着 AI 越来越深入整合至所有产品,从大型语言模型到语义搜寻,这项在基础向量量化方面的工作将比以往任何时候都更加关键。」。

Google 揭示内存压缩技术 内存与储存类股票急跌

评论