谷歌降低6倍AI内存新算法使内存下跌,会是玩家救星吗?

显然技术落地还有很长距离,但投资者们似乎更愿意相信“权威”的谷歌,内存厂商的股价已经应声下跌

镁光科技股价在过去5天内下跌了19.5%;

韩国方面,SK 海力士股价下跌6%,三星电子股价下跌5%。

TurboQuant 是谷歌开发的一种先进量化算法,可为大语言模型(LLM)和向量搜索引擎提供高效的数据压缩。它有效解决了键值缓存(key-value cache)中的内存瓶颈问题,并在不牺牲模型精度的前提下加速相似度检索。

TurboQuant 通过结合两项创新技术实现了这一效率提升:

  • PolarQuant:利用极坐标简化数据几何结构,消除传统内存开销;

  • 量化约翰逊-林登斯特劳斯算法(QJL):一种1比特数学误差校验机制。

TurboQuant 能够在无需微调的情况下,将键值缓存压缩至仅3比特,使GPU上的运行速度最高提升8倍,为AI效率树立了全新标准。

这对游戏玩家来说会是个好消息吗?毕竟我们已经看到内存、显卡、CPU都在涨,今天连PS也涨了。

这里是@明天去月球,感谢你的关注

原文链接:https://www.he6.net/1491.html,转载请注明出处。
0
没有账号?注册  忘记密码?