谷歌一篇论文引爆存储芯片崩盘!AI内存需求暴降6倍,推理狂飙8倍_-bit_缓存_模型

谷歌一篇论文引爆存储芯片崩盘!AI内存需求暴降6倍,推理狂飙8倍_-bit_缓存_模型

TurboQuant在仅仅3-bit的总预算下,实现了接近无损的压缩效果,全程零额外开销。 在H100 GPU上,4-bit TurboQuant计算注意力logits的速度,相比32-bit未量化基线提升…...

查看详细
你家吃灰的旧手机突然成了香饽饽,但着急卖可能吃大亏_回收_芯片_设备

你家吃灰的旧手机突然成了香饽饽,但着急卖可能吃大亏_回收_芯片_设备

据半岛都市报 3 月 24 日报道,受内存涨价等因素影响, 旧手机回收价格飙涨,家里不用的旧手机,以前卖几十块钱,现在能卖到一百多。 除了 AI 需求导致的芯片短缺,消费品以旧换新政策也为这轮旧手机回收热潮提…...

查看详细
大模型刷爆所有考试,却离AGI更远了:这篇论文拆穿了什么?_Bennett_人工智能_人类

大模型刷爆所有考试,却离AGI更远了:这篇论文拆穿了什么?_Bennett_人工智能_人类

但科学家不是,如果一个科学家被锁在一个陌生房间里,他绝不会站在原地等信息,而是会去推门、拉把手、检查窗户——这就是“主动实验”。我们不再需要看大模型在人类考试排行榜上又超了多少分,而是建立一套“适应性基准”:…...

查看详细
连路由器都不放过,美国焦虑到这一步了_技术_问题_国家

连路由器都不放过,美国焦虑到这一步了_技术_问题_国家

一纸禁令,看似是技术问题,实则是战略焦虑的又一次外溢,美国这次连普通家庭用的路由器都开始“上纲上线”,背后释放的信号,比表面更值得琢磨。 市场数据不会说谎,中国企业占据美国消费级路由器市场约六成份额,这意味…...

查看详细