LLM 解码很慢，因为生成一个 token 需要每次都从 GPU 内存中加载全部模型权重。700 亿参数的模型意味着 140GB 权重，每一个 token 都要重新加载一遍。LLM 解码本质上是顺序的，称之为自回归生成（autoregressive ...
上周，Meta发布了一项研究：让人戴着头盔打字，AI从脑电波里还原出你打的是什么句子，全程不需要任何手术，平均准确率61%，最好的参与者达到78%。这次发布的是 Brain2Qwerty 的第二个版本（v2）。Brain2Qwerty 是 Meta ...
快科技6月29日消息，据报道，AMD驱动的一个Bug会导致Windows 10系统上Smart Access Memory（SAM）功能，也就是Resizable BAR被禁用，引发游戏掉帧甚至崩溃。SAM是AMD的一项技术，允许CPU直接访 ...
Mythos 5 的逆天挖漏洞能力，Claude Opus 4.8, GPT-5.5, Kimi K2.7 都能做 每周都有 Anthropic 新乐子看，已经成了最近一个月科技圈的保留节目。 而故事起源，还要从 6 月初，Anthropic ...
4 天Opinion
梁文锋，真是人间清醒
君子论迹不论心，圣人也一样。 这个周末，DeepSeek又闷声放了个大的。
【太平洋科技快讯】据报道，DeepSeek完成大额融资仅十余天后(详情可查看此前太平洋科技的报道内容：《DeepSeek首轮外部融资510亿元落地：投后估值近4000亿元、多家巨头参投》)，6月27日 ...
升级之后，你会得到一个全新的独立系统——不再兼容安卓，却让多设备协同变得前所未有的轻松。一句话唤醒小艺，叫车、购物、下单，一气呵成；鸿蒙星盾防诈能帮你识破潜在风险、主动拦截诈骗电话；方舟引擎则让日常使用和游戏激战都更加丝滑流畅。 这些体验的背后，是实打实的数据：鸿蒙6终端设备数已超过6600万，应用市场可使用的应用和服务超40万，日均下载量2亿次。至于你最关心的——应用够不够、用起来顺不顺手、够不 ...
这次题为《DSpark：具有半自回归生成的置信度调度推测解码》的论文解决的就是大模型推理太慢、在高并发场景下（系统在短时间内同时处理大量请求或操作的情况）很浪费算力这个问题。
自变量发布跨模态具身动作分词器X-Tokenizer，多模态对齐能力提升13.5%，长程任务性能提升8.25%,分词器,模态,残差,tokenizer ...
梁文锋署名的DeepSeek新论文DSpark单用户速度提升85%、高并发场景有效吞吐翻4倍，Dmytro Dzhulgakov梳理其精髓及10个概念。 单用户速度提升85%、高并发场景有效吞吐翻4倍。 但你真的看懂了吗？ 别急，有人替你拆解了一遍。 Fireworks AI的联合创始人兼CTO、PyTorch核心维护 ...
DREAM 证明了你根本不需要任何人工标注的正负样本,只凭"一篇文档能不能帮大模型预测出正确答案"这一个信号,就能把稠密检索器训得很强;而它的关键诀窍,是把检索器算出的相似度分数注入到冻结大模型里那些"本来就在替 query 寻找相关内容"的注意力头中,让下一个词预测的损失顺着注意力这条路反向把检索器调教出来。 一、研究背景:有没有可能,不标一条数据就把检索器练强? 先说清楚这篇论文在解决什么。稠 ...
一些您可能无法访问的结果已被隐去。
显示无法访问的结果