最近忙着大规模招兵买马的 DeepSeek，也始终没有忘记开源这条主线。今天，DeepSeek 与北京大学团队联合发布论文《DSpark: Confidence-Scheduled Speculative Decoding with ...
研究团队提出了一种无训练、即插即用的解码策略——Confident Decoding（置信解码）。 传统认知默认：随着网络深度单调递增，思考结果也会变得更准确。 各类开源自回归大语言模型（LLM）的生成，也总是从最后一层输出。 然而，来自Qwen团队、清华大学、南洋 ...
LLM 解码很慢，因为生成一个 token 需要每次都从 GPU 内存中加载全部模型权重。700 亿参数的模型意味着 140GB 权重，每一个 token 都要重新加载一遍。LLM 解码本质上是顺序的，称之为自回归生成（autoregressive ...
钛媒体APP on MSN
不开颅，读脑准确率从8%飙到61%，Meta怎么做到的
脑机接口已经不是十年后的事。
快科技6月29日消息，据报道，AMD驱动的一个Bug会导致Windows 10系统上Smart Access Memory（SAM）功能，也就是Resizable BAR被禁用，引发游戏掉帧甚至崩溃。SAM是AMD的一项技术，允许CPU直接访 ...
天风国际证券分析师郭明錤日前发布产业调查称，明年上半年搭载 A20 处理器的 iPhone 18 和 iPhone 18e 将配备 9GB 内存，采用 6 颗 1.5GB 颗粒的堆叠方案（1.5GB × 6-die）。 郭明錤表示，升级至 9GB ...
Mythos 5 的逆天挖漏洞能力，Claude Opus 4.8, GPT-5.5, Kimi K2.7 都能做 每周都有 Anthropic 新乐子看，已经成了最近一个月科技圈的保留节目。 而故事起源，还要从 6 月初，Anthropic ...
这次题为《DSpark：具有半自回归生成的置信度调度推测解码》的论文解决的就是大模型推理太慢、在高并发场景下（系统在短时间内同时处理大量请求或操作的情况）很浪费算力这个问题。
4 天Opinion
梁文锋，真是人间清醒
君子论迹不论心，圣人也一样。 这个周末，DeepSeek又闷声放了个大的。
【太平洋科技快讯】据报道，DeepSeek完成大额融资仅十余天后(详情可查看此前太平洋科技的报道内容：《DeepSeek首轮外部融资510亿元落地：投后估值近4000亿元、多家巨头参投》)，6月27日 ...
红板报 on MSN
梁文锋署名的DSpark，看懂这10个点就够了!
精髓在于极强的系统工程 ...
近日，专注于大模型研发的DeepSeek与北京大学研究团队联合发布了一项重要成果——新型推理加速框架DSpark，相关论文《DSpark: Confidence-Scheduled Speculative Decoding with Semi-Autoregressive Generation》已在学术平台公开。该技术已应用于DeepSeek-V4-Flash ...
一些您可能无法访问的结果已被隐去。
显示无法访问的结果