AI 日报

去年，与 NVIDIA、华沙大学和爱丁堡大学相关的研究人员发表了《动态内存稀疏化（DMS）》，一种使用学习的每头令牌驱逐的 KV 缓存稀疏化技术，报告了高达 8 倍的 KV 缓存压缩。 我关注

最近，我在各种社交媒体平台上看到了很多关于 Kimi K2.6 的广告，我想听听使用过它的人的意见。 它真的那么好吗，还是只是一个基准分数令人印象深刻但在实际使用中表现不佳的模型？

字面上没有第三方 API 推理提供商托管小米的 mimo-2.5 系列模型。它们看起来真的很好。 与 Kimi-k2.6、Deepseek-V4 或 GLM-5.1 相比，具有很高的令牌效率和极低的幻觉率，但除了小米自己，没有任何提供商甚至 chutes 托管它

我正在运行下面的配置，我看到有人用 TurboQuant\_plus 运行这个设置并达到 35 tokens/秒。我觉得我获得的速度可以接受，但如果能达到 30-35 我会非常高兴。关于配置有什么建议吗？ 好的，我正在运行 Llama 的两个变体，标准版本和 TheTom 的 TurboQua

我已经有一块 RTX 5060 Ti 16GB 和一块 5070 Ti，但我想知道购买几块 Tesla V100 32GB 显卡作为价值主张是否真的有意义，特别是对于更大的本地模型。 我知道 V100 很老、功耗高，而且缺少 newer 消费级显卡的功能，我不是

跟进 Horus 项目——埃及第一个完全从零开始构建的语言模型。 如果你是第一次听说 Horus：这是一个完全从零开始构建的语言模型，而且是开源的。 https://preview.redd.it/v0lw20vuh5zg1.jpg?width=3267&format=pjpg&auto=webp

关于 APEX 的快速跟进，这是一种 MoE 感知的混合精度量化策略。原文只是关于 Qwen 3.5 35B-A3B 的（[https://www.reddit.com/r/LocalLLaMA/comments/1s9vzry/apex\_moe\_quantized\_models\_boost\_with\_33\_faster/](https://www.reddit.com/r/LocalLLaMA/comments/1s9vzry/apex_moe_quant

Talkie-1930-13b-it 和 Gemma 4 31b 在同一聊天中。 Talkie 是一个来自 1930 年的 13B 复古语言模型。[https://talkie-lm.com/introducing-talkie](https://talkie-lm.com/introducing-talkie) 如果你无法在本地同时运行它们，可以使用托管版本 [https://opper.ai/ai-roundtable/chat](https://opper.ai/ai-

Qwen 3.6 27b 对比 Codex GPT 5.5 / Claude Opus 4.7 我的本地 LLM 发现了它们都遗漏的一个 bug 结果这很关键 GPT 5.5 和 Claude 都坚持立场，直到最后才放弃——它们一直声称自己是对的。 我告诉我的 Qwen 提供他论证的详细证明

我对本地 LLM/RAG 系统的网络搜索选项一直不太满意。大多数设置要么依赖像 Brave 这样的付费 API，要么依赖像 SearXNG 这样的元搜索爬虫。 所以我构建了 LLMSearchIndex - 一个用于完全本地化互联网规模搜索的 Python 库。它使用自定义训练的、高度压缩的搜索

很高兴报告 llama.cpp MTP 支持现已进入测试版，感谢 Aman（以及在此期间提出各种问题的其他人）。这很有可能很快就能合并。目前包含对 Qwen3.5 MTP 的支持，其他模型可能会跟进。 在

你好 r/LocalLLaMA！ 我很荣幸地呈现 TinyMozart 的第二个版本... 这是 TinyMozart v1 的改进版本，增加了和弦、长度等功能！ **这是一个用于生成钢琴改编的无条件 MIDI 音乐生成模型。** 😃 查看完整模型： [https://huggingface.co/LH-Tech

大家好。 不是英语母语者。未经 AI 编辑，所以请包涵。 我拥有为公共机构担任社会研究员 15 年以上的经验（目前失业）。为政府和公共行政部门的高层撰写了许多政策简报、报告和类似文件。我想在 Hermes Agent 中尝试 qwen3.6-35b-a3b 来制

[https://www.srware.net/en/news/1094/AMD-Ryzen-AI-Max+-PRO-495-leak-points-to-a-bigger-Halo-APU-with-192-GB-memory](https://www.srware.net/en/news/1094/AMD-Ryzen-AI-Max+-PRO-495-leak-points-to-a-bigger-Halo-APU-with-192-GB-memory) 这太棒了！不幸的是，该设备当然会

聊天模板几天前已修复 选择你喜欢的提供商： [https://huggingface.co/bartowski/google\_gemma-4-31B-it-GGUF](https://huggingface.co/bartowski/google_gemma-4-31B-it-GGUF) [https://huggingface.co/bartowski/google\_gemma-4-26B-A4B-it-GGUF](https://huggingface.co/bartowski/google_gem

我只是想分享我的经验。在工作中我们使用企业版的 Cursor。今天我用 2 个提示词就烧掉了 10 美元，一个用 gpt-5.5，一个用 claude-opus-4.6-thinking。上个月我用 claude-opus-4.7 在一周内就烧掉了 80 美元，尽管他们发布时有 50% 的折扣。如果他们继续

纽约州立大学制定全系统 AI 政策 —— Inside Higher Ed

看起来下一个 Strix Halo，即 Gorgon halo 495 max 将拥有超过 128GB！我几个月前已经买了一台 Strix halo mini，因为 2026 年更新的传言并不有趣。本计划等到 2027 年更大的更新再买一台，并将它们连接起来。但是后来

怎么回事？它一直把链式 bash 命令搞错，转义字符也不对。所以它创建了许多错误的目录，并试图‘修复’它的错误。它提议运行一个大型 bash 命令，里面有 `rm -rf`，愚蠢的我漏掉了。 我很庆幸我经常推送所有东西。但影响是巨大的。 常见问题： -