我正在家里运行这个AI，它能进行简单的模拟计算，生成如此精美的图像。看看那些美味的焦散效果，天啊！它还能编写粉丝向策略游戏，能在Blender这类免费开源软件中建模出华丽的全3D场景。这实在太强大了——而所有人获取这一切的总成本是…让我想想…零元！😊没错，它免费开源且权重开放。这款名为GLM-5.3-F的模型，连同它的兄弟版本GLM-5.3-Flash最初曾用化名悄然发布。看看这势头！它甚至在用户量上快速超越了DeepSe，虽然理解大家追求新鲜感，但这太疯狂了。各位学者请扶稳你们的论文，因为如果让这个模型深度思考…经过一段时间后…大小模型在某些基准测试中都能逼近Fable的水平。在我看来，整体虽未达到Fable级别，但在某些实验中差距并不遥远。难以置信我竟会这么说——但我认为今年之内，可能只需几个月😊免费AI系统就可能超越Fable。活在当下何其有幸！这黑科技怎么实现的？他们究竟如何做到的？
亲爱的学者们，这里是Károly Zsolnai-Fehér博士的《两分钟论文》。GLM-3.5-F的核心在于用更少算力承载更多智能😊3200亿参数中约95%采用按token激活机制。层数从92层减半，还有些新技巧：不同于传统全token对比，它能将邻近上下文压缩成小数据包（他们称为线性注意力），成本大幅降低。配合稀疏注意力机制使用。有没有遇到过与AI长时对话时，它表现越来越差的情况？面对大量文档/代码库/长讨论时，上下文检索成本会指数级增长——而这个系统能先压缩索引😊再检索存储的上下文，使模型能以更低内存/算力回顾更远内容😮他们称之为”索引池”技术。综合这些革新，就诞生了这个从底层设计就追求高效、智能且经济的系统。
虽然仍需数千美元级硬件支持，但我深知在座天才学者们总在努力让它在普通硬件上运行😊这再次证明开源权重系统需要我们共同建设。感谢所有贡献者：优化代码的、分享实验的、参与讨论传播的——本频道拥有最棒的观众，为你们制作视频是我的荣幸。这是第1072期论文视频，与你们互动带来的快乐让我拒绝了私募基金数百万美元的收购要约（其他被接洽的频道全都出售了），虽然…更强大的硬件确实很诱人。
当前主要限制确实是硬件需求——虽已脱离”十亿级”门槛但仍不便宜。我个人也缺乏运行大模型的家庭设备（不过Lambda云计算帮了大忙）。多数用户会使用量化压缩版，就像我这里疯狂循环测试的版本，虽不完美但足够带来😊令人惊喜的折腾乐趣！我常用Lambda快速复现AI论文，它也非常适合模型训练/微调/推理/文生图视频/运行DeepSe聊天机器人——提供强力NVIDIA GPU且稳定可靠。立即通过lambda.ai/paperspers体验吧！
🔗 知识库双向关联
- This Small AI Will Change Everything_逐字稿
- [[Raw_翻译_[AINews] Memory prices up 500 in 12 months|Memory prices up 500 in 12 months_全翻译]]
- Are Open Models Catching Up_全翻译