引言：超越更大模型
如果你仅通过头条新闻关注AI，故事似乎简单且重复：一个新模型在基准测试中胜出，宣称拥有更长的上下文窗口，并塞进了更多参数。但在这股蛮力进步的叙事之下，一种更奇特、更复杂的现实正从研究前沿浮现。我们逐渐认识到，单纯地把模型做大并非答案，而且它们的一些缺陷可能在数学上是永久性的。
这股研究浪潮揭示了一个更混乱、更有趣的未来。我们看到模型可能因垃圾数据而患上“脑退化”，规模扩展无法克服的基本限制，以及旨在“说话”前先在内部“思考”的新型架构。本文提炼了五个最令人惊讶且重要的真相，它们正从实验室中浮现，悄然重塑着人工智能的未来。
1. “只管放大”的时代正式结束
过去几年，人工智能的主导策略一直是增加模型大小和训练数据。但据Ilya Sutskever等领军人物所言，那个时代现已结束。他认为“2020-2025年是规模扩展的时代”，但现在“我们……”
CSD0tFqvECLokhw9aBeRqjenO/L7tkp4sHKSS61PeYCbDy4loGBk9MBu5aL8uVdGv6JHACakW4Ti6HDyDvKSXdTxs8UGQSVMTmV8ec34Qm1roh3Mc1CSNxL7AJxReI5Q+42bzJVsosGdClqk9QNdyZDizHPqPTs2wrkBLhD7OkI8nxLNQFmwqI5YhTZHM8HK
更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）
对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号（网络安全技术点滴分享）
