英国爱丁堡大学与英伟达的结合团队开发出一种新步骤，可能压缩人为智能（AI）模型运行时所依赖的内存，从而在维持响应快率不变的情况下，提升模型处置复杂工作的正确性，或显著降低其能耗。这也意味着，更幼的内存将带来“更强的AI”，有望突破大说话模型（LLM）机能瓶颈。 团队发现，将LLM所使用的内存压缩至原有大幼的1/8后，模型在数学、科学和编程等专业测试中的阐发反而更好，且推理功夫并未耽搁。这一步骤亦有助于模型同时响应更多用户要求，从而降低单个工作的均匀功耗。除了节能优势，这项改进还有望使AI更合用于处置复杂问题的系统，或存储快率较慢、内存容量有限的终端设备，例如智能家居产品和可穿戴技术。 AI模型通常通过“思虑”更复杂的如果，或同时索求更多可能性来寻找答案。在此过程中，模型必要将已天生的推理线程内容暂存于一种称为“KV缓存”的内存中。随着线程数量增多或线程长度增长，KV缓存的体积会迅快扩大，成为机能瓶颈，拖慢模型输出响应的快率。 为突破这一限度，团队提出了一种名为“动态影象稀少化”（DMS）的内存压缩技术。该步骤并非保留所有天生的象征（即AI模型处置的根基数据单元），而是动态判断哪些象征对后续推理至关沉要、哪些能够剔除。由于从决定删除某个象征到现实删除之间存在的微幼延长，使模型有机遇将待删除象征中的有效信息转移至保留的象征中。通过这种方式，DMS使AI模型可能在一样推算资源下进行更深刻的“思虑”，或索求更多可能的解决规划蹊径。 测试中，在一项基于美国数学奥猎欹克资格赛（AIME 24）设计的数学测试中，压缩模型在一样内存读取次数下，均匀得分比未压缩模型逾越12分；在由博士级专家假造的专业科学题库中，其阐发优于原模型；在评估代码编写能力的平台上，压缩模型的均匀得分也提高了10分。 这项钻研突破了人们“推算资源越多，AI越强”的惯性认知。DMS内存压缩技术就像给AI装上了过滤器，让它学会抓住思虑的沉点，而非盲目堆砌数据。这种“更少内存，更强智能”的蹊径，可能从底子上扭转AI的研发方向，让高机能AI真正轻量化。将来，复杂的科学推算或许在智能腕表上就能运行，家用机械人也能够同时处置多项复杂指令而不卡顿。其实，这也暗合了人类的高效思虑逻辑——我们不会记住每个细节，而是提炼关键信息进行推理。这种向人脑进建的选择性影象机造，也许会比单纯扩大模型规模更早触及通用AI的门槛。