用上这个工具包，大模型推理性能加速达40倍|时延|张量|runtime-欧洲杯足彩官网

作者：英特尔公司 沈海豪、罗屿、孟恒宇、董波、林俊
编者按：
只需不到9行代码，就能在cpu上实现出色的llm推理性能。英特尔®extension for transformer创新工具包中的llm runtime为诸多模型显著降低时延，且首个token和下一个token的推理速度分别提升多达40倍和2.68倍，还能满足更多场景应用需求。

英特尔®extension for transformer是什么？

英特尔® extension for transformers[1]是英特尔推出的一个创新工具包，可基于英特尔®架构平台，尤其是第四代英特尔® 至强®可扩展处理器（代号sapphire rapids[2]，spr）显著加速基于transformer的大语言模型(large language model,llm)。其主要特性包括：

• 通过扩展hugging face transformers api[3]和利用英特尔®neural compressor[4]，为用户提供无缝的模型压缩体验；
• 提供采用低位量化内核（neurips 2023：在cpu上实现高效llm推理[5]）的llm推理运行时，支持falcon、llama、mpt、llama2、 bloom、opt、chatglm2、gpt-j-6b、baichuan-13b-base、baichuan2-13b-base、qwen-7b、qwen-14b和dolly-v2-3b等常见的llm[6]；
• 先进的压缩感知运行时[7]（neurips 2022：在cpu上实现快速蒸馏和quala-minilm：量化长度自适应minilm；neurips 2021：一次剪枝，一劳永逸：对预训练语言模型进行稀疏/剪枝）。

本文将重点介绍其中的llm推理运行时（简称为“llm运行时”），以及如何利用基于transformer的api在英特尔® 至强®可扩展处理器上实现更高效的llm推理和如何应对llm在聊天场景中的应用难题。

llm运行时(llm runtime)

英特尔®extension for transformers提供的llm runtime[8]是一种轻量级但高效的llm推理运行时，其灵感源于ggml[9]，且与llama.cpp[10]兼容，具有如下特性：

• 内核已针对英特尔® 至强®cpu内置的多种ai加速技术（如 amx、vnni）以及avx512f和avx2指令集进行了优化；
• 可提供更多量化选择，例如：不同的粒度（按通道或按组）、不同的组大小（如：32/128）；
• 拥有更优的kv缓存访问以及内存分配策略；
• 具备张量并行化功能，可助力在多路系统中进行分布式推理。

llm runtime的简化架构图如下：

△图1.英特尔® extension for transformers的llm runtime简化架构图

只需不到9行代码，即可让您在cpu上实现更出色的llm推理性能。用户可以轻松地启用与transformer类似的api来进行量化和推理。只需将 ‘load_in_4bit’设为true，然后从huggingface url或本地路径输入模型即可。

性能测试

经过持续努力，上述优化方案的int4性能得到了显著提升。本文在搭载英特尔® 至强®铂金8480 的系统上与llama.cpp进行了性能比较；系统配置详情如下：@3.8ghz，56核/路，启用超线程，启用睿频，总内存 256 gb (16 x 16 gb ddr5 4800 mt/s [4800 mt/s])，bios 3a14.tel2p1，微代码0x2b0001b0，centos stream 8。

当输入大小为32、输出大小为32、beam为1时的推理性能测试结果，详见下表：

△表1.llm runtime与llama.cpp推理性能比较（输入大小=32，输出大小=32，beam=1）

输入大小为1024、输出大小为32、beam为1时的推理性能的测试结果，详见下表：

△表2.llm runtime与llama.cpp推理性能比较（输入大小=1024，输出大小=32，beam=1）

根据上表2可见：与同样运行在第四代英特尔® 至强®可扩展处理器上的llama.cpp相比，无论是首个token还是下一个token，llm runtime都能显著降低时延，且首个token和下一个token的推理速度分别提升多达 40 倍[a]（baichuan-13b，输入为1024）和2.68倍[b]（mpt-7b，输入为1024）。llama.cpp的测试采用的是默认代码库[10]。

而综合表1和表2的测试结果，可得：与同样运行在第四代英特尔® 至强®可扩展处理器上的llama.cpp相比，llm runtime能显著提升诸多常见llm的整体性能：在输入大小为1024时，实现3.58到21.5倍的提升；在输入大小为32时，实现1.76到3.43倍的提升[c]。

准确性测试

英特尔®extension for transformers可利用英特尔®neural compressor中的signround[11]、rtn和gptq[12]等量化方法，并使用lambada_openai、piqa、winogrande和hellaswag数据集验证了 int4 推理准确性。下表是测试结果平均值与fp32准确性的比较。

△表3.int4与fp32准确性对比

从上表3可以看出，多个模型基于llm runtime进行的int4推理准确性损失微小，几乎可以忽略不记。我们验证了很多模型，但由于篇幅限制此处仅罗列了部分内容。如您欲了解更多信息或细节，请访问此链接：https://medium.com/@neuralcompressor/llm-performance-of-intel-extension-for-transformers-f7d061556176。

更先进的功能：满足llm更多场景应用需求

同时，llm runtime[8]还具备双路cpu的张量并行化功能，是较早具备此类功能的产品之一。未来，还会进一步支持双节点。

然而，llm runtime的优势不仅在于其更出色的性能和准确性，我们也投入了大量的精力来增强其在聊天应用场景中的功能，并且解决了llm 在聊天场景中可能会遇到的以下应用难题：

1. 对话不仅关乎llm推理，对话历史也很有用。
2. 输出长度有限：llm模型预训练主要基于有限的序列长度。因此，当序列长度超出预训练时使用的注意力窗口大小时，其准确性便会降低。
3. 效率低下：在解码阶段，基于transformer的llm会存储所有先前生成的token的键值状态(kv)，从而导致内存使用过度，解码时延增加。

关于第一个问题，llm runtime的对话功能通过纳入更多对话历史数据以及生成更多输出加以解决，而llama.cpp目前尚未能很好地应对这一问题。

关于第二和第三个问题，我们将流式llm（steaming llm)集成到英特尔®extension for transformers中，从而能显著优化内存使用并降低推理时延。

streaming llm

与传统kv缓存算法不同，我们的方法结合了注意力汇聚(attention sink)（4个初始token）以提升注意力计算的稳定性，并借助滚动kv缓存保留最新的token，这对语言建模至关重要。该设计具有强大的灵活性，可无缝集成到能够利用旋转位置编码rope和相对位置编码alibi的自回归语言模型中。

△图2.steaming llm的kv缓存（图片来源：通过注意力下沉实现高效流式语言模型[13]）

此外，与llama.cpp不同，本优化方案还引入了“n_keep”和“n_discard”等参数来增强streaming llm策略。用户可使用前者来指定要在kv缓存中保留的token数量，并使用后者来确定在已生成的token中要舍弃的数量。为了更好地平衡性能和准确性，系统默认在kv缓存中舍弃一半的最新token。

同时，为进一步提高性能，我们还将streaming llm添加到了mha融合模式中。如果模型是采用旋转位置编码(rope)来实现位置嵌入，那么只需针对现有的k-cache应用“移位运算（shift operation）”，即可避免对先前生成的、未被舍弃的token进行重复计算。这一方法不仅充分利用了长文本生成时的完整上下文大小，还能在kv缓存上下文完全被填满前不产生额外开销。

“shift operation”依赖于旋转的交换性和关联性，或复数乘法。例如：如果某个token的k-张量初始放置位置为m并且旋转了m×θifor i ∈ [0,d/2），那么当它需要移动到m-1这个位置时，则可以旋转回到（-1）×θi for i ∈ [0,d/2）。这正是每次舍弃n_discard个token的缓存时发生的事情，而此时剩余的每个token都需要“移动”n_discard个位置。下图以“n_keep=4、n_ctx=16、n_discard=1”为例，展示了这一过程。

△图3.ring-buffer kv-cache和shift-rope工作原理

需要注意的是：融合注意力层无需了解上述过程。如果对k-cache和v-cache进行相同的洗牌，注意力层会输出几乎相同的结果（可能存在因浮点误差导致的微小差异）。

结论与展望

本文基于上述实践经验，提供了一个在英特尔® 至强®可扩展处理器上实现高效的低位(int4)llm推理的星空体育网站入口官网手机版的解决方案，并且在一系列常见llm上验证了其通用性以及展现了其相对于其他基于cpu的开源星空体育网站入口官网手机版的解决方案的性能优势。未来，我们还将进一步提升cpu张量库和跨节点并行性能。

欢迎您试用英特尔®extension for transformers[1]，并在英特尔®平台上更高效地运行llm推理！也欢迎您向代码仓库(repository)提交修改请求 (pull request)、问题或疑问。期待您的反馈！

特别致谢

在此致谢为此篇文章做出贡献的英特尔公司人工智能资深经理张瀚文及工程师许震中、余振滔、刘振卫、丁艺、王哲、刘宇澄。

[a]根据表2 baichuan-13b的首个token测试结果计算而得。
[b]根据表2 mpt-7b的下一个token测试结果计算而得。
[c]当输入大小为1024时，整体性能=首个token性能 1023下一个token性能；当输入大小为32时，整体性能=首个token性能 31下一个token性能。