LLM-Pruner示意图。(i)特定任务压缩：对模型进行微调，然后对特定任务进行压缩。（ii） TinyBERT：首先在未标记的语料库上提取模型，然后在特定任务上对其进行微调。（iii） LLM-Pruner: 3小时内的任务无关压缩。