第 137 題(共 548 題)
某金融機構導入檢索增強生成(Retrieval-Augmented Generation, RAG)模型,用於客服文件查詢與自動回覆。由於大型模型運算成本過高,若考慮引入知識蒸餾(Knowledge Distillation, KD)技術,下列何者為帶來的主要效益?
解析
知識蒸餾讓小型模型學習大型模型的知識,降低運算成本同時維持品質,適用於降低 RAG 運算成本。
正確答案:A. 讓小型模型學習大型模型的知識,在降低運算成本的同時維持檢索與生成品質;
知識蒸餾讓小型模型學習大型模型的知識,降低運算成本同時維持品質,適用於降低 RAG 運算成本。
正確答案:A. 讓小型模型學習大型模型的知識,在降低運算成本的同時維持檢索與生成品質;