第 487 題(共 548 題)
某自駕車AI系統在路口誤判紅燈為綠燈,工程師使用Saliency Map分析後發現模型主要關注的是天空區域而非紅綠燈。這個發現說明了XAI的哪項價值?
解析
XAI的核心價值之一是幫助人類理解模型的決策依據。當Saliency Map顯示模型關注天空而非紅綠燈,說明模型學到了錯誤的特徵(可能是用天空顏色判斷),這讓工程師能針對性地改進模型,而非盲目調參。
正確答案:B. XAI能幫助發現模型學到了錯誤的特徵關聯
XAI的核心價值之一是幫助人類理解模型的決策依據。當Saliency Map顯示模型關注天空而非紅綠燈,說明模型學到了錯誤的特徵(可能是用天空顏色判斷),這讓工程師能針對性地改進模型,而非盲目調參。
正確答案:B. XAI能幫助發現模型學到了錯誤的特徵關聯