在自然語言處理中，BERT 被視為鑑別式預訓練模型，而 GPT 系列被視為生成式預訓練模型。造成此差異的主要原因為何？

解析

BERT 採用遮罩語言模型預訓練，學習雙向上下文表示；GPT 採用自迴歸方式，逐步預測下一個 token 的條件機率。

正確答案：C. BERT 透過遮罩語言模型學習雙向語境表示以利下游分類任務，GPT 透過自迴歸方式學習序列生成的條件機率分布