2025年3月20日,人工智能系列讀書班活動迎來了2025年第五場報告會,陳帥餘博士做了“概率圖模型”的研究内容分享,先介紹了概率圖模型廣泛應用在生成模型中,隐馬爾可夫模型HMM、馬爾可夫随機場MRF、條件随機場CRF、學習與推斷、以及近似推斷中的MCMC采樣、變分推斷、話題模型LDA等:
圖 陳帥餘博士主持“概率圖模型”讨論會
自由讨論環節,大家讨論了極大團、分離集、勢函數、信念傳播,動态規劃算法等,分析了概率圖模型與大模型的聯系:大模型中的生成任務(如GPT的文本生成、擴散模型的圖像生成)本質上也屬于概率建模,通過學習數據分布生成新樣本。概率圖模型(如條件随機場)在多模态數據(如文本和圖像)的聯合建模中有廣泛應用,大模型(如CLIP、DALL)通過注意力機制實現跨模态的聯合建模,本質上是概率圖模型的擴展。概率圖模型(如因果貝葉斯網絡)是因果推理的核心工具,大模型在因果推理中的應用(如因果語言模型)也借鑒了概率圖模型的思想。
概率圖模型的思想和方法在當前大模型中仍然有廣泛的應用,尤其是在生成模型、不确定性建模、多模态學習、因果推理等領域。雖然大模型主要通過深度學習方法實現,但其底層邏輯仍然與概率圖模型緊密相關。未來的研究方向可能會進一步結合兩者優勢,例如将顯式的圖結構與深度學習結合,提升模型的可解釋性和推理能力。
讨論會最後還集體讨論了後續的讀書計劃,并做了針對性的安排。
(總結:沈來信)