2025年3月20日,人工智能系列读书班活动迎来了2025年第五场报告会,陈帅余博士做了“概率图模型”的研究内容分享,先介绍了概率图模型广泛应用在生成模型中,隐马尔可夫模型HMM、马尔可夫随机场MRF、条件随机场CRF、学习与推断、以及近似推断中的MCMC采样、变分推断、话题模型LDA等:
图 陈帅余博士主持“概率图模型”讨论会
自由讨论环节,大家讨论了极大团、分离集、势函数、信念传播,动态规划算法等,分析了概率图模型与大模型的联系:大模型中的生成任务(如GPT的文本生成、扩散模型的图像生成)本质上也属于概率建模,通过学习数据分布生成新样本。概率图模型(如条件随机场)在多模态数据(如文本和图像)的联合建模中有广泛应用,大模型(如CLIP、DALL)通过注意力机制实现跨模态的联合建模,本质上是概率图模型的扩展。概率图模型(如因果贝叶斯网络)是因果推理的核心工具,大模型在因果推理中的应用(如因果语言模型)也借鉴了概率图模型的思想。
概率图模型的思想和方法在当前大模型中仍然有广泛的应用,尤其是在生成模型、不确定性建模、多模态学习、因果推理等领域。虽然大模型主要通过深度学习方法实现,但其底层逻辑仍然与概率图模型紧密相关。未来的研究方向可能会进一步结合两者优势,例如将显式的图结构与深度学习结合,提升模型的可解释性和推理能力。
讨论会最后还集体讨论了后续的读书计划,并做了针对性的安排。
(总结:沈来信)