预测金属有机骨架甲烷和氢气输送能力的迁移学习建模_陈少臣.pdf

Chem.J.Chinese Universities,2023,44(2),2022045920220459(1/11)CHEMICAL JOURNAL OF CHINESE UNIVERSITIES高 等 学 校 化 学 学 报研究论文预测金属有机骨架甲烷和氢气输送能力的迁移学习建模陈少臣1，程敏1，王诗慧1，吴金奎1，罗磊1，薛小雨1，吉旭1，张长春2，周利1（1.四川大学化学工程学院,成都 610065；2.四川铭泰顺硬质合金有限公司,遂宁 629201）摘要 基于深度神经网络(DNN)和迁移学习(TL),使用少量数据建立TL模型,精准预测了金属有机骨架(MOFs)的甲烷和氢气输送性能.首先,使用8414个MOFs在298 K/65 bar298 K/5.8 bar(1 bar=0.1 MPa)条件下的甲烷输送数据训练一个决定系数(R2)为0.973的DNN源任务(ST）模型.随后,将ST模型的部分参数冻结,使用100个MOFs在233 K/65 bar358 K/5.8 bar条件下的甲烷输送数据和100个MOFs在198 K/100 bar298 K/5 bar条件下的氢气输送数据分别微调ST模型,进行TL建模.结果表明,两个TL模型的R2分别为0.968和0.945,均高于其它5个传统的ML模型.所开发的TL模型在预测小数据集时具有高精度与高稳定性.最后,使用排列特征重要度方法来计算描述符重要度,明确了模型之间的“知识”共享情况,并在此基础上探讨了重要描述符和输送能力之间的关系.关键词 金属有机骨架；甲烷与氢气；输送能力；深度神经网络；迁移学习；排列特征重要度中图分类号 O641 文献标志码 A doi：10.7503/cjcu20220459Transfer Learning Modeling for Predicting the Methane and Hydrogen Delivery Capacity of Metal-organic FrameworksCHEN Shaochen1，CHENG Min1，WANG Shihui1，WU Jinkui1，LUO Lei1，XUE Xiaoyu1，JI Xu1，ZHANG Changchun2，ZHOU Li1*（1.School of Chemical Engineering，Sichuan University，Chengdu 610065，China；2.Sichuan Mingtaishun CNC Cutting Tools Co.，Ltd.，Suining 629201，China）Abstract As critical energy resources，methane and hydrogen have been limited in large-scale applications due to their difficulty in storing at low pressure.Metal-organic frameworks（MOFs）are promising materials for gas delivery due to their highly tunable nanoporous structures.At present，machine learning（ML）has been used to assist in the screening of high-performing MOFs，but the traditional ML modeling needs to pay a high cost to obtain a large amount of data，when the amount of data is insufficient，the availability of ML will be greatly reduced.In this paper，based on deep neural network（DNN）and transfer learning（TL），TL models are established using a small amount of data to accurately predict the methane and hydrogen delivery capacity of a large number of MOFs to reduce modeling costs and quickly respond to the changing delivery standards.Before TL modeling，six geometric descriptors of 12020 MOFs based on experimental synthesis are calculated，covering the largest cavity diameter，pore limiting diameter，density，accessible volumetric surface area，accessible mass surface area，void fractions，and grand canonical Monte Carlo simulation is used to calculate the delivery capacity data of methane and hydrogen by these MOFs.The first 收稿日期：2022-07-06.网络首发日期：2022-09-29.联系人简介：周 利,女,博士,副教授,主要从事纳米多孔材料的化学信息学研究.E-mail:基金项目：国家自然科学基金青年基金(批准号:22108178)资助.Supported by the Young Scientists Fund of the National Natural Science Foundation of China(No.22108178).CHEMICAL JOURNAL OF CHINESE UNIVERSITIES高 等 学 校 化 学 学 报研究论文Chem.J.Chinese Universities,2023,44(2),2022045920220459(2/11)step of TL modeling is to train a DNN Source task（ST）model with a coefficient of determination（R2）of 0.973 using methane delivery capacity data from 8414 MOFs at 298 K/65 bar298 K/5.8 bar（1 bar=0.1 MPa）.Since then，partial parameters of the ST model are frozen，and data of 100 MOFs delivering methane at 233 K/65 bar358 K/5.8 bar（Task 1，T1）and 100 MOFs delivering hydrogen at 198 K/100 bar298 K/5 bar（Task 2，T2）are used，the ST model is fine-tuned twice to obtain two TL models，and the 11820 data in T1 and T2 are predicted，with R2 of 0.968 and 0.945，respectively，which are higher than other five traditional ML models.In addition，TL models have high precision and high stability in predicting small data sets and do not produce bad prediction results.Finally，the permutation feature importance is used to measure the importance of descriptors.For the three models of different tasks（ST，T1，and T2），accessible mass surface area（AMSA），accessible volumetric surface area（AVSA），and void fraction（VF）are the most important descriptors for these models，and there is a large amount of shared“knowledge”between the models.On this basis，the relationship between important descriptors and delivery capacity is shown.It provides an efficient research method for future researches on other advanced nanoporous materials to deliver methane and hydrogen.Keywords Metal-organic framework；Methane and hydrogen；Delivery capacity；Deep neural network；Transfer learning；Permutation feature importance当今世界面临严重的能源短缺和环境污染问题，寻找、开发可靠的清洁能源是解决这些问题的重要手段13.甲烷与氢气燃烧时不产生有毒有害物质，均为清洁能源，受到广泛关注46.然而，甲烷与氢气目前主要使用制造成本高、危险性大的高压容器进行储存，限制了它们的大规模应用7，8.于是，研究人员开始寻求低压条件下储存甲烷与氢气的方法.金属有机骨架（MOFs）是一种结构高度可调、具有卓越的主客体相互作用的新型纳米多孔材料，通常以金属和有机配体通过自组装形成9.相比于沸石和活性炭，MOFs具有更强的气体吸附能力，拥有巨大的潜力去实现甲烷与氢气的低压储存4.此外，MOFs在物质分离10，11、传感器12、催化13和光捕捉14等领域也有巨大的应用前景.MOFs吸附甲烷和氢气的研究经历了较长的发展历程.最初，当MOFs的种类还不多时，研究人员直接通过实验合成来表征与改善MOFs对甲烷和氢气的吸附能力15，16.如，仲崇立等17以MOF材料PCN-14为基础，采用质心分布图研究甲烷在PCN-14中的吸附机理，设计出了具有更高甲烷吸附性能的MOF材料PCN-M；Furukawa等18设计合成了 MOF-180，MOF-200，MOF-205和MOF-210，它们均具有优异的氢气吸附能力.然而，Wilmer等19在2011年开发出的hMOFs假想结构数据库让MOFs的结构数量急剧增加，使得实验法筛选MOFs变得成本高昂且效率低下.随后，基于分子模拟的高通量筛选技术成为了大规模筛选高性能MOFs的重要手段20，21.如，Simon等22对hMOF数据库中的10000个MOFs进行了筛选，以确定其甲烷储存性能的极限；Snurr等23，24先后在室温、低温的储氢条件下对MOFs进行高通量筛选，找到了具有高储氢性能的MOFs.随着时间的推移，MOFs的数量在进一步扩大，基于分子模拟的高通量筛选也逐渐变得耗时且昂贵.得益于人工智能和大数据计算技术的高速发展，研究人员开始利用机器学习（Machine le