随着社会信贷消费的流行，待催收的违约用户逐渐增多。针对此问题，对Rasa对话系统开发框架中的自然语言理解模块进行改进，显著提升智能催收系统中自然语言理解模块的准确率，并对最终得到的训练模型进行性能评估。在所提出的算法模型中，用户输入文本经面向特定领域的预训练语言模型处理后输入到意图识别与槽位填充模块。在提出的模型中采用递归卷积神经网络模型进行意图识别，门控循环单元及条件随机场模型完成槽位填充任务，最后与原始预训练语言模型及其他主流算法进行比较。意图识别、槽位填充模型实验结果显示，本文方法F1值分别达95.75%、95.88%，均优于其他主流算法，验证了所提出算法的可行性。
0 引言
在金融领域，银行主要起着为企业或个人提供周转资金的杠杆作用，银行的盈利主要来源于企业和个人的贷款业务。随着经济的快速发展，截至20年末，我国金融机构人民币各项贷款余额172.75万亿元，同比增长12.8%