CFGPT: Chinese Financial Assistant with Large Language Model

本文是LLM系列文章，针对《CFGPT: Chinese Financial Assistant with Large Language Model》的翻译。

摘要

大型语言模型（LLM）在金融领域的自然语言处理任务中显示出巨大的潜力。在这项工作中，我们提出了一个名为CFGPT的中国金融生成预训练Transformer框架，其中包括一个用于预训练和监督微调的数据集（CFData）、一个用于熟练管理金融文本的金融LLM（CFLLM），以及一个用于导航现实世界金融应用程序的部署框架（CFAPP）。CFData包括预训练数据集和监督微调数据集，其中预训练数据集中整理了中国的金融数据和分析，以及一个较小的通用文本子集，共有584M个文档和141B个token，监督微调数据集中针对六个不同的金融任务量身定制，通过总共1.5M个指令对和1.5B个token，体现了财务分析和决策的各个方面。CFLLM基于Int