【观点】中国农业银行赵存超：中国农业银行ChatABC的模型建设实践

导读：近日，中国农业银行研发中心北研平台三部处长赵存超出席“2023中国智能金融论坛”，并围绕《大模型赋能金融高质量发展之中国农业银行ChatABC的模型建设实践》为主题展开分享。他指出，ChatABC作为农业银行的一款大模型内部试用平台，其最大的特点是以开源的技术进行端到端自研模式的全流程跑通，逐步扩大多个场景的试点，逐步构建“大模型+”的生态体系。 CXO UNION-CXO联盟（cxounion.cn）

以下为发言纪要：

尊敬的各位领导和来宾，大家好。很荣幸受邀参加2023服贸会中国智能金融论坛，来和大家共同分享和探讨大模型如何赋能金融高质量发展。今天我分享的题目是《大模型赋能金融高质量发展之中国农业银行ChatABC的模型建设实践》，主要从大模型目前的发展情况、农业银行在该领域所做的探索和实践、以及我对大模型未来的思考和展望三个方面展开。

刚才，各位嘉宾的分享中都提到，国家在利用人工智能助力金融业的发展，提升整个金融创新的速度，进而提升金融服务实体经济的能力等方面有很多政策的支持。在这样的背景下，随着大模型的深入推广和蓬勃发展，不仅在金融业，在医疗、教育等生活的方方面面，大模型作为引擎或者催化剂，已经让人工智能进入了寻常百姓家。与此同时，我们也看到，金融业尤其是商业银行，未来在使用人工智能能力，尤其是把大模型的能力应用到最核心的业务流程中，真正让它助力实体经济发展，满足人民对金融服务的需求时，目前面临以下六个方面的挑战：

第一，算力

整个大模型需要大算力，而算力的可持续扩展又受到一系列的约束。在这种情况下，对多元异构的AI算力资源，要形成更好的基础云化融合。换句话说，就是扩展算力的基础，把已有的用好用足，把增量建好，让资源盘活。

第二，数据

对于商业银行，不可能靠一个大模型打天下，需要多层次、分级分类的模型。这些模型该如何管理，如何进行共享、复用才能真正发挥集团军作战能力。

第三，大模型

对于商业银行，不可能靠一个大模型打天下，需要多层次、分级分类的模型。这些模型该如何管理，如何进行共享、复用才能真正发挥集团军作战能力。 CXO UNION-CXO联盟（cxounion.cn）

第四，场景

使用大模型能力，是做花边式的辅助支撑，还是真正可以嵌入到比如风控、信贷等已有的金融领域，与整个业务流程实现快速的结合，发挥比较重要的作用，这也要打一个问号。

第五，生态

我们与同业、产业侧、学术界如何形成很好的生态，才能有助于大模型更快速、更深入应用，也值得我们思考。

第六，人才

从新员工的入职情况可以看出，人工智能领域的毕业生占比非常高，但大模型领域的相对匮乏。在人才如此紧缺的情况下，如何把大模型的深度应用持续盘活，也是我们在实践中遇到的挑战。

农业银行大模型建设目标可以概括为：“全面、精准、便捷、深入、安全”。在建设思路上我们提出四个观点。一是以我为主，场景和数据是自己的，只有适应自己的大模型，才是真正可以深度应用到金融场景里、业务流程中的大模型，当然我们也有开放的生态，以我为主、拥抱开源、共建共享。二是以用带建，一个创新技术如何真正发挥效果，用是关键。可能做了十个方向，真正能见到效果和产生价值的只有1-2个，但如果不用，只是纸上谈兵肯定不行，刚才嘉宾们的分享特别好，大家都在做这种生态，在通过应用推动建设，这就是关键。三是安全合规，作为大行要有大行的担当，在整个新技术应用的过程中，政策要求、法律法规、数据安全、隐私保护等，在开始做的时候就必须重点关注，提前做好关键词、敏感词的过滤和审核。四是建设生态，2023年3月份，农业银行率先大模型的试点应用，基于开源进行自研ChatABC，其最大的特点是以开源的技术进行端到端自研模式的全流程跑通，未来我们也是希望以用带建的模式，逐步扩大多个场景的试点，逐步构建“大模型+”的生态体系。 CXO UNION-CXO联盟（cxounion.cn）

ChatABC作为农业银行的一款大模型内部试用平台，其建设思路一是算力层面怎么构建稳定坚实的底座；二是数据层面如何打造闭环；三是数据模型体系；四是大模型应用平台建设；五是配套的协作模式；六是数据安全保护的内部规范和外部标准和规范的制定，七是最终的应用生态。下面对以上各部分做简单的分享，有机会希望与大家做深度交流。

第一，一体化云原生的异构算力平台

主要解决三个问题：一是异构，能够实现异构的云化，这是不得不面对的问题，不管存量多少，增量一定要纳入进来。二是调度，算力是弹性调度、可以多机多卡进行共同训练。三是适配，在推理侧和训练侧分别引入业界比较前沿的开源框架，在此基础上充分盘活已有的资源，提升训练和推理效率，同时融入新增资源，形成池化资源。

第二，解决数据问题

大模型的研发，没有数据就是无米之炊。数据质量好，但数据量很大且分散，最关键的一点是数据保护和信息安全。我们创新采用大模型+MLOps建设模式，从处理、构建、最后测试，整个流程都实现了自动化，非常高效而且是闭环，通过这样的过程也构建和沉淀了TB级的高质量训练数据，成为业内首家全域通过云原生成熟度优秀级评估的金融机构。

第三，大模型分三层建设

第一层是基础预训练底座模型，包括业界主流的开源模型，百亿千亿参数都可以，也包括我们正在做共建和联创的产业大模型，底座可以无缝切换，具有灵活的适配性。第二层是金融大模型，包括NLP、CV、多模态等大模型都涵盖在内，比如CV部分，农业银行有一个使命是服务三农，如支持智慧畜牧的牲畜识别模型可以用于活体抵押场景等等，当然我们也是从小模型到大模型逐步适用的。第三层是金融场景的大模型，这个模型的建设基础要重，上层要轻。基础底座大模型参数量越来越大，意味着根扎的越来越深，理解能力越来越强，上层应用要轻，面对不同领域、不同场景，才能形成轻量模型，实现统一管理。 CXO UNION-CXO联盟（cxounion.cn）

第四，大模型平台建设

实现从开发到适配到知识库的构建，以及到模型的完整流水线。举一个例子，原来做微调和预训练的时候需要编码，而现在不用，直接在页面做配置和拖拉拽的方式就可以实现，同时也有知识库、知识图谱的相关实践。

第五，标准规范

目前我们正在研究相关的规范，形成了一揽子的技术解决方案，积极促进大模型的场景接入，尝试推动大模型和知识库的联合，以及微调使用，有三种接入模式，一是最轻量级的直接使用，二是对接知识库，三是模型微调，具备规范接入模式，支持应用的快速对接使用。

第六，场景生态

包括智能客服、智慧三农、智能营销、智能运营、风控、办公、研发等方方面面，试点30余个场景，构建“大模型+”场景生态。

第七，开发者生态

大家都知道人才很宝贵，核心的算法工程师和实施工程师比较稀缺，我们实现了工程化推动模式，汇集近两百名研发工程师，从不同层面，联合科学家、工程师、开发者、应用开发者加入联合攻坚团队，在人才培养和生态建设方面做出有益探索。 CXO UNION-CXO联盟（cxounion.cn）

以上是对整个农业银行在大模型领域探索的一点分享，最后，有如下一些思考和展望。一是在金融业大模型的深度应用，尤其是嵌入到金融场景的深度应用，我们认为数据是核心，安全是前提，算力是基础，场景是动力，人才是关键，协作是保障。二是大模型生态的建设，需要同业之间联合共创共享、制订标准规范，需要产学研一起形成生态。这些方面我们也在积极参与，也期待与同业一起形成生态，加速推动整个大模型在金融业的应用。三是整个大模型在探索中前进，在尝试中创新，未来以大模型为引擎，驱动新一代的人工智能带来的新生态、新思路、新场景，特别希望与在座各位同仁、各位领导一起见证大模型在金融业的深度应用，以及带来的无限可能。

数字化转型网人工智能专题

与全球关注人工智能的顶尖精英一起学习！数字化转型网建立了一个专门讨论人工智能技术、产业、学术的研究学习社区，与各位研习社同学一起成长！欢迎扫码加入！

本文由CXO UNION-CXO联盟（cxounion.cn）转载而成，来源于CIC金融科技于数字经济专家委；编辑/翻译：CXO UNIONCXO联盟小U。

如需加入CXO UNION（CXO联盟）高管社群，请联系社群小伙伴哦~

免责声明: 本网站(http://www.cxounion.cn/)内容主要来自原创、合作媒体供稿和第三方投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。

本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等) 版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时，请及时通知本站，予以删除。