广州银行：基于大语言模型和知识库技术融合的内部数字助手_广州市|aigc|自然语言处理

文章图片

文章图片

文章图片

文章图片

来源：鑫智奖·2024第五届金融机构数智化转型优秀案例评选
获奖单位：广州银行
荣获奖项：专家好评TOP10优秀案例奖

一、项目背景及目标
随着大数据、人工智能和机器人流程自动化等前沿技术的快速发展，金融机构纷纷入局数字化转型，人与机器之间边界融合推动了银行劳动力模式的快速演变，银行对内部管理的智能化需求日益旺盛，数字员工在多种技术的融合中孕育而生。对于具有一定规模组织架构的部门，员工在日常办公中有着频繁的各类信息查找和获取，普遍存在常规问题重复人工询问，而严格信息安全管控形成的数据孤岛使该工作更加难以开展。然而，传统内部助手系统往往功能单一，工作效率和智能化程度较低，无法满足员工在信息查询、知识管理、工作辅助等多方面的需求。因此，基于大语言模型和知识库技术融合的内部数字助手应运而生，通过自然语言处理和AIGC等技术建设对内服务型数字助手，协助员工处理日常办公事务，并为部内提供高效且智能的内部助手服务，成为解放人力资源、提升工作效率的有效解决方案。

市场分析显示，随着银行数字化转型的加速，数字助手的市场需求将持续增长。同时，大语言模型技术的发展也为数字员工的更新迭代提供了新支撑点。为了更好地推动数字化转型的落地，我行积极探索大语言模型技术在业务展业和员工赋能等领域的应用，探索将大语言模型技术应用于中后台办公等领域，以加速推动人工智能技术在我行各业务领域落地。

本项目的目标是开发一款基于大语言模型和知识库技术融合的内部数字助手，并实现以下功能：

自然语言交互。通过自然语言处理技术和友好渠道，实现员工与数字助手的无障碍交流，提高信息查询和处理的效率。

知识管理与学习。通过构建部内知识库，实现知识的分类、整理和更新，帮助员工快速获取所需知识。

工作辅助与决策支持。根据员工的工作需求，提供案例生成和方案建议等辅助决策功能，提升工作效率和决策质量。

通过本项目的落地，能够为部门提供一款高效且智能的内部数字助手，助力我行实现数字化转型和智能化升级。

二、创新点

基于大语言模型和知识库技术融合的内部数字助手创新点主要体现在以下几个方面：

技术创新。本项目采用先进的大语言模型技术，通过深度学习和自然语言处理，使数字助手具备强大的语义理解和生成能力。与传统的内部助手系统相比，它能够更准确地理解员工的意图和需求，提供更为精准和个性化的服务。

功能创新。内部数字助手通过结合部门的研发流程和专业知识提供规则性问答，实现基本的信息查询和知识管理功能，使员工减少价值不高的提问，快速获取所需信息，更高效地处理工作事务。同时，数字助手能够回答非知识库问题，提供工作辅助和决策支持，使输出的内容更加广泛和全面，提高工作效率和决策质量。

服务创新。本项目采用私有化部署和全自研模式，为部门提供灵活和便捷的数字助手服务。项目无需投入大量的外部人力和物力进行开发和维护，只需通过自主研发即可获取数字助手能力，还降低了研发成本。随着服务器和显卡等硬件资源的扩展，仅需少量步骤即可灵活切换大语言模型进行服务，提高了服务的可用性和可扩展性。

交互创新。内部数字助手能够实现自然语言交互，员工可通过文字与数字助手进行对话直接获取所需知识，无需复杂的操作和界面切换。这种交互方式更符合人类的沟通习惯，提高了员工体验和满意度。

因此，本项目在技术创新、功能创新、服务创新和交互创新等方面在中小行均有着显著的优势，为我行数字化转型和智能化升级提供了有力的支持。

三、项目技术方案

本项目旨在开发一款基于大语言模型和知识库技术融合的内部数字助手，通过自然语言处理等技术实现员工与数字助手的直观交互，并提供知识管理、工作辅助和决策支持等服务。项目分为需求调研、技术选型、系统开发、测试部署和运维优化五个阶段：

（1）需求调研。通过试点调研，收集并整理内部数字助手的需求和功能要求。
技术选型与研发。根据需求调研结果，选择合适的大语言模型技术和开发工具，进行系统开发和测试。
部署与推广。完成系统开发和测试后，进行部署并通过部内试点应用以服务更多员工。
运维优化。对系统进行实时监控和维护，不断优化系统性能和功能。
数字助手是部内的聊天交互工具，用于为员工提供问答咨询服务。在日常工作中，由于员工问题多种多样，通常需要花费不少时间从多个关联人员和系统中获取信息并进行汇总整理。此外，在面对专业知识咨询时，人员通常需要研究和思考后才能给出答案，时效性往往难以保证。因此，能否对员工的在线咨询做到实时响应，对用户体验至关重要。为了解决这一问题，本项目将大语言模型和知识库技术融合应用以赋能智能问答工具。如涉及部内流程的咨询问答，数字助手可以通过知识库快速获取相应信息以作为办公依据。同时，大语言模型可以获取会话上下文，并精准返回答案，提升员工沟通效率和满意度。因此，本项目主要实现两个核心功能：
（1）在有着一定规模员工的部门里，资料往往需要多个科室多个团队共同提供，这使得部内员工有时候会为找资料耗时耗力地重复人员询问。为了提升部内信息获取效率，通过建设数字助手帮助员工便捷获取工作相关信息，并基于部门知识库和问答对话实现问题与答案的高效连接。并通过PC端渠道实现信息统一查询入口，提升员工信息获取效率。
为更好地释放部内人力资源和提高员工满意度，通过在数字助手中集成私有大语言模型服务提供AIGC能力，串联不同领域知识，依托语义识别与意图分析等AI技术服务部内应答场景并提供标准服务，提高员工灵感获取能力，实现智能问答咨询的智慧场景，辅助员工完成报告撰写、代码生成、文案制作和中英文翻译等日常需求，简化日常办公咨询步骤和降低信息获取难度，助力打造高效生产力工具，赋能日常办公场景。
本项目基于自身需求及IT基础设施，制定了数字助手总体架构，以加速基于大语言模型和知识库技术融合的应用落地。本架构主要由渠道层、服务层、模型层、算法层和基础层共五层组成，正逐步建设和完善相关基础能力并推动场景规模化落地：
（1）渠道层。提供Web端和PC端等多种常用渠道应用，通过用户交互界面和功能服务助力部门员工办公。
服务层。提供日常知识问答能力和文本代码AIGC等基础服务，传统智能问答模块基于知识库回答常规问题，新型智能问答模块基于大语言模型提供辅助报告编写、代码文案生成、报告解析和百科搜索，模块间无缝结合并通过统一API发布智能问答和自然语言交互等服务。
模型层。提供结构化问答和非结构化问答双引擎有机融合的基础能力，结构化问答引擎通过传统知识库实现规则应答和知识管理，非结构化问答引擎通过新型大语言模型实现非规则应答和模型管理。与此同时，支持模型和知识类型的横向扩展，模型和知识精度的纵向扩展，并通过统一API发布语义理解和知识推理等能力。
算法层。提供语义和语音等常用智能算法逻辑，支撑各类规则和模型的运营。
基础层。提供运算硬件和运行环境等基础设施，支撑算法、应用和数据等服务，确保系统的安全性和可扩展性。
因此，数字助手服务涵盖了智能问答生成、代码生成和统一API基础服务等，截至目前，已完成渠道层PC端、服务层部门知识结构化问答和文本代码AIGC非结构化问答服务、模型层基础模型和部门知识库的设计和初步搭建，逐步推进在智能问答、摘要提取和信息抽取等应用场景建设和试点落地。

图1 数字助手总体架构

本项目采用私有化部署和全自研模式，为部门提供数字助手服务。员工可以使用数字助手进行信息查询、知识管理和工作辅助等操作，后续可根据实际需求，提供个性化开发以满足其他特殊需求。通过本项目的实施，能够为部门提供一款高效且智能的内部数字助手，助力我行实现数字化转型和智能化升级。

四、项目过程管理

（1）项目启动与需求调研阶段（2023年7月-8月）：在人员有限的前提下，此阶段的主要任务是组建项目团队，明确项目目标和范围，进行需求调研。通过与部内关键用户进行深入交流，收集并整理其对于内部数字助手的具体需求。
技术选型与方案设计阶段（2023年9月-10月）：在此阶段，项目团队进行技术选型，包括选择适合的大语言模型和开发工具等。同时，根据需求调研的结果，制定详细的项目实施方案和计划。
系统开发阶段（2023年11月）：该阶段是整个项目的核心部分，包括渠道层、服务层和模型层的开发工作。项目团队按照实施方案，进行系统的编码、测试和调试工作。
系统测试与优化阶段（2023年12月）：完成系统开发后，进入测试与优化阶段。项目团队对系统进行全面的功能测试和性能测试，确保系统的稳定性和可用性。同时，根据测试结果进行优化调整，提升系统的性能和用户体验。
部署使用与培训阶段（2024年1月-2月）：系统测试通过后，进行部署工作。项目团队完成系统的安装和配置操作。同时，为员工提供必要的培训和支持，确保员工能够了解内部数字助手。
运维与持续改进阶段（2024年3月-）：项目部署试用后，进入运维与持续改进阶段。项目团队建立针对性运维机制，对系统进行实时监控和维护，确保系统的稳定运行。同时，根据部内员工的使用反馈和需求变化，安排系统的迭代和优化，不断提升内部数字助手的性能和体验。
通过以上的项目过程管理，可以确保基于大语言模型和知识库技术融合的内部数字助手能够按照既定的目标和计划有序进行，最终实现项目的成功部署和试点应用。

五、运营情况

基于大语言模型和知识库技术融合的内部数字助手在推广应用和系统运行方面展现出了显著的成效和优势。其运营情况如下：
推广应用情况
广泛适用性与定制性。内部数字助手基于大语言模型和知识库技术支撑，能够深入理解并处理多种自然语言任务，使其在不同场景中具有广泛的适用性。后续可通过定制化设置和改造，以满足不同部门的特定需求，提供个性化的服务。
员工习惯与反馈。自内部数字助手推出以来，通过试点应用使员工了解这一工具并开展日常工作。随着大语言模型技术的发展，数字助手能提高工作效率，降低沟通成本，为部门带来了更加智能化和便捷的服务体验。
宣传策略。为了进一步推广内部数字助手，项目团队采用线上培训宣传策略，能有效提高数字助手的影响力，吸引更多员工的关注。
系统运行情况
1）稳定性与可靠性。内部数字助手在运行过程中能够持续稳定地提供服务。同时，系统具备容错能力，能够自动处理异常情况，确保服务的连续性。
数据安全与隐私保护。在设计内部数字助手时，充分考虑了数据安全和隐私保护的问题。通过私有化部署并采用成熟的加密技术和访问控制机制，确保数据的安全性和隐私性。
性能优化与迭代升级。为了不断提升系统的性能和服务质量，后续按需通过扩充资源、更新模型和增加新功能等方式进行性能优化和迭代升级，不断提高系统的处理速度和准确性。
因此，基于大语言模型和知识库技术融合的内部数字助手在推广应用和系统运行方面均取得了一定成效，随着技术的不断发展和完善，数字助手将在更多领域得到应用，以为客户提供更专业的金融服务。
图2 知识获取引导

图3 知识获取直达

图4 百科知识获?。ㄒ唬?

图5 百科知识获?。 ǘ?

图6 文案生成辅助

图7 报告生成辅助

图8 代码生成辅助

六、项目成效
基于大语言模型和知识库技术融合的内部数字助手在经济效益和社会效益方面都取得了显著的成效。其项目成效如下：
经济效益
1）成本节约。通过引入内部数字助手，能够自动化处理重复性问答，部门能够减少在事务询问和信息检索等方面的人力投入。
效率提升。内部数字助手能够快速响应员工需求，提供准确的信息和建议辅助办公，缩短了决策和执行的时间，提升了员工的工作效率，加快了事务处理流程。
满意度增加。随着内部数字助手的逐步应用，员工的体验会逐渐提升，有助于增强员工的满意度和忠诚度，进而促进工作热情。
社会效益
1）工作环境改善。内部数字助手的引入，使得员工能够更专注于创新和价值创造工作，减少了重复沟通和繁琐任务的干扰，有助于提升员工的工作满意度和幸福感，进而改善整体工作环境。
IT研发效率提升。通过优化部内研发工作，让研发人员可以更好地专注于高价值的设计任务。后续亦可通过微调大语言模型提高编码领域的代码理解与生成能力，辅助研发人员完成代码补全、测试案例生成、代码注释、bug修复等进阶任务，进一步提升编写代码的效率。
技术示范与推动。基于大语言模型和知识库技术融合的内部数字助手成功实施，为其他中小行乃至小微企业提供了可借鉴的经验和案例，亦有助于推动大语言模型技术的普及和应用。
综上所述，基于大语言模型和知识库技术融合的内部数字助手在经济效益和社会效益方面都取得了一定成效。随着技术的不断进步和应用场景的不断拓展，后续可朝着优化客户体验、个性化精准营销、提高展业效率和风控水平、提升办公效率等方面为我行乃至金融业带来更大的价值。

七、经验总结

1）需求分析与规划。在项目建设初期，对内部数字助手的需求进行深入分析是至关重要的。通过调研部门关键用户的日常工作流程与痛点，明确数字助手的功能定位和服务目标。同时，制定详细的项目规划和进度表，确保项目有序推进。
技术选型与研发。大语言模型技术的选择对于项目的成功至关重要。需要考虑模型的准确性、效率、可行性以及可扩展性等因素，选择适合需求的模型，确保数字助手能够准确理解并回应员工的自然语言输入。在研发过程中，注重渠道建设以确保提升用户体验。
系统集成与测试。内部数字助手后续需要与我行其他渠道系统进行集成，以实现数据的共享和流程的协同。在集成过程中，需要关注数据的准确性和一致性，确保系统间的无缝对接。同时，进行充分的测试工作，包括功能测试、性能测试和安全测试等，确保数字助手的稳定性和可靠性。
后续规划中，可建设一套标准化的数字员工体系，优化员工问答体验和服务，进一步探索接收用户指令完成便捷跳转的导航功能，并通过开发通用组件支持更多业务系统接入，联动各办公系统数据帮助员工获取个人日程、待办任务和会议安排，实现智能提醒功能。同时，亦实现智能对话以支持用户自定义提醒记录，从而在工作答复和督办提醒等场景中实现信息的自动获取和订阅，释放用户记忆负担，使数字助手真正成为无处不在、无所不能、时刻可感的对内服务专员。
推广经验总结
1）内部宣传与培训。为了让部内员工更好地了解和使用内部数字助手，开展了内部宣传和培训工作。通过制作宣传材料和举办培训课程等方式，提高员工对数字助手的认知度和接受度。
【广州银行：基于大语言模型和知识库技术融合的内部数字助手】员工反馈与迭代。在推广过程中，积极收集员工的反馈和建议，对数字助手进行持续的迭代和优化。通过改进功能和提升性能等方式，不断提升员工的使用体验和满意度。
因此，基于大语言模型和知识库技术融合的内部数字助手项目建设和推广过程中，项目团队积累了丰富的经验。通过深入的需求分析、技术选型、系统集成以及内部宣传培训等措施，成功打造了高效且智能的内部数字助手，并进行试点应用。未来，我行将充分利用大语言模型前沿技术，以创新理念和金融科技的内容特色为指导，继续优化和完善数字助手的功能和服务，后续打造高质量和智能化的金融服务。在数字化转型的浪潮下，金融科技已成为驱动各大商业银行开展数字化转型的重要力量。不断发展和应用AIGC技术，是银行业实现转型变革的必然选择。我行将秉持着“科技赋能金融”的目标，继续以客户为中心，以技术为驱动，不断创新，为我国金融行业的高质量发展做出更多贡献。

更多金融科技案例和金融数据智能优秀解决方案，请在案例库、选型库查看。

广州银行：基于大语言模型和知识库技术融合的内部数字助手

推荐阅读

天玑1200和骁龙870差距对比骁龙870跑分为啥不如天玑1200

网易云音乐年度歌单是如何生成的网易云音乐年度歌单生成方法介绍

公司端午不放假是否违法

可以看捉妖记2的微信公众号

苹果手机怎么下载微信苹果手机不能下载微信了怎么办？

EXCEL输入进来的单词不确定正确怎么办

mmc的购买，比较及使用心得

王勇峰

杏鲍菇的做法三步做好杏鲍菇

床单为什么会变黄老公睡的那边床单发黄是什么原因

西柚提醒每天喝8杯水在哪里设置,每天喝8杯水你做得到吗

江夏学院怎么样，福建江夏学院怎么样

浙江丽水职业学院，丽水职业技术学院

CS扫描该怎么使用

小学重要课文有哪些方面,语文中对80后影响最深的十篇课文

袋鼠多高