金融机构如何优化生成式AI治理

全球金融机构如何优化生成式人工智能治理框架
——麦肯锡助力金融业把握技术红利与风险平衡

生成式人工智能（gen AI）的快速发展正深刻改变全球金融机构的运营模式，从客户服务到高层决策，无不受到这一变革性技术的深远影响。虽然生成式人工智能为金融业提供了诸如工作流程自动化、提升软件性能以及显著提高生产力等诸多潜在机遇，但其复杂性也带来了法律、声誉、网络安全以及欺诈等多方面的风险。为充分释放该技术的潜能，同时规避相关风险，金融机构亟需重新设计其风险治理框架，以确保技术采纳与风险管控齐头并进。

不同于传统人工智能通常专注于处理特定任务，生成式人工智能通过复杂的多步骤过程自主生成新内容。这种多样化且灵活的能力进一步放大了技术误用和错误的可能性。例如，生成式人工智能模型可能提供错误或者虚假的信息，如虚构的客户财务数据或不准确的合规建议。现有的风险管理机制往往无法应对这种新型复杂性。金融机构必须升级其治理框架，将生成式人工智能的模型风险管理纳入整体企业风险模型，同时全面覆盖数据、技术和法律风险领域。

为此，麦肯锡提出采用全面的评分卡方法及多样化的风险控制措施，从风险识别到持续监控，从而有效减少生成式人工智能可能引发的系统性与伦理问题。

麦肯锡指出，领导者需要对生成式人工智能涉及的所有潜在风险进行系统审查，包括监督体系、模型管理、知识产权与数据使用，以及法律与伦理问题。

目前，大多数机构倾向于由单一团队负责生成式人工智能的整体监督。然而，由于生成式人工智能通常由多种模型及软件组件组成，其中不同部分可能需要分别进行专业管理。例如，当生成式人工智能聊天机器人为客户提供财务建议时，其技术、法律及数据保护等方面风险需进行交叉审查。这种协调机制需要跨风险委员会紧密合作，确保治理的全面性与有效性。

生成式人工智能模型的能力已超越传统模型的单任务范畴，其多任务特性可实现个性化服务、提升客户参与度以及优化运营效率。然而，这种多功能性也带来了新的严峻挑战。例如，由于模型同时使用公开及私有数据，其生成的信息可能失准、具有误导性，甚至是完全虚构。为了减少这一风险，金融机构可以采用“基于检索生成”（RAG）技术，该技术结合内部及外部数据以确保生成内容准确性，同时引入法律审查的语言规则与严格的互动规范。

生成式人工智能工具在数据源方面存在潜在的违规风险，例如建议使用带版权争议的代码或涉及金融机构专属算法泄露。此外，生成式人工智能依赖混合数据（公开数据与私有数据），这进一步引发了关于数据责任归属及使用目的的合规问题。为应对这一挑战，金融机构需开发强大的追踪体系，从数据来源到使用路径均需严格记录，以确保符合隐私法规，并降低出现违规行为的可能性。

由于生成式人工智能模糊了原创内容与受版权保护内容之间的界限，其在知识产权领域往往引发争议。此外，训练基于敏感数据的生成式人工智能模型可能导致隐私信息泄露或加剧偏见问题。加强透明性与可解释性为解决上述问题的核心措施——确保生成的内容能够溯源，以便评估合规风险并确保其反映金融机构的伦理价值。

在全面审查所有风险领域后，金融机构可以通过评分卡评估生成式人工智能的应用和潜在风险，进而明确治理框架优化的优先领域。这一评分卡不仅可以帮助团队识别问题，还能支持采购部门在选择外部生成式人工智能解决方案时有效评估第三方潜在风险，包括数据使用方式与模型运作原理。

此外，通过业务、程序、人工及自动化控制机制的协同应用，金融机构可进一步提升风险治理效能：
– 业务控制：灵活适配——设计能兼顾创新与风险防控的管理架构，以推动生成式人工智能应用的同时确保风险纳入公司运营模式。
– 程序控制：敏捷应对——更新现有模型风险管理标准，使其能够动态适应生成式人工智能的输入变化及多层交互。

人工控制：强化监督——通过人工审查敏感内容、测试模型输出以及根据客户反馈持续优化模型表现，确保工具能够反映机构价值观与目标。
自动化控制：高效自检——采用第三方工具对生成式人工智能系统进行实时数据清理、异常监测与快速修复，同时通过模型间的自检机制提升质量把控能力。

生成式人工智能作为现代金融业的技术驱动力，正进一步推动决策优化、客户服务及运营效率的跃升。然而，要实现这一潜力，风险管理能力必须全面升级。通过构建详尽的风险评分卡、设计灵活且交互式的控制机制，以及强化数据隐私与伦理标准，金融机构不仅可以主动应对生成式人工智能带来的挑战，还能够在责任与创新之间找到最佳平衡点，最终为行业的持续发展注入强劲动力。

麦肯锡的这一系统化方法为金融机构开启生成式人工智能责任应用提供了宝贵参考，助力这些机构有效治理新兴技术风险，迈向更为智能化与合规化的未来。