导读：大模型技术正深刻重塑商业风控体系，推动风险管理向智能化、高效化、精准化转型。本系列专题首篇聚焦快手商业化风控内容审核场景，系统剖析大模型如何破解传统风控痛点，构建覆盖全链路的风险治理新范式。后续篇章还将进一步揭秘大模型评估标准Bechmark、智能体Agent、多模态推理模型等内容，敬请期待。
一、引言
快手商业化场景下，风险控制不仅关乎平台的信誉和经济效益，更直接影响用户和客户的体验和利益。理想的风控系统需要具备前瞻性和高度自适应能力，能够预测并管理潜在的风险，如科幻电视剧《西部世界》中的超级AI "雷荷波"（Rehoboam），展现了对全球风险的预测和即时干预的能力。现实中，我们追求的是一个“旋转对抗飞轮”式的系统，通过持续加速对抗能力的提升，对抗飞轮就会转得越快，我们的防控能力就会越强大，能够有效增加恶意行为者的对抗成本。这不仅要快速感知和识别新的风险，还需对风险进行深入的认知分析，并能够在风控实战中表现出高度的鲁棒性。基于此，将围绕一下几个方面进行内容展开：
-
风控治理发展现状
-
风控领域的大模型构建
-
大模型在快手商业化风控的应用
-
总结与展望
二、风控治理发展现状
2.1 发展现状
从业务运营的视角看，快手商业化风控系统紧密围绕安全、效率与体验维度展开，旨在精准契合平台、客户与用户多元化需求，这些需求主要包括：平台需要以低成本能够有效控制风险、用户期望不受低质广告的干扰、客户则希望视频审核过程快速、透明且具有高可解释性，以低成本获取高收益。随着技术的不断进步，智能风控系统已从初期的规则驱动发展为数据驱动的传统机器学习，再演化为依赖深度学习的模型驱动，最终升级到现今的大模型驱动阶段。
2.2 风控面临的技术问题与挑战
尽管取得了显著进展，当前快手商业化智能风控系统仍面临几个关键挑战：
挑战一：客户不断高涨的体验需求
客户在接收到审核结果时，如果内容是生硬、缺乏具体操作指导，会让客户难以理解如何根据审核反馈优化素材，因此，客户越来越希望平台优化反馈的内容，获得更好的平台体验服务。
挑战二：对抗行为与审核规则的快速变化
部分客户为了规避平台的监管，不断创新风险素材。此外，审核规则的变动也增加了风控的复杂性，因为某些内容的合规性可能随时间和政策法规的变化而调整。
挑战三：人工审核效率不断提质
鉴于广告内容和相关规则的复杂多变性，审核员需要审查大量素材并记住繁杂的规则。这种方式不仅耗时，还可能会出现人为错误。
为应对这些挑战，快手商业化风控进一步融合先进的AI技术，提升自动化水平，增强系统的适应性和灵活性，以实现更高效、更精准的风险管理。同时，还需优化用户体验和反馈机制，以提升用户与客户的满意度。
三、风控领域的大模型构建
接下来介绍大模型在快手商业化风控场景下的探索，风控领域大模型构建的技术流程图如下所示：
为了打造具备高效风控能力的AI模型——明镜大模型（KwaiBLM），我们采取了一系列系统化和层次化的开发步骤：
1. 继续预训练阶段：利用快手内部高质量语料库（Kwai-Data）进行了训练，以使模型更好地理解和处理风控审核的特定内容。此阶段的目的在于让模型在实际部署前，能够深入学习并充分掌握与风控相关的语义和图像特征。
2. 微调（Fine-tuning）阶段：我们针对风控场景的具体需求，构建了包含多种模态（文本、图像、音频和视频）的高质量指令标注数据集。通过这些详细标注的数据，对模型进行了深入微调，这一步是至关重要的。
3. 模型迭代阶段：我们通过对模型在特定不良案例中的表现进行深入分析，并结合实际应用中的用户反馈，不断地优化和调整模型参数。这一过程旨在不断提升模型的鲁棒性和适应性，以确保其在各种场景下的稳定运行。
4. 模型应用阶段：模型不仅用于客户体验优化和风险防控，也用于应对尺度变化和提升审核效率。此外，模型在实际应用中的表现也将作为后续优化和调整的重要依据。
以上步骤构成了我们实现具有高效风控能力的AI模型（明镜大模型，KwaiBLM）的核心路径 ，我们确保了模型在风控真实环境下的适用性和准确性，有效地辅助视频内容的审核工作，以识别和过滤违规内容。以下是详细的技术说明。
3.1 继续预训练阶段
风控大模型（明镜大模型，KwaiBLM）在继续预训练阶段主要分为数据收集、Prompt Engineering、数据处理、语料清洗、训练数据、模型训练几个部分，实现过程如下所示：
为了构建专注于风控场景的的AI模型，我们将风控的领域知识注入到了快手内部通用的预训练模型中进行继续预训练，让模型能够
4931
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
