【维观TMT】迎接AI监管新时代（二）：管理AI工具风险，打造负责任AI

二零二三年十月

随着人工智能（AI）技术不断进步和成熟，近年来在各个行业得到爆发式增长，尤其是ChatGPT等生成式人工智能（以下简称“AIGC”）工具的问世，拓宽了AI工具在各个行业应用的可能性。但与此同时，AI工具的应用也将为企业带来新的挑战和风险。AI技术的有效治理，已成为其赋能社会生产和商业应用的关键前提和基础，以及业内广泛关注的话题。

2023年7月13日网信办公布《生成式人工智能服务管理暂行办法》迎来首个国家AIGC监管文件，面对颠覆性技术所带来的新型风险提供意见和指导。各个国家地区的法案也在积极筹备之中，AI全生命周期的监管将会愈发严格，AI治理将不再浮于原则讨论，其工程化落地已是大势所趋。

AI工具的典型应用场景

AI技术已逐渐融入到我们日常生活和商业活动中，其应用场景按技术角度来看，当前AIGC技术主要在文本（如Large language model，简称LLM）、跨模态（如Diffuser）、视觉（如Segment anything model，简称SAM）等方向快速发展，并赋能至办公、金融、泛娱乐、教育、智能驾驶等多种行业。在编码领域，AI编程辅助工具能够帮助开发人员自动识别、扩展补全代码，还可进行实时交互问答，显著降低软件使用门槛并提升生产力及工作效率。在文本领域，国内外厂商发布了融合AI的办公应用工具，包含提供智能校对、智能辅助写作、优化和续写文字内容、自动汇总会议纪要、搜索公司内部知识库等一系列的AI辅助办公功能，旨在帮助用户提高工具生产力。在企业资源计划解决方案（Enterprise resource planning，简称ERP）系统中，通过增加AIGC工具功能，提高企业内部运营流程的效率和效果。

AIGC工具的挑战和制约

企业应用AI工具提高企业运营效率、降低成本，助力企业实现数字化、智能化战略转型，但应用AIGC工具可能带来的风险也不容忽视。目前AIGC工具仍面临部分技术瓶颈与挑战，主要体现为：

模型准确性与丰富性挑战：

对于AIGC工具，影响其模型准确性和丰富性的关键因素，包括算法和模型的技术能力，要求模型参数规模至少在100亿以上级别，部分头部厂商甚至在千亿、万亿级别；大量用于训练使用的技术资源；大规模的算力、电力和资金投入；顶级的开发者团队与工程构架能力。

内容合规性挑战（知识产权）：

AIGC工具生成的内容可能存在涉黄、暴恐、违禁、个人隐私等风险，或开发者使用爬虫工具抓取数据用于模型训练，导致其产品或服务侵害社会公众利益、他人合法权利等内容合规问题。

模型训练带来的高额成本：

目前大模型训练仍会产生高额成本，AIGC厂商的工程架构能力对于降低大模型训练成本至关重要。

数据安全与隐私保护挑战：

新的技术工具应用及技术漏洞可能带来的安全问题，以及满足各国数据安全、个人隐私保护合规要求的挑战，例如训练数据的主体权利等问题。

“AIGC工具风险评估框架”

使用AIGC技术，可能给企业带来战略、市场、运营、合规、甚至是财务风险。例如：

人才缺乏风险，AIGC技术需要高素质的人才支持，如果企业缺乏相关人才，可能会影响企业的运营和发展。
AIGC工具应用到企业的业务运营流程，因模型准确性问题，造成流程输出准确性问题，为企业带来决策失误、错报漏报风险。
应用AIGC技术将产生的高额成本，为企业带来财务风险。
内容合规挑战和数据安全挑战带来的合规风险等。

建立有效的AIGC工具治理评价体系，是应用AI技术的重要基础。为了降低风险，企业在使用AIGC工具之前，应通过整合的“AIGC工具风险评估框架”，对工具能力进行综合评定。其评定的方向和内容建议包括以下四个方面：

AIGC厂商的内部治理情况，包括人才配备、治理体系、风险评估、内部监控等。
AIGC工具的准确性和丰富性测评，测评应根据工具的具体应用场景，结合对工具的要求，设计相关的测评问题，对于工具在具体业务场景下的认知能力、学习能力、逻辑推理能力、理解能力等进行评估。
AIGC厂商的内容安全管理机制测评，包括不合规内容筛查规则、内容审核机制、内容安全管理等。
AIGC工具的安全性、可用性、保密性和隐私性测评，包括工具的访问管理、变更管理、网络安全机制、事件管理、稳定性管理、保密机制、隐私保护机制等。

企业自身也应采取一系列的措施，以应对AIGC工具应用所带来的风险，如制定严格的数据安全和隐私保护政策、实施有效的内容审查和过滤机制、加强员工培训、扩充团队及合作伙伴的知识技能、建立完善的法律合规和知识产权保护机制、重新审视公司的风险管理体系、以及调整“三道防线”的责任等。同时，企业需要与利益相关者进行沟通和合作，共同制定行业标准、规范和道德准则，以确保AIGC工具合法、合理和可持续的使用。

结语

普华永道致力于帮助AI服务厂商和企业之间建立“AI能力信任”，通过“AIGC工具风险评估框架”，帮助企业对AI工具的治理情况进行综合评估，识别和管理应用AI工具的潜在风险和可能出现的意外结果。此外，普华永道紧跟全球对于人工智能发展立法的进度及政府监管态度，深度解读最新监管政策要点，帮助企业提前防范知识产权侵权、隐私安全、生成内容滥用等合规风险。