阿里给出了AI治理路径

作者 | 刘宝丹

编辑 | 黄昱

AI大模型技术的迅速迭代，对AI治理提出了更高要求，阿里也开始更多思考如何做好AI治理。

近日，在大模型技术发展与治理创新研讨会上，阿里巴巴集团副总裁钱磊表示，为了对大模型进行有效治理，提高它的可控性，降低应用风险，阿里围绕着大模型研发、应用全生命周期，全面部署了安全保障措施。

一是提高模型内生安全能力。在数据采集、处理阶段强调源头管控，进行严格的数据筛选和数据安全标注；在模型训练和设计阶段通过添加安全语料；在模型上线前进行全面安全评估，确保各类风险项目在生成内容上的合格率。

二是加强外围护栏能力。在模型部署应用后，通过外围护栏进一步提升大模型在应用场景中的安全性，通过日常巡检验证结果是不是能够达到预期，是不是可靠性、可信、可用都能够达到阿里的要求。

阿里还与中国电子技术标准化研究院联合发布了《大模型技术发展及治理实践报告》，这是阿里巴巴连续第三年发布AI治理相关研究成果，进一步深化了阿里在技术研发与治理领域的经验总结。

阿里研究院院长袁媛认为，AI大模型的治理思路是解析大模型发展中三个最核心的发展引擎—算力、算法、数据，给出一个适合中国发展的路径，以数据为例，在符合真实世界的特征的前提下，合成数据能帮助模型突破当前的能力上限，并且能够降低更多的安全困扰。

自从2022年底，ChatGPT在全球出圈，AI大模型已经成为科技巨头们争相押注的赛道，阿里就是其中的核心参与力量。

在AI大模型方面，阿里坚持云和AI协同发展，将云从IT和DT的基础设施向人工智能基础设施方向去演进。据钱磊介绍，阿里会持续加大投入，一是提高自研基础模型通义系列的能力，二是通过完善AI基础设施和相关支撑系统，降低模型应用开发的成本。

“通义千问”API调用价格一年间下降了97%。同时，阿里坚持全尺寸、全模态开源，推动把AI能力真正转化成为千行百业的生产力。目前已经有30万+企业接入了阿里巴巴通义千问大模型。

Hugging Face社区的数据显示，基于“通义”模型开发的衍生模型已突破8万个，已吸引超过600万AI开发者参与，在全球开源平台的下载量已突破1亿次。

在阿里看来，在发展大模型前沿技术推动人工智能应用的同时，也要高度重视人工智能的安全，负责任地去看待大模型带来的安全问题。

不过，AI大模型还处于快速迭代中，解决好安全和治理问题的关键在于，在发展和风险之间做好平衡，这就好比是高速路上换零件，需要极高的智慧和专业。

更大的挑战还在后面，随着AI大模型真正走进人们的生活，关于人工智能安全和治理的议题还有暴露出更多问题，所有AI相关公司都必须面对这一问题。

从来没有一种技术像AI这样，具有可以匹敌人类的智能，然而这也代表了，一旦AI被滥用，其破坏性也同样值得警惕，AI治理这条路才刚刚开始，阿里已经尝试给出自己的答卷。