第二期CSA CAISP第四章AI政策与治理篇

北京老李：首批CSA CCSK、CCPTP、DevSecOps、 CBP、ACSE、AI安全CAISP、CDSP讲师，EXIN DevOps Master（大师级）讲师(首批全国十名)、国内首批EXIN Product Owner讲师（首批全国十名）、EXIN授权EXIN Agile Scrum Master讲师、首批ITIL Expert讲师、PMI-ACP讲师中国“黄埔一期”TTT、Lean IT 认证讲师、PMP、Prince2专家级、EXIN云安全管理、EXIN 云服务管理、国内首批APMG 信息安全官（CISO）TTT、ISO27001 LA、ISO20000 LA等多项认证。先后在北京、上海、广州等地主导软件开发、系统集成、咨询服务等工作，主要研究方向云安全管理、敏捷与DevSecOps落地实施.

一：AI政策与法律的发展

随着人工智能技术的快速发展，各国政府纷纷出台相关政策以引导和规范AI技术的研发和应用。这些政策的发展历程可以大致分为以下几个阶段：

1. 初步探索阶段：在这一阶段，各国政府开始意识到AI技术的重要性，并初步探索如何制定相关政策来支持和规范其发展。
2. 快速发展阶段：随着AI技术的不断成熟和应用领域的不断拓展，各国政府加大了对AI技术的投入和支持力度，同时也开始加强对其监管和规范。
3. 完善与深化阶段：目前，各国政府正在不断完善和深化AI政策体系，以更好地应对AI技术带来的挑战和机遇。随着相关法律不断地发布国内外法律也在不断地完善，如下表

国内外法律也在不断地完善

二：人工智能是否具有法律主体资格

　自然人获得法律主体资格的过程，是经济社会关系变迁的反映。在古代家长制和庄园制下，家长和领主拥有较高的权利能力，而家属、奴隶和农民则权利受限，甚至无权利能力。然而，随着交换经济的发展，这些人逐渐在买卖合同中获得了权利能力和行为能力。中世纪都市的兴起和城市工商业的繁荣，使得城市从业者通过劳动力交易成为劳动合同和消费合同的主体。这一过程表明，经济社会关系的演变是推动自然人获得全面法律主体资格的主要动力。

在现代法治原则下，所有自然人都平等地享有民事主体资格，这体现了对人的价值、尊严和主体性的尊重，是伦理性法律原则的重要体现。法律赋予自然人的主体资格，包括权利能力、行为能力、责任能力，以及程序法上的当事人能力和诉讼能力等，旨在维护自然人的人格尊严，体现人的伦理性。

早期的法律制度以国家和个人为中心，团体一般不具备主体资格。然而，随着社会发展，国家和个人在处理生产生活关系时显得力不从心。工业革命后，特别是19世纪至20世纪资本主义经济的蓬勃发展，各种资本团体不断涌现。由于大规模经营事业需要长期持续，而自然人的生命有限，合伙和法人成为主要经营组织形式。法人能够独立享受权利、承担义务，其财产和债务与成员分离。

关于法律为何赋予法人民事主体资格，自18世纪以来一直存在争议，形成了多种学说。但本质上，法人能够担当社会作用、具有社会价值，因此法律类推自然人而赋予其民事主体资格，以满足人类社会生活的需要。

当前的人工智能属于弱人工智能，由人类研发、设计和运营，并未完全脱离人类控制。对于弱人工智能而言，其运行只是现有法律主体控制下的一种操作，是现有法律主体能力的拓展。在法律技术上，将人工智能的运作视为现有法律主体的行为或共同行为，足以解决由此引发的主体资格问题。

对于强人工智能和超人工智能，虽然它们具备与人类相当甚至超越人类的认知和思维能力，但主张赋予其主体资格的观点并不成立。从自然人获得主体资格的历史来看，智力发展状况并非决定性因素。从法人获得主体资格的理由来看，当前人工智能所承担的社会作用和社会价值尚未达到赋予其主体资格的必要程度，且需要借助复杂的法律技术和组织形式才能实现。因此，当前人工智能不具备赋予其主体资格的充分理由。

三：学习人工智能安全的必要性

　　 当前，人工智能正持续引发其全球科技界创造者的复杂情感，既带来希望也伴随着忧虑。它无疑具有显著造福人类的潜力，但同时也伴随着不容忽视的风险与不确定性。研究显示，在经济发展、社会进步及环境可持续发展这三大关键领域，人工智能能积极推动134项具体目标的实现，但也可能对59项具体目标构成阻碍。上海人工智能实验室的首席科学家周伯文通过一张坐标图揭示了一个令人担忧的现象：人工智能的安全技术发展滞后于其性能的提升，目前99%的算力都集中于模型的预训练上，而仅有不到1%的算力被用于价值对齐或优先考虑安全性的考量。包括马斯克在内的多位科技界领袖甚至公开发表了暂停人工智能技术研发的呼吁，期限为6个月。

人们对于人工智能的担忧，首要源于其在某些领域的卓越表现已超越人类。以AlphaZero为例，它从零开始自学国际象棋、将棋和围棋，最终在这三个领域均击败了人类世界冠军。而下棋仅仅是人工智能展现其能力的一小部分，它正在人类引以为傲的思维领域不断拓展边界，挑战极限。

更令人担忧的是，人工智能的智能来源仍是一个未解之谜。深度学习，作为人工智能的核心技术，常被比喻为“黑盒子”。尽管其代码、参数及训练方法是公开的，但人们难以追踪、理解和预测其如何从特定输入产生特定输出。这种不确定性不仅困扰着普通使用者，甚至那些编写人工智能代码的程序员也无法准确预测其行为。这种深层次的不确定性无疑加剧了人们对人工智能未来发展的忧虑。

四：AI法律与AI安全结合

政府需携手社会各界，共同构建并实施一套全面的法律法规体系，专门针对AI技术的发展与应用。加强监管力度，确立有效的监管机制与执法体系至关重要，旨在明确AI技术研发、应用及监督等环节的法律责任与义务，确保AI的每一步发展与应用都在法律允许的范围内。同时，必须建立一套清晰的问责体系，保证AI系统在遇到问题时能被及时追溯并纠正。

在法律法规的基础上，还需制定一套科学合理的AI伦理准则，确保AI技术与社会伦理标准相符。这套伦理规范应广泛覆盖AI技术的多个维度，包括但不限于数据隐私保护、算法公平性、人机关系等。此外，对AI领域从业者进行伦理教育，提升其伦理意识与责任感同样不可或缺。同时，我们鼓励社会各界积极参与到AI的监管中来，携手推动AI技术的伦理健康发展。

技术层面的创新是推动问题解决的关键。因此，必须鼓励和支持科研机构与科技企业加大对AI技术研发的投资，推动AI技术不断取得创新与突破。在技术创新的基础上进行安全实践，AI安全已不是可选的内容，是必选的内容，安全左移，左移安全是必经之路。在此基础上，我们应积极探索AI技术在各领域的适用性，拓宽其应用范围，特别是要大力推动AI技术与实体经济的深度融合，让AI技术成为促进实体经济发展的强大动力。

五：我国AI法律与法规的落地

2023年6月，国务院办公厅印发《国务院2023年度立法工作计划》，明确提出“预备提请全国人大常委会审议人工智能法草案”。

2023年7月14日，国家互联网信息办公室联合国家发展和改革委员会等部门发布《生成式人工智能服务管理暂行办法》，成为我国现阶段促进生成式人工智能健康发展和规范应用的主要法规。紧接着，中国社会科学院法学研究所在2023年8月提出了《人工智能法示范法1.0（专家建议稿）》。但是，全国人大常委会2023年9月发布的今后五年立法规划中却没有提及人工智能法。这种显著的温差表明：自从ChatGPT横空出世，人工智能的飞速迭代使我们迅速滑入人机并存的未知混沌之中，科技和产业的发展与人类社会的安全之间的张力变得空前巨大，不同需求尚未找到适当的平衡点或妥协点，立法机关采取了更慎重的态度。2024年3月，中国政法大学等七所大学的研究者共同发布《人工智能法（学者建议稿）》，试图掀起新一波热潮，促进立法进程。

今年全国“两会”期间，也有多名人大代表呼吁制定人工智能法，对人工智能法律问题作出全面规定。全国人大常委会层面对人工智能相关立法也颇为关注。十四届全国人大常委会立法规划专门提出，“推进科技创新和人工智能健康发展”，近日公布的全国人大常委会2024年度立法计划中，人工智能健康发展立法已被列入预备审议项目。5月9日，国务院办公厅印发《国务院2024年度立法工作计划》（以下简称《国务院立法计划》），多部网络法治相关立法在列，“人工智能法草案”再次列入预备提请全国人大常委会审议项目。

从国内来看，人工智能相关顶层法律层面呈现了“1+3”的模式。“1”是指《民法典》，《民法典》第四编人格权编里，第六章隐私与个人信息保护，确立了人工智能发展的基础。其后《网络安全法》《数据安全法》和《个人信息保护法》“三驾马车”也初步奠定了人工智能发展的基础，但是就人工智能规制来说，针对性仍有差距。而在部门规章领域，如《互联网信息服务的深度合成》、像《算法的推荐》，包括《生成式人工智能管理暂行办法》等，已经开始触碰人工智能的实体。

六：爬楼

第二期CSA CAISP第三章AI安全风险篇

https://www.douban.com/note/866295967/?_i=8714511CUw6hux

第二期CSA CAISP第二章大模型调用与测试

https://www.douban.com/note/866204611/?_i=7138902WXoHO4M

第二期CSA CAISP第一章之如何快速建立AI智能体

https://www.douban.com/note/866167560/?_i=6836103q-5Ro2x

如何一次通过CSA CAISP人工智能安全专家认证课程

https://www.douban.com/note/864752712/?_i=6740677WXoHO4M

CSA发布 | 务实的DevSecOps实施解读（下） 之 DevSecOps五大实践与五大安全指标 https://www.douban.com/note/862284973/?_i=2409526WXoHO4M

https://www.douban.com/note/861386194/?_i=5443937dL9eBCj CSA 云渗透测试（CCPTP）课程：2024年第三期课程及学员感受

DevOps Master凤凰项目沙盘总结：“IT业务一体化”驱动业务价值https://www.douban.com/note/662925305/?_i=2086803-YXOQztDevOps凤凰项目沙盘：2023年业务敏捷演练https://www.douban.com/note/852352418/?_i=1567693jjLd5WR,2086801-YXOQzt

DevOps凤凰项目沙盘：在线沙盘与感悟（Phoenix Project online）：2021年https://www.douban.com/note/819120725/?_i=7534370up8rKES,2086802-YXOQzt

DevSecOps定义编年史：通过DevSecOps定义看DevSecOps发展 https://www.douban.com/note/853429102/?_i=2086721-YXOQzt

咨询基本功系列第一讲：把读到的知识转化为能力三步法及完美学习的四步法 https://book.douban.com/review/8820627/

咨询基本功系列第二讲：显见是心与学会提问 https://book.douban.com/review/8709052/

咨询基本功系列第三讲：显见不动与信念 https://book.douban.com/review/8524974/

咨询基本功系列第四讲：显见不失与学会讲故事 https://book.douban.com/review/8909761/

咨询基本功系列第五讲：显见无杂与沟通的艺术 https://book.douban.com/review/8573156/

咨询基本功系列第六讲：见性惟真与书面沟通七步法 https://book.douban.com/review/8795275/

咨询基本功系列第七讲：见性无碍与故事思维 https://book.douban.com/review/8471462/

咨询基本功系列第八讲：显见不分与沟通圣经 https://book.douban.com/review/8550605/

咨询基本功系列第九讲：见性超情与深度工作 https://book.douban.com/review/8641784/

咨询基本功系列第十讲：见性离见与完美咨询 https://book.douban.com/review/12493989/

咨询的基本套路、IT咨询基本方法内训课程，欢迎大家收看，收听，收获到咨询的基本功：）

如何一次通过系列:

数字化系列课程：如何一次通过CSA CBP区块链课程 https://www.douban.com/note/821392967/

如何一次通过CSA CDSP数据安全管理专家认证 https://www.douban.com/note/812307427/

如何一次通过DevOps Foundation考试 https://www.douban.com/note/759867840/

如何一次通过ITIL4 Foundation考试https://www.douban.com/note/778661405/

如何一次通过DevOps Master考试 https://www.douban.com/note/660291760/

如何一次通过DOMV2考试-即EXIN DevOps Master V2版认证https://www.douban.com/note/852525465/?_i=3532954x9VVG95

如何一次通过PMI-ACP https://www.douban.com/note/720287998/

如何一次通过EXIN Scrum Foundation https://www.douban.com/note/769868855/

如何一次通过EXIN Scrum Master https://www.douban.com/note/722250431/

如何一次通过APMG ISO/IEC20000:2018版 LA https://www.douban.com/note/762608725/

如何一次通过CCSK4.0（网盘下载CCSK4.0，送DevSecOps宣言中文翻译版） https://www.douban.com/note/764185464/如何一次通过EXIN CCC云服务管理专家认证 https://www.douban.com/note/762735674/

敏捷服务管理系列：如何正确理解ITIL4 https://www.douban.com/note/763416570/

敏捷管理课程：业务敏捷的核心是一种组织能力!!!送：业务敏捷报告2020版解析及下载https://www.douban.com/note/794006236/

敏捷服务管理系列：如何正确理解ITIL4 https://www.douban.com/note/763416570/

DevOps沙盘总结系列课程

DevOps凤凰项目沙盘：在线沙盘与感悟（Phoenix Project online）：2021年 https://www.douban.com/note/819120725/?_i=7534370up8rKES

DevOps凤凰项目沙盘：2023年业务敏捷演练 https://www.douban.com/note/852352418/?_i=1567693jjLd5WR

DevOps Master凤凰项目沙盘总结：IT涅槃重生之路 https://www.douban.com/note/681066663/

DevOps Master凤凰项目沙盘总结：“IT业务一体化”驱动业务价值 https://www.douban.com/note/662925305/

DevOps Master凤凰项目沙盘总结：高维度系统化思考 https://www.douban.com/note/703020201/

DevOps Master凤凰项目沙盘总结：履霜坚冰至，转型应自强不息 https://www.douban.com/note/700603657/

DevOps Master凤凰项目沙盘总结：一场精益敏捷探索之行 https://www.douban.com/note/645016138/

https://www.douban.com/note/819120725/ DevOps凤凰项目沙盘：在线沙盘与感悟（Phoenix Project online）：

2021年DevOps Master凤凰项目沙盘总结：通过DevOps实现IT组织转型 https://www.douban.com/note/693053178/

DevOps Master凤凰项目沙盘总结：DevOps黄金三步法 https://www.douban.com/note/694641377/

DevOps Master凤凰项目沙盘总结：DevOps起始质量之独孤九剑 https://www.douban.com/note/689504940/

DevOps Master凤凰项目沙盘总结：一场百玩不厌的质量感悟 https://www.douban.com/note/629890513/

DevOps Master凤凰项目沙盘总结：DevOps的独孤九剑 https://www.douban.com/note/630638887/

DevOps Master凤凰项目沙盘总结：同理心是DevOps成功关键 https://www.douban.com/note/685838159/

DevOps Master凤凰项目沙盘总结：做最有价值的事 https://www.douban.com/note/681074230/

2020年2月EXIN DevOps及敏捷前置要求与学习路径推荐 https://www.douban.com/note/752263618

DevOps Master课程：DevOps Master教练十二条原则 https://www.douban.com/note/718124778/

DevOps Master课程：DevOps Master教练的三个层次 https://www.douban.com/note/719145305/

DevOps Master课程：招聘DevOps工程师必问的12个问题（送DevOps实现的三个路径） 相关主题 https://www.douban.com/note/709308373/ DevOps Master ：

敏捷项目管理ACP中国“黄埔一期” https://www.douban.com/note/728728754/

敏捷项目管理课程：建立持续改进的个人看板 https://www.douban.com/note/745245657/

DevOps Master系列:再论DevOps核心原则CALMS https://www.douban.com/note/731775271/

DevOps Master系列:如何把DevOps与CMMI整合 https://www.douban.com/note/759766513/

https://www.douban.com/note/713613037/ DevOps professional课程：只讲技术之CHEF（1）

https://www.douban.com/note/708968150/ DevOps Master课程总结：知否知否，应是DevOps肥ITIL瘦（送ITIL4前生今世）

https://www.douban.com/note/708218842/ DevOps Master课程总结：学习没有捷径（送DevOps安灯正确方法）

https://www.douban.com/note/694641377/ DevOps Master凤凰项目沙盘总结：DevOps黄金三步法

https://www.douban.com/note/700603657/ DevOps Master凤凰项目沙盘总结：履霜坚冰至，转型应自强不息

https://www.douban.com/note/693053178/ DevOps Master凤凰项目沙盘总结：通过DevOps实现IT组织转型

https://www.douban.com/note/689504940/ DevOps Master凤凰项目沙盘总结：DevOps起始质量之独孤九剑

https://www.douban.com/note/645016138/ DevOps凤凰沙盘：一场精益敏捷探索之行

https://www.douban.com/note/629890513/DevOps凤凰沙盘：一场百玩不厌的质量感悟

https://www.douban.com/note/630638887/DevOps课后总结之DevOps游戏系列-DevOps的独孤九剑

https://www.douban.com/note/637665261/DevOps Master课程:回忆我与DevOps之父Patrick的交流

https://www.douban.com/note/647732431/ DevOps：10本DevOps推荐书及47个DevOps兼容工具

https://www.douban.com/note/647732431/ DevOps：10本DevOps推荐书及47个DevOps兼容工具

https://book.douban.com/review/9110485/ DevOps：转型从正确地认知开始

https://www.douban.com/note/651734552/ DevOps：从I型人才到E型人才

https://www.douban.com/note/651734953/ DevOps：智能服务台是企业不能缺少的基石

https://book.douban.com/review/8928323/ DevOps布道师:终身学习是终身成长的源动力

https://book.douban.com/review/8820627/ 《把读到的知识转化为能力三步法及完美学习的四步法》

https://www.douban.com/note/643862694/ DevOps Master课程:脚踏实地学Pre-Master，一步一个脚印成为DevOps Master

https://book.douban.com/review/8805640/ DevOps布道师为深度工作写的序：深度工作是心身的一种修练方法

https://book.douban.com/review/8795275/ 咨询基本功：咨询顾问基本功之书面沟通及“补充大餐”

https://www.douban.com/note/643251358/ DevOps定义编年史：通过DevOps定义看DevOps发展

https://www.douban.com/note/637838681/ DevOps应用：光大银行DevOps1.0到DevOps2.0研会

https://www.douban.com/note/639093367/ DevOps应用：民生银行IT一体化管理与自动化发展（1）

https://www.douban.com/note/638965340/ DevOps应用：工商银行DevOps进行时

DevOps Master课程：事半功倍的系统化学习 https://www.douban.com/note/717180422/

https://www.douban.com/note/696842302/ DevOps应用：工商银行DevOps进行时（2018年）

https://www.douban.com/note/722820106/ DevOps Master课程：微软 DevOps的成功之路（送中行DevOps三架马车）

https://www.douban.com/note/641427886/ DevOps应用：DevSecOps云下安全与云等保（云博会内容提前曝光）

敏捷项目管理沙盘：一场随需而变的深度体验（1）https://www.douban.com/note/629584594/

站在IT治理Cobit2019角度看DevOps成熟度（COBIT可申请10PDU） https://www.douban.com/note/729309727/

https://www.douban.com/note/646007197/ 敏捷辩论

https://www.douban.com/note/655617439/ 敏捷服务管理：数字化转型核心

https://www.douban.com/note/696148785/ DevOps Master课程总结：IT运维的昨天、今天、明天（IT运维四大“坑”）

DevOps Master：如何一次通过DevOps Master考试 https://www.douban.com/note/660291760/

DevOps Master:课程总结之变更与DevOps集成 https://www.douban.com/note/660466481/

https://www.douban.com/note/830691609/?_i=7188277up8rKES 安全系列：微服务安全是数字化转型必守之城（一）

安全系列：

https://www.douban.com/note/834252216/?_i=7536773up8rKES 安全系列：数据出境安全评估办法与数据安全认证专家（CSA CDSP）

https://www.douban.com/note/830691609/?_i=7537006up8rKES 安全系列：微服务安全是数字化转型必守之城（一）

https://www.douban.com/note/822869736/?_i=7537088up8rKES 云安全系列：CCSK5天课程学习笔记之一为什么要学习云安全管理