人工智能治理体系如何平衡包容？中外专家把脉建言******

　　中新网北京12月4日电(记者 孙自法)作为有望引领人类未来变革的一项战略性技术，人工智能(AI)近年来在快速发展并赋能千行百业的同时，也带来安全、隐私、公平等系列问题和挑战，人工智能治理概念应运而生，备受关注。

　　由清华大学主办、联合国开发计划署支持的2021人工智能合作与治理国际论坛12月4日在北京开幕，中国科技部副部长李萌致辞时形象表示，“我们现在正站在智能化社会的门槛上，人工智能这条大船正载着我们向智能化世界驶去，而治理正是随时校正大船航向，确保大船行稳致远”。

　　在随后举行的“如何构建一个平衡包容的人工智能治理体系”主论坛上，中外专家学者线上线下对话，把脉人工智能发展，聚焦治理体系构建。

　　中国国家新一代人工智能治理专业委员会主任、清华大学人工智能国际治理研究院院长薛澜提出，人工智能治理直面数据、算法、算力、场景等四大要素挑战，价值导向上要坚持人工智能技术安全可控的底线思维、维护个人权益尊严与平等的人本思维、人工智能赋能经济社会发展的发展思维和人工智能促进可持续发展的全球思维，遵循“和谐友好、公平公正、包容共享、尊重隐私、安全可控、共同责任、开放协作、敏捷治理”的治理原则，着重从“包容、共享、审慎、负责”价值原则来平衡人工智能治理中的发展和安全需求，形成人工智能治理机制的价值共识，推动实现全球协同治理。

　　关于“审慎”价值原则，薛澜强调，要对人工智能治理给出明确的安全底线，既不能放任不管，任其野蛮生长，也不能出现“一管就死”，避免矫枉过正。

　　世界工程组织联合会主席、中国新一代人工智能发展战略研究院执行院长龚克表示，人工智能是第四次工业革命的代表性技术，人工智能治理旨在促进具有人类价值的人工智能创新发展，以造福人类和地球，因此，人工智能治理应遵循人工智能发展规律，具有开放的多利益相关者共治的结构，应综合运用技术、规则、教育等多种工具，并有效植入到人工智能应用平台之中。他还特别强调，不仅要发展人工智能各式各样的应用技术，还要发展一批保护隐私和公平、加强监管的人工智能治理支撑技术。

　　联合国助理秘书长、联合国开发计划署政策与方案支助局局长徐浩良指出，人工智能不是万能灵药，它的好坏取决于使用人工智能的人及数据基础、治理标准。“我们需要全面地看待人工智能，需要跨越国界、跨行业和跨代际的合作，来制定必要的治理框架”。他说，国际机构和国家间的合作至关重要，联合国教科文组织最近通过有关人工智能伦理的提案，得到许多成员国的支持，这是积极的一步。联合国开发计划署已做好准备，为政府和其他利益攸关方构建人工智能治理框架提供支持，让人工智能成为推动可持续发展的重要力量。

　　“为什么我们需要一种新的、21世纪国际合作方式来治理人工智能？”卡内基理事会资深研究员、人工智能与平等倡议联席主任温德尔·瓦拉赫认为，首先是以数字和生物革命为代表的新兴技术正在重新定义人类的意义，并且重塑世界和未来前景；二是技术速度远远快于道德和法律监督到位的速度，新的人工智能部署的绝对普遍性和速度，颠覆了行业政府、传统机构以及与人们生活息息相关的社会技术结构；三是人工智能和机器学习存在基本控制问题，作为关键系统组建部署时会构成潜在危险。

　　他说，建立一个合作的人工智能国际治理机制，应该是敏捷的、适应性的、预见性的、响应性的、包容性的，“但是我们应该很清楚，如果没有中国和美国的参与，所有人工智能国际治理方案都只能是幻想。如果不大力转向国际合作，我们将无法成功度过未来几十年”。

　　“今天社会不仅仅是外卖小哥被困在算法里，我们每个人都被困在各式各样的算法里。”清华大学智库中心主任、智能社会治理研究院院长苏竣认为，人类即将从工业社会迈向以科技进步和智能技术为基础的智能社会，人工智能技术在颠覆性地重组人类社会的同时，也给人类社会的法律隐私、道德伦理、公共治理带来诸多严峻挑战。

　　他说，技术是中性的，算法是无辜的，在这场人工智能掀起的人类社会巨变中，需要科学的方法研究和应对科技发展带来的种种风险、问题和挑战。“开展人工智能社会实验、探索智能社会治理的中国道路”的倡议自2019年发起以来，经过两年多努力，已在全国有序展开，实现智能技术治理与智能社会治理齐头并举，将为构建有人文温度的智能社会作贡献。

　　加拿大国际治理创新中心总裁罗欣顿·麦德拉指出，人工智能治理体系在数据领域，要有全球所有国家都接受的数据伦理方面的标准，包括如何搜集数据、收集谁的数据、如何储存数据、如何整合数据、如何分析数据、如何加密、如何保证数据安全、如何使用数据等，“在全球层面共同创建普遍性的标准，它需要很多很多的努力，这就是我们这个世纪的治理挑战”。针对现在越来越多的全球价值链当中，因为机器的替代，很多工作机会被失去的问题，他建议由来自不同社会、不同文化或宗教背景的哲学家组建一个全球性委员会，来思考应对和解决之策。

　　清华大学人工智能国际治理研究院副院长梁正表示，当前，中国人工智能发展水平已跻身世界第一梯队，也肩负着参与国际治理规则制定的职责。因此，如何助力全球社会共同构建一个平衡包容的人工智能治理体系，需要进行系统思考，开展国际对话。(完)

聚焦重点领域 系统谋划未来产业发展******

　　作者：鹿文亮、王晓明（中国科学院科技战略咨询研究院）

　　近年来，我国在新能源汽车、人工智能、量子信息、绿色低碳、基因技术等领域取得了一系列重大科技创新成果，培养了一批科技领军人才，孵化了一批科技创新型企业，这些都为我国开辟新赛道、谋划未来产业发展创造了能力和条件。

　　我国“十四五”规划和2035年远景目标纲要提出，前瞻谋划未来产业。在类脑智能、量子信息、基因技术、未来网络、深海空天开发、氢能与储能等前沿科技和产业变革领域，组织实施未来产业孵化与加速计划，谋划布局一批未来产业。国家层面高度重视，多部委提出要布局和发展未来产业。科技部、教育部发文确定了10个未来产业科技园建设试点以及1个建设试点培育。进一步明确未来产业重点领域，推进典型应用场景示范，培育产业创新生态，系统谋划未来产业发展具有重要意义。

　　我国已具备发展未来产业的能力和条件

　　近年来，我国在新能源汽车、人工智能、量子信息、绿色低碳、基因技术等领域取得了一系列重大科技创新成果，培养了一批科技领军人才，孵化了一批科技创新型企业，这些都为我国开辟新赛道、谋划未来产业发展创造了能力和条件，具体表现在以下几个方面：

　　在科技创新方面，我国已经构建了从国家到区域的科技创新体系，不断强化战略科技力量。先后布局了一批大科学装置，为我国在基因技术、未来网络、绿色低碳等未来产业方向的技术突破奠定了基础。国家层面支持有条件的地方建设综合性国家科学中心或区域科技创新中心，使之成为世界科学前沿领域和新兴产业技术创新的高地和创新要素的汇聚地，构建了“国家+区域”的科技创新体系。形成了由国家科研机构、高水平研究型大学、科技领军企业构成的国家战略科技力量，并不断强化战略科技力量的创新能力。

　　在产业发展方面，近十年战略性新兴产业的持续发展在部分领域形成了全球影响力。我国在5G、北斗、高铁、特高压、新能源汽车等领域取得了显著成绩。新能源汽车实现弯道超车，构建了完整的产业链条，产销量连续多年位于全球第一。我国还建成了全球最大的5G网络，中国企业声明的5G标准必要专利占比达到38.2%，并逐步拓展5G在工业、交通、制造等多个行业的融合应用。我国在战略性新兴产业方面取得的成就，为我们开展前沿技术创新及发展未来产业奠定了基础。

　　从发展经验来看，我国初步探索了前沿技术创新的发展模式和路径，积累了培育未来产业的经验。过去十年来，依托区域创新体系建设和战略性新兴产业发展，我国在创新主体和平台建设、科技成果转化等方面，建立了包括人才、知识产权、风险投资等在内的要素和市场体系。在云计算、大数据、人工智能、5G等领域发挥了民营企业和平台公司的创新作用，在高铁、特高压等高端装备领域探索新型举国体制，积累了培育发展未来产业的经验。

　　面向重点领域布局未来产业生态体系

　　未来产业具有依托新技术、引领新需求、创造新动力和扩展新空间的“四新”特征。发展未来产业要充分考虑国家发展战略需求，还要考虑到未来产业的前瞻性和不确定性。为此，要统筹布局，把握未来产业发展方向，在不确定性中寻找确定性，通过推进科技成果转化来实现未来产业落地发展。在特定区域先行先试，通过创新政策、创新场景培育一批“新物种”企业，构建未来产业生态。

　　首先，面向国家发展战略需求，明确我国未来产业重点领域和发展方向。未来产业是由重大前沿技术创新驱动，对我国经济社会具有支撑引领作用，当前处于萌芽或产业化初期的前瞻性新兴产业。未来产业的发展具有不确定性，但从技术发展趋势和未来消费需求升级来看，未来产业的发展又有一定的确定性。以“十四五”规划中未来产业的六大领域为重点，中央经济工作会议进一步明确，加快推进新能源、人工智能、生物制造、绿色低碳、量子计算等前沿技术研发和应用推广。确定优先发展的未来产业方向，进一步组织攻关一批需要重点突破的关键核心技术。

　　其次，加快推进前沿技术的产业化落地，建设一批“未来+”应用场景。将未来产业的创新技术与行业需求进行匹配，探索未来产业技术和产品的重点应用领域。面向“未来+”场景，推进“技术创新—产品研发—场景应用”的融合创新，打造未来城市、未来能源、未来交通、未来制造、未来农业、未来健康等重点场景。发挥场景创新的牵引作用，率先引导一批技术成熟度高、产业化能力强、市场需求旺盛的未来产业前沿技术在应用场景和行业领域产业化落地。

　　最后，遵循产业发展规律，培育未来产业创新生态。遵循从前沿技术创新到产业化应用的发展规律，以原始创新为引领，按照“技术创新—成果转化—示范应用—生态培育”的发展思路，制定一批创新政策和管理规范，攻克一批战略性和引领性的前沿技术，孵化一批未来产业“专精特新”和“新物种”企业，建成一批未来产业示范应用新场景，培育竞争力强、经济效益好、具备一定国际竞争力的未来产业创新生态。

　　为未来产业配置资源要素和发展空间

　　发展未来产业具有战略意义，但由于未来产业成熟度较低，回报周期长，早期应给予引导与支持。一方面是将资金、人才等要素向未来产业技术研发和产业化倾斜，提升产业成熟度；另一方面则是通过模式创新和领域开放，为未来产业提供发展空间。具体可以从以下几方面发力：

　　一是引导科技研发项目向未来产业重点领域倾斜，突破一批关键核心技术。科技政策聚焦自立自强，完善新型举国体制，发挥政府在关键核心技术攻关中的组织作用。面向我国未来产业发展需求，推动相关部门、研发机构和科技企业自上而下地布局科研项目向未来产业重点领域倾斜。针对产业发展的短板环节和可能形成战略长板的领域方向，引导战略科技力量增加研发投入。

　　二是建立未来产业创新激励政策，汇集未来产业资源要素。制定财税、金融、人才等产业政策，并在未来产业先导区先行先试，利用产业政策汇集人才、资金等要素，并探索政策的精准性和效能。政府层面设立未来产业“母基金”，并与市场资金共同设立专项“子基金”进行投资，同时发挥政府引导作用和市场选择作用。发展与安全并举，加强金融监管，推动形成“科技—产业—金融”良性循环发展。

　　三是鼓励模式创新与新兴领域探索，为未来产业提供发展空间。在涉及国家战略的未来产业领域，发挥新型举国体制的技术攻关组织和产业化推动作用。在关系到国家安全的未来产业自主创新领域，发挥政府采购等的作用，为新技术、新产品提供市场空间。