问：近年来人工智能发展迅猛。您能给我们讲几个人工智能发展最新阶段的应用实例吗？

薛澜：人工智能技术的发展的确非常快，欧博官网而且已经也有很多的应用。举个例子，在医疗应用方面，用人工智能辅助来看片子。我们往往去拍各种片子，看看是不是有癌症的可能。在看片子这方面，现在很多人工智能系统其实比我们专业的医生更厉害。前段时间有一篇论文就讲，在看乳腺癌的时候，进行大规模筛查，人工智能系统找到了好几个被医生漏掉的病例。

还有语音系统，科大讯飞的语音系统，可以在各种语音之间进行翻译。比如说，我现在去旅行，我不会说英文，我说中文，然后语音系统就把我的中文翻译成英文，跟对方能进行交流。

所以很多这种人类之间的活动，只要涉及到信息处理，人工智能系统可以提供大量的帮助。

薛澜：前面几次工业革命，一个最大的好处就是大量地节省了人的体力劳动，效率大大提高，使得我们今天有这种天翻地覆的变化。但脑力劳动——处理知识这一类的经济社会活动，总地来讲还是比较难以被替代。

那么现在，人工智能恰恰就在这个方面能给我们提供很大的帮助。而且它比我们人还快，比我们还厉害。比如下国际象棋，人工智能把我们人类的世界冠军都下败。

我们开会，原来我们开会要做会议纪要，很麻烦，现在人工智能系统很快就帮你把它总结出来了。另外就是法官的助手帮助法官，要处理大量的法律文件，要查很多相关的法典，然后去进行案例分析等等，这些工作也大量地完全可以被人工智能系统来替代。像产品设计、语言编程，这些都可以用人工智能系统。

薛澜：中国在人工智能方面的发展的确非常快，应用里也比较广泛。

中国是制造业大国，所以在生产制造过程中，可以大量地应用人工智能来提高生产效率。比说，三一重工，他们整个生产过程利用了人工智能技术以后，生产效率大大提高，而且生产周期大大缩短。

类似这样的应用有很多，像矿山的生产，在矿山生产当中应用人工智能系统可以大大地提高生产效率，另外也会更加安全。它能够通过人工智能系统来发现很多的风险点，事先去解决。

另外还包括视频，我们进出的高铁站，有时候可能它刷一下脸就能够让你过去。背后也是要用人工智能系统。包括我们现在很多银行系统，你在办理银行业务，就要替你刷刷脸，眨眨眼，看看是不是你本人。这个背后其实也人工智能技术。

联合国新闻/Anton Uspensky

薛澜：人工智能的风险，我觉得可以大概分成几大类。

首先一大类就是对我们整个人类社会的危险。如果人工智能系统的能力不断地提高，不断地加强，那么到了所谓通用人工智能出现之后，它会不会有一天就不再受我们人类系统的控制，它可能反过来要控制人类，这就是人类生存的风险。

我觉得这类风险离我们目前还是比较远，但是也有很多人专家开始认为，ChatGPT出来以后，我们离这个风险往前迈了一大步。所以这是我们必须开始关注的。

薛澜：现在我们的人工智能系统还是只是针对某一类任务，像看片子的人工智能。而通用人工智能能够有广泛的应用，相当于跟我们人类的智能就更加接近。现在我们有单项冠军，通用人工智能是全能冠军。这样的话，它就可能会有很多新的我们想象不到的能力或者现象的出现。

薛澜：第二类风险就是怎么样来防范人工智能可能会对我们人类带来大规模的伤害。这种伤害可能是人工智能被武器化，欧博娱乐把它用在军事冲突当中，可能会给交战冲突的双方带来很大的威胁或者伤害。这可能是主权国家之间的，但更可怕的是可能被我们社会中的一些极端组织或者个人用来对社会造成重大伤害，也是值得高度关注的。

第三类风险就是在我们的应用当中，可能对我们的社会、个人带来各种各样的危害，但是不是那么致命的危害。这种危害有很多，可能是种族歧视，可能是由于人工智能的应用带来的收入分配的极端化。还包括数据的泄露，隐私的泄露等等。这一类风险也是我们必须高度关注的。

薛澜：数据泄露可能带来的风险，首先，如果个人的财务信息泄漏以后，可能会有不法分子利用这些信息来窃取个人财务，这种事情现在非常多。

在另外一类情况下，由于他掌握了你的个人信息，甚至你的面部特征，他就有可能去制造一些虚假信息，可能破坏您的声誉，或者利用您的身份，去欺骗他人。

香港曾经出过一件事情，就是开一个视频会。这个犯罪分子伪造了一个视频会，受害者是唯一真正去参加这个会的人。那么其他参会的人，都是不法分子伪造的，就是通过窃取他同事的视频信息来伪造的参会者。所以跟他线上讨论了以后，受害者转了很大一笔数额的钱给这个犯罪分子。这事当时非常令人震惊，确实背后就是因为他窃取了大量的个人信息，包括数字信息，包括视频。

薛澜：刚才我们讲的这三大类风险，我们在发展过程中必须得去高度关注。

2017年中国就发布了新一代人工智能发展规划，我们一方面提出我们要大力发展人工智能的应用。另外一方面，我们要建立与人工智能应用相适应的治理治理体系。在这个发展过程中，我们是两个轮子一起转：一方面是发展，另外一方面治理，欧博allbet逐渐摸索形成了一套有中国特色的人工智能治理体系。

薛澜： 2019年，中国人工智能治理专家委员会提出了八项人工智能的治理准则，我们叫负责任的人工智能的治理准则，就是最基本的要遵循的原则。

在这个基础之上，其实我们还有一套相关的法律体系，这些法律体系涉及到跟人工智能技术应用相关的一些基础性法律。这一点我要说明一下，这些法律不是人工智能的法律，是跟人工智能开发应用相关的基础性的法律。特别是个人信息保护法，其实就不仅仅适用于人工智能。2019年到2002年、2003年有一系列的法律出台，提供了一个基本的法律保障。

另外，我们针对各方面的应用，我们有各种各样的法规和政策来确保人工智能应用是安全可靠的。像ChatGPT出来以后，中国也有大语言模型出来以后，我们也出台了一个规制体系，来保证它的应用是安全合规的，它有一个注册体系。

另外还有很多，像大家知道的，有一篇报道说快递小哥困在算法中，因为算法给快递小哥送食品送达的时间特别紧，这样可能会导致快递小哥不顾交通安全，要赶在这个时间点之前送到。这其实对快递小哥的生命安全是有风险的。后来我们专门出台了跟算法相关的一些法则，要求算法能够更加合理地保证快递小哥的安全。

类似这样的，我们针对各种应用场景，出台了一系列相关的法律法规来确保它的安全可靠的应用。

薛澜：实现人工智能的规制，它始终是面临一系列的治理困境，其中最核心的一条，就是技术的发展是远比规制的发展要快。任何一个规制体系，不管是法律、法规，还是政策，它的出台要经过一个比较详细的分析、论证过程。有利有弊，我怎么样去保证利大于弊，保证规制能够合理又有效。但是你在论证的过程中，技术高速发展，可能你原来要规制的那个技术在规制体系出台以后，早已经不复存在了，一个新的技术已经迭代出来。所以就是步调不一致，这个问题始终存在。

也正因为如此，我们特别提出来敏捷治理，治理的方式、思路要有重大的转变，对我们原来传统的治理模式肯定要进行重大的调整。原来我们要等所有的论证、流程完全走完了以后，我们才能出台，现在就是一旦看到有什么问题，能够及时地采取一定的措施去推进。技术在迭代，我们的规制也在不断迭代。

薛澜：刚才已经提到了人工智能技术发展和治理体系的发展步调不一致。技术走得很快，治理体系往往是滞后的。

第二点，人工智能治理涉及的各种主体是方方面面的。全世界跟人工智能治理相关的各种组织、各种治理机制，也都非常多，而且这些机制之间没有一个统一的关系，并不是说主权国家一定要完全听命于联合国，也并不是说所有的企业都一定要听命于国家政府。这样的话就形成我们叫机制复合体的一个特点，就是各种机制都存在，每个人都跟治理有一定的关系，但它们之间有很多重叠矛盾的地方。那你怎么去解决这些矛盾？这是人工智能治理面临的第二个大的问题。

第三个大的问题，就是说我刚才讲的有很多风险防范，其实有一个高度不对称的问题，就是说，如果做恶者他想去运用这个技术，给你造成一些危害，他的成本很低，但是你要想去防范他搞破坏，那你可能要花出巨大的成本。

当然最后就是地缘政治使得中美两国这种人工智能发展最前沿的两个大国不能够再有效地合作。所以这使得对人工智能的治理，比以往任何时候、比任何其他技术，面临的挑战更大。

薛澜：这个问题很关键，因为实际上人工智能的治理，包括它的伦理原则等等，国家，包括地方政府，提出相关的规则、法律、法规，都还是从外部来规制相关主体的行为，这个主体包括技术的开发者，包括技术的应用者，但是真正要能够去降低这些风险，能够去保证安全有效地使用的话，必须得是开源技术开发者和使用者发自内心的从组织内部有这种冲动，有这种愿望。这就是企业的自我规制。这实际上应该是我们整个规制体系非常重要的组成部分。

现在很多的企业已经在内部建立了伦理委员会，当然这些都是比较大的头部企业。他们内部在生产过程中，就每一个环节去探讨，过段时间对产品进行对相关的合规审查。

但是怎么能够成为整个行业共同遵守的标准，在这方面的还需要去进一步努力。因为应该说这个行业从业的公司是非常多的，仅仅有几家公司这样做是远远不够的。而且这几家公司的话，可能也会有些企业是表面现象，只是把这个体系建立起来，并不真正地发挥作用。所以怎么样能够去真正深入实质地发挥作用，就需要全行业共同的努力，当然也需要政府和社会外部的压力。

Public Domain

薛澜：国家在 个人隐私 保护 这方面， 其实 有 非常 严格 的 规定，法律法规 应该 说 最近 这些 年 出台 的 还 不少。 如果得到 执行， 应该对 我们 的 数据 能够 有 足够 的 保护。 但是实际 的 落实和执行还有 比较 大 的 差距，有些领域差距可能还不小。这就需要全社会继续努力。

另外， 这些 技术 也 在 不断 地 发展， 技术 的 应用也都 会 有 更 多 新 的 产生 数据 的 方式， 可能 是你原来 想象 不到。因此，我们 的 法律、 法规 的 空白点， 也 需要 及时 地 、不断 地 去 更新。 

薛澜：互联网其实应该说就是国际合作的一个非常好的例子。尽管各个国家在各方面有很大的差别，不管是国家的治理体系，还是文化风俗习惯，都有差别，但是我们全球的互联网还是仍然能够保证它的正常运行和数据的流通。所以人工智能的治理，其实还是可以从中学到很多东西。

首先，有些全球人类共同面临的风险需要我们全球共同来防范、治理。联合国在这里发挥着重要的作用。秘书长邀请了很多专家，组成了专家委员会，对人工智能的全球治理提出建议，包括要采取一系列的措施。

另外第二层就是关于怎么样防止人工智能的军事应用呢？这就需要相关的主权国家，也是在联合国这样的国际平台上进行讨论、谈判，最后达成相关的协议。在这里面，联合国可以发挥很大的作用。

当然我们涉及到很多技术在具体领域的应用，就是第三类的风险的防范。我们刚才讲，不同国家存在治理体系、文化、宗教各方面的差别，对具体哪些东西可以传播应用、哪些不能传播应用，有各自的差别，各个国家会制定自己的法律法规来管理。这里面就涉及到这些系统要在不同国家之间可能去应用，各个国家之间的数据交流，或者是所谓系统的互操作。这种接口，这种流动，需要有相应的法律法规，配合国际上的合约技术标准，来保证它能够正常运行。

我想这样的一个体系能够保证今后全球共同来享受人工智能给人类社会带来的便利。

薛澜：在研究领域，中美两国的合作是非常密切的。

在2017、2018年美国对中国采取各种打压措施之前，中美两国人工智能领域的合作可能是全球最活跃的合作，中美两国联合发表论文，联合发表专利，而且数量非常多。当然，最近这些年由于这种美国政府的打压，这种合作确实受到了很大的影响，合作论文、人工智能专利，在下降。

但尽管是在这样的情况下，中美两国在很多方面还是有共同的利益。首先，刚才我讲的第一类风险——人工智能系统变得不可控的时候，它就不是针对中国，不是针对美国，而是针对整个人类社会，怎样防范这种风险，中美有共同利益。

第二类风险就是人工智能武器化，这会让中美两国最后都有巨大的风险，也需要去进行沟通、交流、谈判。

所以在这方面，其实大家也看到中美有一轨对话，今天（2024年9月20日）早些时候在日内瓦，进行了第一轮，我们相信后面会有更多的交流对话。另外，二轨对话也在正常推进。当然还有很多其他的国际平台，像英国的安全峰会。所以在这些方面中美都是有合作的机会的。

但我觉得这还不够。这只是一些被动的风险的防范，但实际上，中美在怎么样推动人工智能更好的应用、解决我们人类社会发展面临的问题方面，潜力也是巨大的。未来峰会就涉及到我们人类社会未来发展面临的巨大挑战，包括2015年提出的可持续发展目标。

所以，如果中美能够携手去看看这些技术怎么样能够去解决气候变化这种人类共同面临的风险，怎么样去解决公共卫生问题，去避免像新冠病毒的全球流行等等，那对中美两国社会，对全世界，我想都是一个巨大的福音。

以上是清华大学苏世民书院院长薛澜在2024年9月未来峰会期间接受联合国新闻的采访。感谢收听，下次节目再会。