《闳议》访谈节目由《中国科学院院刊》与中国互联网新闻中心联合出品，通过采访两院院士及专家学者，深度探讨推进中国式现代化进程中各领域的发展前路。以客观、精准的解读，科学、前瞻的思考，为站在“两个一百年”历史交汇点上的中国发展破题解惑，为迈向第二个百年奋斗目标贡献智慧力量。崇论闳议，寻策问道。

中国网/中国发展门户网讯 人工智能技术经过几十年的发展，正在进入技术创新与颠覆式应用模式频现的爆发期。随着近年来人工智能技术的不断进步，传统的公共安全治理模式如何应对人工智能时代的突发安全事件已经成为不可忽视的问题。如何从技术层面发力，实现对人工智能犯罪的防范和遏制？面对具身智能的发展和未来“人机共存”的远景，需要从技术和规范上作出哪些准备？对此，《闳议》节目组专访了中国科学院计算技术研究所研究员曹娟。

重塑传统的公共安全技术体系

中国网：近年来，以AIGC等人工智能技术进行犯罪的案例广受关注。您认为，人工智能技术对传统的公共安全治理模式造成了哪些重要的挑战？

曹娟：随着人工智能技术的快速发展，人工智能犯罪比例越来越高，主要给传统的公共安全带来了两个方面的挑战。首先，人工智能技术使得传统的违法犯罪成本大大降低了。比如说电信诈骗，原来需要专业的人去写诈骗的剧本、去打诈骗电话，但是现在很多都可以用大模型来替代了。所以我们需要对原来传统的公共安全治理技术进行快速升级。另一方面，新技术也催生了很多新的违法犯罪的行为。比如说无人驾驶里的安全问题，具身智能的安全问题等等。这就需要我们去重塑传统的公共安全技术体系。

具体来说，生成式人工智能的技术会给传统的公共安全体系带来三个层面的风险。第一个也是最重要的就是国家安全的风险。比如说利用生成式人工智能技术去生成虚假伪造的信息、去操控舆论，这是目前全世界各个国家最头疼的一个问题；第二个就是行业安全问题，比如说利用生成式人工智能在金融领域进行身份的伪造，在学术领域进行学术造假，这种问题会对行业的健康发展带来风险；第三个就是个人安全问题，比如说利用生成式人工智能技术进行电信诈骗、侵犯隐私等等。这些会给未来人工智能时代每个公民带来困扰。

中国网：从您的研究角度出发，您认为从哪些技术层面发力，可以实现对人工智能犯罪的防范和遏制？

曹娟：新型的人工智能犯罪都是因为新技术带来的。新的犯罪问题一定是要用技术去攻克它，所以用AI治理AI肯定是非常有效的一条途径。

具体来说，以虚假伪造检测为例，技术上存在四个特别大的挑战。第一个就是生成式人工智能发展特别快。我们怎么去做到每一个新出现的大模型生成的内容都能检测？要具有很强的泛化能力，需要快速去优化，有一个非常强的伪造检测的专用底座模型。有了这个模型以后，我们三天左右就可以优化到90%多。所以这个伪造检测的底座模型的建设是未来提升泛化能力的一个最核心的技术。

第二个就是强对抗性，去诈骗的人肯定不想让你发现他，所以他会加上很多的手段来对抗。比如说会把诈骗的图像、诈骗的视频压缩得很小，模模糊糊，这就使得伪造检测很难；比如会加上一些对抗样本的诱导，使得检测出错等等。所以如何在这种高风险、强对抗的犯罪场景下进行伪造检测就变得非常难，我们需要研发这种高精度的伪造检测技术。

第三个是生成式人工智能的技术，本身是特别好的新质生产力的代表，所以大家都鼓励用这个生成技术。（但是）要怎么去在大量的无害生成内容里面找到恶意的伪造内容，这是一个很大的挑战。因为在技术层面都是用的一样的技术，都是用的生成技术，但是一个是大量的无害的生成，一个是恶意的伪造。不要影响正常的正向应用，保证兼顾发展又兼顾安全，是我们需要解决的。

第四个是随着人工智能技术的普惠，人工智能的犯罪可能也会普及化，很多普通人都会因为不懂技术或者（缺乏）法律意识，自己不小心就成为了一个犯罪者。这时候需要我们每个人手上都有武器，要给大家研发普通人都有、都能用的鉴伪工具，让他们在遇到问题的时候有工具可查，有能力去验证，这样就可以大大降低犯罪的比例。

三建议应对人工智能技术带来的安全风险

中国网：如何应对人工智能技术给公共安全体系带来的风险？

曹娟：为了应对人工智能技术给公共安全体系带来的这些风险，有以下三个方面的建议。

第一个是这些技术算法本身内生的安全评估一定要做好，比如说自动驾驶这个算法评估安全了才能上路，大模型技术评估做完了，做好了安全对齐才能去上线。要保证我们使用的技术是有一定程度的安全门槛的。

第二个是基于这些人工智能技术生产出来的产品，在不同的应用场景下与人交互的时候，使用不当，滥用（技术）可能会带来很多的安全风险。比如大数据杀熟，利用算法压榨快递员等，这个时候需要我们去制定不同行业的标准使用规则去规避这些风险。

第三个是未来我们会进入一个人和机器人共存的时代。随着机器人参与到我们社会生活和社会生产的过程中，会引出一系列的安全问题、伦理问题和社会问题。我们需要提前布局，提前谋划去应对未来可能的风险。比如说在执法的过程中，到底机器人是以什么身份参与这个行为的，它和人之间的关系是什么？需要定义清楚，我们才能划分责任的主体。还有比如说随着机器人参与到我们的社会活动中，它可能会给社会结构带来冲击和变化，我们人需要积极的心态去正视这个问题，去更积极地面对这个新技术带来的新的社会问题。

积极地去拥抱新技术，然后运用新技术让我们的生活越来越美好。

（本期策划：杨柳春、王振红；编审：杨柳春、王振红、王虔；编辑：王虔、武一男。出品：《中国科学院院刊》、中国互联网新闻中心）