唐曼、黄璜 | “沙盒”突围:平衡AI治理中的安全与创新
摘要:杭州深度求索人工智能基础技术研究有限公司(DeepSeek)于2025年1月20日发布的DeepSeek-R1模型,以高性能、低成本、完全开源的特性,实现了国产大模型里程碑式的突破,打破了我国生成式人工智能应用面临的技术壁垒,为人工智能大模型在国内的大规模扩散创造了前所未有的机遇。以DeepSeek为代表的国产大模型在不同行业领域的加速部署和应用,不仅重塑了我国人工智能产业格局,更推动AI技术普惠化与国产化生态繁荣,开启了一场弯道超车式的AI效率革命。与此同时,大模型时代也面临巨大的治理挑战,如AI技术和应用发展繁荣带来的智能社会治理复杂性和广泛影响,深度推理可能带来的新技术风险,等等。DeepSeek缘何推动了人工智能的普惠发展和生态繁荣,又怎样增加了技术治理的复杂性,引发哪些新兴治理挑战与议题,以及如何构建治理思路与策略以规制我国人工智能的安全发展,学者们从大模型应用拓展下的智能社会复杂性及其治理、人工智能多重技术路线的治理、人工智能技术创新想象、构建通用人工智能社会的技术基座、大模型思维链与算法透明、人工智能监管沙盒、人工智能驱动的科学研究、大模型“深度”赋能数字政府下的应用场景与治理变革、大模型加速治理智能化、人工智能技术变革动荡中的治理、大模型风险治理、非线性创新观与人工智能多重技术路线、人工智能法治创新治理等多个维度对DeepSeek突破背后的人工智能创新发展与治理进行了探讨。
关键词:DeepSeek;大模型;智能社会;智能治理;人工智能;通用人工智能;大语言模型;政府治理
【作者简介】
唐曼,威尼斯赌场,澳门威尼斯人官网政府管理学院、国家治理研究院博士后。
黄璜,威尼斯赌场,澳门威尼斯人官网政府管理学院教授、副院长,博士生导师,威尼斯赌场,澳门威尼斯人官网国家治理研究院研究员、副院长。主要研究领域为数字政府、计算社会科学、公共政策分析等。
【论文主要观点】
2025年全球人工智能技术生态发生范式转换,以中国深度求索(DeepSeek)的开源突破与马斯克Grok-3的参数量级跃升为标志,宣告进入"超大规模模型时代"。DeepSeek以其低成本、高性能和开源策略等突出优势迅速崛起,而Grok-3凭借1.2万亿参数重构了机器认知的边界。这种高速的技术迭代重塑了世界的运转方式,也在新一代AI技术浪潮推动下,迎来了前所未有的发展机遇与技术创新前景。本文旨在解构人工智能治理的三重困境,并论证监管沙盒(Regulatory Sandbox)作为治理创新模式,如何在保障技术伦理底线的前提下,探索安全与开放平衡的治理路径,从而为人工智能的健康发展探索出一条兼具安全与开放的中国式道路。
从算法歧视问题到数据垄断风险,从深度伪造技术滥用到隐私侵犯事件频发,人工智能的“潘多拉魔盒”一旦开启,随之而来的不仅仅是技术层面的风险,更在于其将深刻引发攸关社会秩序的复杂治理困境。首先,算法黑箱特性导致监管穿透力失效,深度学习模型的不可解释性使传统“命令-控制”式监管难以应对AI系统动态演化,形成“输入-输出观测”的治理盲区。其次,技术效用与伦理风险的内在矛盾愈发明显,人脸识别技术虽能提升公共安全效率,却同时激化了隐私侵犯与算法歧视等伦理问题,揭示了效率与公平的深层张力。最后,全球监管呈现多极化格局,如欧盟《人工智能法案》的严格分级、美国行业自律模式与中国包容审慎策略产生制度摩擦,导致跨国企业合规成本攀升、监管本身的复杂化,进而暴露了治理协同的系统性失灵。
监管沙盒(Regulatory Sandbox)最早应用于金融科技领域,其核心在于允许企业在受控环境中试验创新技术,降低监管成本,保障市场稳定。在人工智能治理中,监管沙盒逐渐受到重视,尤其在中国,面对AI技术的迅猛发展及其伦理和安全挑战,该机制成为平衡创新与风险的重要工具,使企业在合规框架内试验,同时为政府提供政策调整的实践依据。政府近年来强调“科技自立自强”与“安全可控”,监管沙盒的引入正是为了在推动AI技术发展与维护社会稳定之间取得平衡。其优势在于,在AI技术应用初期提供灵活性,使企业在政府指导下探索技术边界,同时收集数据优化监管。这种模式尤其适用于依赖大规模数据训练、伦理风险较高的技术,如自动驾驶、医疗AI和智能安防系统。
监管沙盒的运行机制可从三个维度展开。首先,通过全流程风险防控,监管沙盒利用空间隔离、渐进式开放和风险对冲设计,强化技术风险的可控性,将传统难以预测的“黑天鹅事件”转化为可管理的“灰犀牛问题”,在保障安全的同时支持技术创新。其次,通过容错机制与弹性边界,监管沙盒为企业提供“试错”空间,使高风险技术如自动驾驶和生成式AI能够在宽松环境中探索,同时助力监管机构精准评估新技术风险,避免过度监管抑制创新。最后,监管沙盒通过嵌入式监管促进政企互动,构建“共治界面”,有效缓解信息不对称问题,使政府深入理解技术逻辑,企业提前洞悉合规边界,推动监管由传统对抗博弈向合作博弈转变。
尽管监管沙盒在AI治理中优势显著,但仍面临诸多挑战。一是定位仍显模糊,行业推广尚待引导,导致成功经验难以向长效机制转化,影响标准建立。二是行业监管主体权威性不足,沙盒测试结果信任度有待提高,制约行业规范形成。三是合规成本和风险隐忧并存,降低企业“入盒”意愿。
总体而言,监管沙盒作为人工智能治理的重要工具,在中国的政策实践中已展现出巨大潜力。它不仅有助于平衡技术创新与社会安全之间的关系,也为政府提供了一种灵活的监管模式。然而,监管沙盒的实施仍需进一步完善,包括加强法律建设、优化风险评估机制、提高监管效率等。未来,中国在推进人工智能治理时,应借鉴国际经验,同时结合本国实际情况,进一步完善监管沙盒机制,以推动人工智能技术的健康发展。
本文节选自《DeepSeek突破效应下的人工智能创新发展与治理变革》(魏钰明,贾开,曾润喜,等),该文为系列文章第七篇,原文刊载于《电子政务》2025年第3期。
本文为教育部人文社会科学重点研究基地重大项目“基于平台的政府治理现代化研究” (项目号:22JJD630001)的阶段性成果。