*本文为《半月谈内部版》2024年第5期内容

　　对话嘉宾

　　朱荣生（清华大学战略与安全研究中心特约专家、元战略智库高级研究员）

　　刘 伟（北京邮电大学人机交互与认知工程实验室主任）

　　半月谈记者：在人工智能发展过程中，您认为最难以把控的变量与最突出的风险是什么？

　　刘伟：最难以把控的变量包括不确定性、数据质量、道德和伦理问题。

　　人工智能系统的复杂性使得其行为难以预测，常常具有不可解释性，尤其当系统面临新的、未曾遇到的情况时。这种不确定性可能导致系统无法做出可靠的决策或产生意外的结果。

　　人工智能系统通常需要大量的数据来进行训练和学习，而数据的质量对系统性能至关重要。如果数据存在偏见、错误或不完整的情况，那么系统的结果和决策可能也会受到影响。

　　人工智能系统的决策可能涉及道德和伦理方面的选择，例如自动驾驶车辆在紧急情况下如何选择撞击的对象。如何确保人工智能系统的决策符合社会价值观成为一个难题。

　　人工智能面临的安全风险较为突出。人工智能系统可能受到黑客攻击，导致数据泄露、系统瘫痪或被滥用。尤其是在关键基础设施、金融系统和医疗等关键领域，安全风险显得尤为突出。

　　因涉嫌侵犯隐私，ChatGPT在意大利下线

　　朱荣生：从全球治理角度看，历史上的颠覆性科技革新在极大地解放社会生产力的同时，也引发了全球发展失衡、财富分配不均、治理机制滞后的社会经济问题。每一轮科技革命带动的全球化往往会把世界经济推向一个深度调整期，不可避免地带来传统产业衰退、大量劳动力失业、社会动荡加剧的经济负面效应，这对全球经济治理体系改革提出了新要求。

　　人工智能等先进技术加速渗透融合到人类经济和军事活动的各个领域，放大了维护国际稳定和非传统安全的挑战。智能化战争初现端倪，人工智能赋能的无人作战军事平台在巴以冲突、纳卡冲突、俄乌冲突中被大量应用。国外政策界对于军用人工智能技术的快速部署、肆意扩散以及不负责任地战场使用，动摇国际战略稳定性的担忧日甚，其中最为急迫的关切是战争形态向智能化方向演进将可能强化首攻优势。

　　从国家间关系的角度看，AI“强者先行”的发展特点也将强化国际竞争压力。尽管每个国家都有维护自身“人工智能主权”利益的需求，但是大国和小国因实力的不均衡面临着不同程度的挑战。大国具有更强的技术储备和抗风险能力，能够在国际技术交流网络中处于核心地位。相比之下，小国恐怕会因缺少足够的资源而越发依赖于大国的技术供给，从而在全球AI生态体系发展中处于边缘位置。这将进一步提高数字地缘政治竞争的烈度，压缩大国之间本已有限的关系缓和空间。

　　半月谈记者：如何在控制风险的同时，让AI成为对人类、对社会进步普惠而有益的工具？

　　刘伟：确保AI系统的决策过程是透明的，并能提供解释，以便人们理解其工作原理，如此一来，可增强人们对AI系统的信任感，并帮助预防潜在的不良影响。同时，需要及时制定明确的伦理准则，确保AI系统的设计和使用符合道德原则和社会价值，包括确保AI系统不歧视、不侵犯隐私和个人权利，并遵守相关法律法规。在源头上确保AI系统所使用的数据具有高质量的特点，并严格保护个人隐私。数据的来源、使用和存储都应符合相关法规，并通过安全措施保护数据不被滥用或泄露。

　　建立有效的监管机制，确保AI系统的开发和使用符合政府制定的规定和标准，加强对AI技术和应用的审查和监督，以避免滥用和不良影响。鼓励公众参与AI技术的发展和决策过程，并确保各利益相关方的利益得到平衡，这可以通过开展公开磋商、征求意见和建立多方合作来实现。建立监测和评估机制，及时发现和解决AI系统可能出现的风险和问题，不断改进和优化AI系统的性能和安全性。

　　朱荣生：从规制人工智能潜在风险的角度出发，各国在维护利益的同时，应推动AI全球治理合作。AI领域的相关治理攸关人类命运，是全球治理面临的严峻课题。国际社会需要重视广大发展中国家在新兴技术浪潮中的脆弱性，技术强国不应一味只顾本国利益而采取“脱钩断链”手段。AI是一项军民两用技术，就其民用领域来说，引导全球AI行业健康发展，实现“人工智能向善”的目标，进而促进AI技术造福于全人类，是世界各国的共同利益。

　　在更为敏感的军事安全方面，AI的军事化应用越发引起国际舆论的关注。据国际媒体报道，AI技术已在新一轮巴以冲突中被运用，造成平民伤亡。从建构人工智能全球安全治理规则的角度出发，国际社会恐怕需要审视美西方提出的“负责任的人工智能”理念是否过于理想，是否应该探索建立某种“有人道的AI”的共同主张，以避免算法定生死酿成的人道主义灾难。总之，要推动实现“AI为了人类”的目标，恐怕不仅仅需要确保每个国家仅基于本国基本安全和发展利益的“主权人工智能”，更需要具有推动构建基于人类命运共同体的“全球人工智能”的意识与行动。

　　半月谈记者：您觉得普通人应如何迎接人工智能时代？

　　刘伟：随着人工智能的发展，某些工作岗位可能会被自动化取代，所以不断学习和提升自己的技能变得尤为重要，AI在大量重复性、机械化的工作中表现出色，但在涉及创造性思维、情感交流和问题解决方面仍有限制，因此，重要的是培养自己的合作能力和创造力，发展与人工智能协作的能力。

　　人工智能的应用需要运用各种科技工具和数据分析技能，人们可以学习如何使用各种科技工具，以及如何进行数据处理和分析，从而更好地与人工智能共同工作。同时，随着人工智能的不断发展，工作环境和需求也会发生变化。因此，普通人需要保持灵活性和适应性，积极适应新的工作方式和技术变革。

　　虽然人工智能在某些方面表现出色，但在涉及情感交流、人文关怀和伦理决策等领域仍有不少局限性，因此，我们可以培养一些情感技能和人文关怀，发展与人工智能进行人性化交互的能力。

　　朱荣生：大家应当理性看待人工智能技术应用对社会发展产生的影响。尽管科技界和产业界对能够睥睨人类智能水平的人工智能最终走入大众视野存在乐观预期，但是当前的人工智能技术还没有表现出引发社会结构颠覆性变化的效果。从ChatGPT到Sora，人工智能所发挥的主要赋能作用是提高用户的工作效率，而没有达到“大量机器取代人类就业”的变革程度。与其对不确定性的未来抱有焦虑情绪，不如理性看待AI的发展及其影响。

　　当然，忽视AI技术失序发展可能产生的风险是不负责任的。如果人工智能技术依然延续当前通过不断叠加算力的“暴力计算”方式来提高能力，并且最终实现超越人类的“智能外溢”，那么放纵人工智能技术无限度发展的潜在风险将会加大。

　　半月谈记者：宋晨 梁姊

　　来源： 半月谈