AI是否可以让我们躺平？数字技术能否带来数字文明？

5 人类还被需要吗？人机关系应该是怎样的？

主持人：从另一个层面去考虑：我们可不可以躺平了？现在比较流行的两个关键词：无人，自主。机器越来越自主了，接下来我们人类越来越不被需要了。过去我们的手不需要了——大吊车代替了我们的手；接下来腿也少需要、不需要了，因为有了代步工具——汽车、飞机等；我们整个的器官都被替代了；接下来有了大模型以后，我们的思想甚至也被替代了——现在很多文秘工作可以用大模型来做了。那么在这个时代，我们人还被需要吗？这有点灵魂质问了。在新的数字文明时代，人机关系应该是怎样的？

吴国盛（清华科学史）：未来人还有人的用处。这是维纳（1894-1964，美国）的一句问题，是非常好的问题。数字文明是信息驱动的（注：过去的文明有物质驱动的，有能量驱动的），信息驱动的本质是计算/ 信息处理，而计算的背后是控制，这很重要，意味着现代科学、数字化的目标是为了控制自然。不过，现在的数字技术不仅是控制自然，还控制社会，这就引发了一个非常深刻的问题：数字技术本质上是一种权力重新洗牌的技术。在洗牌过程中，公平、正义、善的问题就出现了。

过去就存在这个问题，例如有刀、铁剑的民族，相比没有的民族，力量会逆转。蒸汽动力也是一样，它把工人沦为非常可怜的角色。现在的数字时代，是不是所有人被卷入了？例如是否会用一个软件有很大的差别（例如在疫情期间，有些老人不会用智能手机的打车软件，叫出租车都很麻烦），这是非常现实的一个问题。

数字技术的智能化特征是控制论特征。因为智能很大一部分是控制。智能特征进一步把人的问题又提出来了：什么是人？过去说人有智能。那么现在机器也有智能，是不是机器也是人？实际上，计算机产业过分放大了人的智能部分。人有知、情、意三部分，除了有智能之外，人还有脾气、审美等。例如有人认为游戏是一种非功利行为，所以游戏这件事情很有意思，现在有游戏产业，游戏能成为产业，不仅是里面的智能行为，更多的是里面的审美行为、娱乐行为。所以从这个意义上看，吴国盛老师（清华科学史）并不像很多人那么悲观，觉得机器出来以后就怎么着了，因为知情意里的情和意的部分，现在机器恐怕是没法做到的。

主持人：AI正在走向知、情、意的全面合一。

吴国盛（清华科学史）：知情意里的情和意的知化，即希望通过知的方式把情和意给消解掉。你说你有脾气吗？其实你也没什么脾气，无非就是你体内某些元素的发作，用元素替代一下，你就没脾气了。这实际上还是一种唯知论的传统，而且这是比较危险的一种行为。

所以我们还是要在数字文明时代弘扬更人性化。何谓更人性化？就是非知部分的意义和重要性。这部分我们始终要记住。因为如果没有这部分，就不知道智能产业将向哪个方向发展，因为产业的发展首先要合乎人性本身的需要。

人性有什么需要？单凭大数据能不能做得到？局部是可以的，但是否能完全分析出来，还很难预判。

吴飞（浙大AI）：补充两个方面。这是一个辩证的问题。不可否认，AI 现在已经极大地提升了人类生产、生活和学习的能力和效率。但是AI还有很多无法解决的问题，例如因为AI 的无能所引发的伦理问题，还有隐私泄漏、大数据杀熟等危害。这些不是AI 故意在作恶，而是AI 技术水平现在还无法满足伦理和道德要求。所以发明一个机器或AI 系统出来，并不是想要人类来奴役人类，而是让人类的生产生活效率更高效。这是从正面来看AI。

同时，AI 确实也造成了一些困扰，我们也不能对这些熟视无睹。所以我们又必须要制定相应的法律法规和道德制度，约束AI 可能产生的不良后果。

所以并不是我们需要去躺平。此次CNCC大会上，赵春江院士谈了在用机器摘果子[2]，尽管如此，人类还是有很多行为是AI 机器无法模拟的，人类绝对不能躺平。人有人的作用，我们应该发挥主动力，来把AI 改善和提高得更好，以更好地推动我们人类社会的进步。

6 从社会治理角度，人类应该发挥哪些作用？

主持人：从社会治理的角度来看，我们人应该发挥哪些作用？

翟志勇（北航法学）：刚才主持人提出了一个问题，就是谁的数字文明？从两个层面来回答。

●   第一个层面应该是我们的共识：这一定是人的数字文明。例如10 月28 日上午论坛第一位讲者——斯坦福大学终身名誉教授James Landay讲的以人为核心的AI向善。

所以从这个意义上看，主持人担心人会躺平。如果说躺平仅仅是指我们可以不去做那些重复、无意义的劳动，躺平也很好，人们都欢迎这种躺平。

但是主持人可能更关心的是另外的问题，就是人会不会被机器所取代、异化，人会不会丧失自主性、认知能力？这确实是我们所要关心的第一个层面：如何在数字文明发展过程中，始终能够坚守人的自主性、以人为中心的地位。

●   另一个层面去回答谁的数字文明，会涉及刚才段伟文老师（社科院哲学）提到的问题：谁来去定义这样一个文明？谁来给它设定标准？谁来评价它？这里会存在一个问题，像主持人提到的，我们更多的是从伦理、法律的角度去关注，可能更多的是去讲：数字文明首先应该是弱者、弱势地位人的文明。

提到科技向善、科技不作恶，弱势群体可能遭受数字文明带来的损害更大。例如机器人摘苹果会导致大量人失业，而失业的大部分人可能是处于社会底层的，他们无法成为技术的受益者。现在大模型的出现造成的不是体力劳动者的失业，而是一些脑力劳动者的失业。为此，一些国家和地区的政府、当局采取了干预措施，例如印尼、马来西亚、印度等国禁止直播带货，原因之一是担心破坏大量小企业主/ 小商户的经营，由此导致大量失业。因为买家都去直播带货那里去买了，利润变成了主播、直播带货公司的利润，小企业主/ 小商户等经营者怎么办？社会必须要为底层人士提供最基本的生活保障和就业权利。

当然，如果从消费者角度看，我们可能欢迎直播带货，它给我们带来了更好的商品展示，可能以更低的物价、更方便地进行购物，有更好的购物体验。但从政策制定、学者研究的角度来看，它可能会导致大量人的失业，或者大量人因此遭受到无法掌控的损害。

所以从这个意义上看，在第二个层面中去关注“谁的数字文明”，应该成为弱者的数字文明，弱者能够从中受益，不会遭受不可控的侵害，这更为重要。

段伟文（社科院哲学）：人和计算机/AI 的差别，就是AI负责计算，人类负责判断和决策。现在的问题是AI的计算能力越来越强大，反过来对人的判断力和决策力提出了更高的要求，这可能是人类在数字文明时代面临的重大挑战。

主持人：这可能为人类提出了更高的要求。但是我们人可能还是倾向于懒惰的生活。康德（1724—1804，德国）曾经在启蒙运动思想里有句重要的话：如果有个领袖来替我去思考，我是不是自己还会去思考问题？他那时还没有预测到现在的机器时代，套用这句话就是：如果有一个机器替我思考……这个话题扯得太远了。刚刚翟志勇老师（北航法学）提到了谁的数字文明的时候，是从社会结构上来讲，希望最终技术应该是能够赋能社会底层，但目前的情况恰恰有可能带来的是“强者越强，弱者越弱”的大失业。

在CNCC2023大会上，来自北大的经济学家张维迎教授做了一个报告，讲到企业家精神和数字经济，按照张老师的观点，数字经济本身应该是资源自由竞争的，因为它有不确定性。翟志勇老师（北航法学）也反对垄断。

但是另一方面，从数字经济、整个平台经济的发展来看，实际上它带来一个很大的问题：数字垄断由一部分人掌握了，例如一些大平台越来越多地渗透到生活的各个方面，收集了大量的数据，然后因为今天所有的AI（科学、农业等）都是要靠数字来喂的，大模型也要靠数字，带来了数字牵引。这样一来，这是不是就有点悖论：一方面我们要自由竞争；但另一方面还是需要政策、法律的干预，而不能完全自由。是不是这个意思？

翟志勇（北航法学）：数字文明应该是弱者的数字文明，但这并不是反对强者或者反对技术，而是技术或数字文明的发展应该是在保障弱者基本权益的基础之上去展开竞争和发展的。一方面伦理学家、法学家或公共政策制定者提出一系列的要求、指标；另一方面，技术专家通过技术可以实现这些目标。可能这里缺少二者联通的管道，法律上叫正当程序。实际上是以最终的一个程序去保证最终的结果。在技术领域中探讨这个问题也是这样，应该有一个公平的程序来实现技术的正当程序。在这个过程中，使得伦理学者、公共政策的制定者、技术专家、企业等能够在这样一个公平的程序里去展开讨论，并且制定出有效的技术标准、公共政策的标准等，而不是任何一方给予对方一个必须要接受的东西。所以要有正当程序这样一个管道，使得所有的相关利益方都能参与进去。

7 小结

吴飞（浙大AI）：信息技术和AI 的发展是人类从农耕时代、工业文明时代累积起来的文明，这必然会成为马克思所言的普遍智能，为我们每个人所用，这也是数字文明追求的目标之一。

段伟文（社科院哲学）：数字文明延续了计算机控制论，是把人类和机器当成一个行为者的的思路。换句话，数字文明时代最重要的一点是出现了计算机作为社会的行动者，作为一个第三者，就好像出租车司机和乘客之间有导航一样，所以我们将来要面对这种AI 体，它跟人类怎样相处？它会不会成为我们的导师、偶像或精神上的权威？这里有太多需要思考的地方。

翟志勇（北航法学）：ChatGPT 横空出世之后，美国国会对安全等一系列问题非常关注，所以ChatGPT之父——OpenAI 的CEO山姆·阿尔特曼(Sam Altman)也去国会作证，他作为大模型技术领先者，呼吁政府对大模型进行监管。不仅是美国国会，他呼吁全世界都要对它进行监管。由此想到，数字文明可能更需要技术开发者、技术企业来参与到伦理、标准、法律公共政策的制定中，这样才能从公共政策的角度制定出更适合技术发展、技术向善、不做恶的法律与公共政策。因此希望技术人员能够加入到这个领域里，而不仅仅是社科人员走到技术人员的领域里。

古天龙（暨大可信AI）：希望技术融入人文社科来进行社会治理，即法律、伦理、道德、技术多管齐下，呼吁重视技术治理维度。希望加强数字技术治理，提升全民素质素养，促进数字文明建设。

吴国盛（清华科学史）：技术不是中性的，数字技术也不是中性的。任何一项技术的大规模深入发展，必然带来文明新形态的产生。在今天数字技术正在方兴未艾地发展，我们提前提出数字文明的概念，以此来规范数字技术的发展，使之朝着有利于人类福祉、健康和幸福生活的方向发展这一概念，是特别值得称道的。

主持人：CNCC 大会主要是讨论数字技术的，参与者可能更多地盯在器物层面。但是大会主席在确定这个题目的时候，站到了更高的层面，来从整个人类发展的历史和文明形态的变更上来去考虑这样的问题。数字技术不等于数字文明，建设数字文明，不仅需要技术，还需要相应的所有上层建筑的一起参与。

参考文献：

[1] 王莹.如何做好工业IT和OT的融合.EEPW,2023(12):20-27.

[2] 迎九.院士观察:我国智慧农业的现状与展望. EEPW,2024(1-2):56-59.

（本文来源于《EEPW》2024.3）