彭富春：为人工智能划出3条红线

“

在人工智能的时代里，

世界形成了

欲望、技术和大道的新的游戏。

”

湖北大学人文社会科学

资深教授彭富春

近日接受长江日报《读+》周刊专访，

针对人工智能时代可能出现的危机，

用“欲技道”理论进行了回应。

彭富春。

“欲技道”构成运动规律

什么是“欲技道”？

欲望驱使人们发明、使用并创新技术；

技术的进步也会刺激和强化人的欲望；

大道或曰智慧和真理，给欲望和技术划分边界，使之不能误入歧途；

欲望和技术也以自身日新月异的力量推动大道的更新，使旧的智慧转换成新的智慧。

如此这般，欲望、技术和大道三者就构成了一场无限的游戏活动，这便是彭富春提出的“欲技道”理论。而在人工智能时代，“欲技道”仍然在循环运作。

“人工智能是当代人类创造的最具冒险性的技术。它虽然是一个器物，但却是一个有智能的器物，是一种神器。”彭富春表示，“人工智能不断模仿人类，它不仅类人类，而且超人类。其冒险性在于不断越过人与世界存在的边界。这就需要大道的指引，给欲望和技术划分边界。人工智能必须保护人、物和机器自身，实现人、机、物的共生。在人工智能的时代里，世界形成了欲望、技术和大道的新的游戏。”

人类的欲望把人工智能当作满足自身的手段，只是考虑如何占有和消费人工智能所制造的所欲物；而人工智能作为技术，自身只是中性的，本无所谓善恶，也无法自身实现惩恶扬善。此时就需要大道，需要真理和智慧，它知道什么样的欲望可以实现，什么样的欲望不可以实现；什么样的技术可以使用，什么样的技术不可以使用。智慧为人工智能划界，让这个最冒险的技术避免危险，而转为机遇。

彭富春的著作《漫游者说》。

脑机接口会形成“怪物”吗

彭富春认为，人的基本欲望就是食欲和性欲，在此基础上，人发展了一些非基本的欲望，如物质性、社会性和精神性的欲望等。

人工智能也是作为手段来满足人类生存的基本欲望。它有的和人的身体直接相关，如陪伴性机器人、医疗机器人等；有的和人的心灵相关，如ChatGPT和Sora视频生成等；有的间接相关于人的身体和其他欲望，如人工智能赋能工业、农业、医疗和教育等，它们的产品能更加合理地满足人的欲望。这些都体现了人工智能的卓越之处。

但人工智能也是人的一种特别的欲望，亦即解放身心达到自由的最高需求的欲望。这种梦想早已表达在巫术和神话之中。人工智能就是要将这一梦想变成现实。

人不仅创造了一个有智能的自己，而且创造了一个有智能的物。人工智能让人实现了用语言创造世界，它激发和满足了人们长久以来不可实现的欲望，如长生不老、死而复活等。在历史上，人们只能通过巫术和神话来实现这些欲望，但现在的人工智能却能实现它们了，虽然只是以一种数字的或者虚拟的形态。

人工智能在不断地接近人类的智能，不断模拟人类的思考行为，越来越类似真正的人类智能。它能挑战人类智能。因此，它是一个冒险的技术。

彭富春忧虑的不仅是人工智能模仿和超越人类，更担心人工智能与生命结合，“这是一条更加冒险的道路。人工智能除了和人结合之外，也可能广泛地与高等动物结合，形成人工智能化的动物。现在的脑机接口技术已经拉开了人工智能生命化的序幕，这将诞生一个新型的人工智能生命体”。

“天人共生”是未来

如何防范危机、化危为机？彭富春主张“天人共生”，他认为这是人工智能时代的中国新智慧。

传统中国智慧占主导地位的是“天人合一”。新的中国智慧应该是“天人共生”，新的智慧来源于天人的约定，是天人共同参与制订的。天和地既不是支配人的天道的载体，也不是被人控制和改造的对象，而是人类的伴侣和朋友。人既不是天地的奴隶，也不是天地的主人，而是天地的伴侣和朋友。他们是天地人游戏中的同戏者，天人不仅共同制订此游戏规则，而且共同遵守此游戏规则。在此游戏中，天人共生，生生不息。

彭富春主张：“天人共生”应用到人工智能时代，包括如下内涵——

第一条红线是不能伤害人，而要保护人。这就需要人类对于人工智能进行训练，让它和人类的价值观对齐，分辨善恶。而且人与机器的界限不可混淆，要明确标明人工智能所制造的虚拟的人物、场景和事件，不可冒充是真实的。同时，仿真人形机器人，特别是具有明显性别特性的机器人的操纵也要确定其规范。

此外，脑机接口的运用不能让外力借助芯片对于人脑进行恶意的控制。人工智能要保证解放人的身体和心灵，让人的身体和心灵获得真正的自由。

人工智能的第二条红线是不能伤害物。要禁止培养出半人半兽的怪物。人们不能把人工智能赋能的动物只当成现代高科技控制的肉类生产者，也要让它具有动物性地活着。人工智能赋能的农业生产让其增产丰收，但也要保证它合乎其天性地生长。人工智能赋能大地资源的发现、开发和加工，但也不能把地球变成一个单一的矿山，而要注意其生态建设，让其成为人类可持续居住的美好家园。

第三条红线是不能伤害机器自身。人工智能自身暗箱的运行就可能出现内部涌现的故障，从而输出劣质和恶意的产品。同时外部的侵入或者会破坏机器的正常运行，或者会恶意控制它。这种对于机器的伤害会导致机器进一步对人和物进行伤害。因此人工智能应该自带保护自身的设置。同时，人也要加强对于机器的保护。

人工智能时代的新的智慧强调人机物三者共生。它们彼此互不伤害，相互保护，共生共荣，共同建设一个美好的世界。这就是在人工智能时代里的欲望、技术和大道的游戏。

长江日报出品

采写：记者李煦

编辑：叶凤

校对：熊琳琳

【来源：长江日报】

免责声明：本文来自网络收录或投稿，观点仅代表作者本人，不代表芒果财经赞同其观点或证实其描述，版权归原作者所有。转载请注明出处：https://www.mgcj.net/1104903.html
温馨提示：投资有风险，入市须谨慎。本资讯不作为投资理财建议。