再不系统研究“人-AI关系”，可能就晚了

再不系统研究“人-AI关系”，可能就晚了

“AI人文学的序章”之十

生命，“造物者”在地球上最精妙的作品。每一个物种，都那么“恰到好处”地被DNA雕刻成我们看到的样子，又如此“浑然天成”地嵌入到它所在的生存环境之中。此间，包含着“造化”之中太多难以理解的奥妙！

正是这种“超越人类认知的完美”，往往会引人入胜、令人“想入非非”。“AI的社会性”将导致“人-AI关系”新命题涌现

比如，少年时期，笔者曾有个奇怪的想法：人类作为血肉之躯的生命形态（当时还没有“碳基生命”这个词），实在太脆弱，比如，不吃饭会饿，不睡觉会困，离开大气层会窒息，进入宇宙会被射线“击碎”、被热浪灼亡、被低温冻僵……所以，会不会冥冥中注定要经由人类之手，“接力创造”出另一种适应星际环境的能力更强的生命形态呢？而这种新的生命形态，它自身并不能通过“自然进化”而成。

现在回想起来，这个“另一种生命形态”，会不会就是最近我们常说的“硅基生命”呢？

当然，既然设想它是一种“高级生命”的范畴，那么“硅基生命”肯定就不是简单的“硅基智能实体”，除了自我繁衍或自我复制能力，至少还应该具备“意识”与“情感”吧

——要实现这两点，目前能想到的路径无非两条：一是AI的“意识涌现”，也就是碳基的机器本身出现了“顿悟”；二是演化出“碳基+硅基”混合生命形态，比如，人的感觉神经、意识和情感能“寓形于”碳基的AI实体，从而实现地球人类向“星际生命”的演变。

说远了！在此之前，我们以及我们的后代们，在可以预见的未来，必将先目睹、经历并试图解决许多更现实、更紧迫的问题。比如，AI警察的执法权问题；又如，AI伴侣导致的成瘾问题；再如，AI创作的版权与侵权问题；还有，算法歧视、AI宠物遗弃、智力增强不公、数字生命（意识永生）两难……

科技的发展也需要面对许多现实问题 / AI制图（诺言）

人类，怎样才能游刃于“善用技术”与“防范未然”之间？

这些，就是我从2025年春开始琢磨“AI人文学”这一全新概念、并陆续在媒体撰写课题文章的初衷。陈平原教授半年前出版了《AI时代的文学教育》，并提出“AI时代的人文学”概念，陈老的探索和主张极富启示意义。在不久前南风窗杂志社主办的“社会价值年度盛典”上，我也就此议题就教于陈老并与他进行了交流。在我看来，“AI人文学”，既应是“筑基、生长于AI时代的”人文学，更应是“与AI技术和AI思维深度交叉、融合的”人文学。

那么，“AI人文学”，是什么？要关注什么、研究什么、解决什么？

如果用一句话先“简单粗暴”地概括，我想，“AI人文学”就是一系列研究“人-AI关系”的文理交叉学科。

图源：unsplash

按照AI技术目前加速发展的态势，其实不难预测，在我们很多人的有生之年应该就能看到这样的场景——AI（操作系统+实体）广泛而深度嵌入我们的生命旅程：家中、单位、医院、学校、出行、社交；AI管家、AI同事、AI医生、AI老师、AI伴侣、AI警察……于是，“朝九晚五”的时时刻刻、“生老病死”的方方面面，我们都将与AI为邻、为伴。

这就必然导致“AI的社会性”现象。进而，关于“人-AI关系”的各种全新命题在短期内便可能大量涌现。比如，当AI医生与人类医生会诊和联合治疗后出现事故，如何界定医疗责任主体？当自动驾驶汽车面临“电车难题”时，算法该如何处理伦理选择？当AI伴侣催生类似人类之间的情感依赖时，是否需要赋予其“数字人格权”……

因此，再不系统研究“人与AI关系”，可能就晚了！在“AI的社会性”命题正以肉眼可见的奔涌之势扑面而来之时，我们对于“人-AI关系”的思考和研究，应该具有更强的想象力、预见性、超前性、系统性和针对性。

这也正是“AI人文学”需要关注、研究和试图解决的一系列命题。

AI人文学的两个维度：“反思”与“赋能”

因此，更具体而言，AI人文学应该是这样一门交叉学科——它聚焦认知科学、社会科学等与人工智能的交叉研究，探索符合人类共同价值的人工智能发展路径。一方面，它运用人文主义的理论、方法和批判性视角，系统地研究人工智能的本质、发展、应用及其对社会、文化、伦理和人类生存条件的深刻影响，为全世界通用人工智能发展提供哲学与方法论指引；另一方面，它也探索利用人工智能技术作为新工具和新方法，来拓展、深化乃至重构传统人文研究的边界与范式。

换言之，这样一门学科的核心价值，体现于“反思”与“赋能”两个维度：反思，即用人文的“尺子”丈量AI，对其进行价值审视和方法论引导；赋能，即用AI的“锤子”锻造人文新工具，开辟新的研究视域和研究方法。

国务院几个月前正式印发了《关于深入实施“人工智能+”行动的意见》，“加快实施重点行动”中第三条就是“创新哲学社会科学研究方法”。意见明确提出：推动哲学社会科学研究方法向人机协同模式转变，探索建立适应人工智能时代的新型哲学社会科学研究组织形式，拓展研究视野和观察视域。深入研究人工智能对人类认知判断、伦理规范等方面的深层次影响和作用机理，探索形成智能向善理论体系……

去年9月，《上海合作组织成员国元首理事会天津宣言》呼吁，“将坚持以人为本、智能向善理念，共同防范人工智能技术的风险”。

3月11日，广东省深圳市华强北的一家商铺里，店员为外国顾客介绍有AI（人工智能）功能的商品 / 新华社发（彭志刚 摄）

国家的战略布局也好，上合组织联合宣言也罢，均具有很强的针对性、预见性、指导性和启示性。这也进一步印证：AI人文学研究，必然要求进入这个领域的探索者，不仅要做“AI语境下文本”的研究者、创作者，更要成为AI技术的批判者、阐释者，甚至成为规则、路径、伦理的观察者与设计者。

具体而言，它至少应包括以下研究维度——

政治考量。比如，有鉴于互联网兴起初期，美国在根域名等领域形成压倒式长期霸权的不公现象，今天我们很有必要建立一套具有共识的全球AI治理机制，明确“数字主权”，防范技术垄断引发新型AI霸权。

技术伦理。比如，应加速推进“人机价值对齐”的哲学实践，在AI技术设计的底层逻辑中嵌入人类文明的核心价值。有意识、有计划地增加哲学、伦理、法律等人文领域专家在技术框架设计、伦理审核环节的话语权重。

法律红线。比如，AI系统对海量个人数据的收集、存储与分析，使得个人隐私面临前所未有的威胁。必须通过严格的法律法规，明确数据收集的合法边界、使用目的限制以及安全存储要求，对违规收集、滥用数据的行为设定严厉的处罚标准。

3月11日在浙江省湖州市吴兴区飞英街道拍摄的开源AI智能体“龙虾”手机端页面 / 新华社发（伊凡摄）

制度设计。比如，在我国现有的人工智能制度框架基础上，如何针对人工智能生命周期中的技术研发、数据训练、算法部署、服务运营等各主体、各环节，探索建立更加合理的责任分担机制，还需加快步伐。又如，在协调机制上，要打造跨领域知识融合平台，建立“技术-人文”的双向反馈通道，实现技术理性与人文关切的动态平衡。

治理框架。比如，随着“智能原生”概念首次在国务院文件中出现，未来这一概念将驱动人工智能产业从“使用AI”走向“由AI构建”——以AI为系统设计的底层逻辑与能力中枢，驱动从技术架构、业务流程、组织角色到价值创造方式的全方位重塑。人工智能的原生性、交互的原生性、甚至进化的原生性，即将带来的绝不仅仅是技术能力的跃迁，更将导致认知范式和治理理念的巨大变革。在这一进程中，应尽快构建包括政府、企业、科研机构、民间组织等多方参与的AI治理体系，明确各方的责权利边界，探索共治善治的科学路径。

未来学研究。最新的《国家空间科学中长期发展规划（2024—2050年）》中，明确了我国有望取得突破的5大科学主题和17个优先发展方向，其中“太阳系外行星宜居性探索”和“地外生命探寻”两条，直接引爆了人们的好奇心。我想，国家层面的严肃科学规划都这么“脑洞大开”，我们还有什么理由跟不上国家的想象力呢？咱们国家都在研究“星际社会学”了，“AI的社会性”问题当然应该更早、更多受到关注。显然，因此，在AI科技的探索上，我们应该思维再发散一些、目光要更超前一些。既要仰望，也要俯瞰；既要眺望，也要回望。要大胆假设、小心求证，要跳出AI看AI——这样，才能不断用好奇心驱动探索精神，用人文学思维融汇硬核科技。显然，这些，绝对不只是自然科学家们的工作，社会科学家们在其中也有着不可替代的角色和作用……

2025年9月24日，观众在浙江杭州云栖小镇举行的2025云栖大会上了解AI应用技术 / 新华社记者黄宗治 摄

我还记得，2000年春夏之交，在北京的一座没有电梯的小楼里，自己作为一名初出茅庐的IT行业记者，在百度公司朴实无华的会客室长桌前独自专访创业者李彦宏、徐勇时的场景。当李彦宏耐心而细致地向我解释百度的搜索引擎工作原理，以及它与其他搜索引擎的区别时，我真切地感受到这家籍籍无名的初创互联网小公司的炽热梦想。

还记得那天采访结束时，与两位年轻的创始人告别时的寒暄中，我说：“百度这个名字取得真好，应该是从‘众里寻他千百度’里得出的创意吧？很有诗意，未来应该能深入人心。”李彦宏听后很高兴，露出了高山流水遇知音般的笑容。他郑重地补充了一句：我们一定会努力成为最好用、最友好的搜索引擎！

此次采访之后，因工作转型的原因，我与百度的初创者们不再有交集。几年后，这家小公司开始了“起飞”之旅；又过了十年，这家公司因为“魏则西事件”一度遭遇严重品牌危机；再过了十年，这家公司已经在人工智能的赛道上完成了自己的布局。除了有时使用它的产品，我也会关注涉及它的重大新闻。我想说的是，百度正是这样一个例证——它的成长过程中，起到主要作用的，固然是技术、资本等显性变量；然而，诗性美学（公司取名）、社会责任（魏则西事件）、想象力和预见性（布局AI）等等这些人文要素的水准，又何尝不是与它的成长起伏息息相关呢？

而这，恰恰印证了前面我们提到的AI人文学对于产业的“反思”与“赋能”这两项使命。

2024年9月9日，在百度智能云千帆大模型（无锡）创新中心，工作人员演示操作视觉追踪机械臂 /  新华社记者杨磊 摄

前段时间，华为领军人任正非说过一句话也让我记忆犹新，他说：人工智能也许是人类社会“最后一次技术革命”。

作为前沿科技的领军人，任老此言自然有着丰富而微妙的含义。我稍稍延伸一下——所谓“最后一次”，可能包含两层意思：一是，如果我们能抓住并善用人工智能技术，它会是“终极技术”（Ultimate Technology），人类一定程度上可以实现科技形态和研究路径的一劳永逸；二是，如果我们滥用了人工智能技术甚至出现“AI失控”现象，它可能就是“终结技术”（Doomsday Technology），带来人类不可承受之重与痛！

那么，如何“善用”？本质上就是要解决“人-AI关系”这一核心问题。

因此，我们既需要“技术精进”的工匠精神，更要坚守“以人为本”的价值底线——当AI能够模拟人类情感时，我们更要守护真实情感的不可替代性；当AI可以预测人类行为时，我们尤须捍卫自由意志的尊严；当AI成为基础设施时，我们更应警惕技术异化的风险。

3月3日，在西班牙巴塞罗那会展中心，智元机器人展示一款四足机器人 / 新华社记者程敏 摄

也许，这就是“AI人文学”破题的价值所在吧。

坦白地说，这一组专栏文章（作为广州市宣传思想文化领军人才项目课题成果）的思考和写作过程中，自己对于AI科技，始终处于一种既冷静、又兴奋，既期待、又不安的心态。这种不安，既源于自己作为一名人文学者对于硬核科技问题的不求甚解和知识恐慌，亦来自作为人类一员对AI技术不可预知走向的深切思虑与急切建言。