6月29日下午，中国社科院哲学所科技哲学研究室主任段伟文研究员应邀做客我校科技人文讲堂，作题为“生成式人工智能时代：如何从知识自动化的边疆战略转移？”的报告。本次报告由科技哲学系王高峰副教授主持。
生成式人工智能：空间、数据、隐喻
报告之初，段伟文研究员提出作为一种全新的知识引擎，基于大型语言模型的生成式人工智能正在将知识、智能和思想智能机械化和产业化推向全新的高度。
在空间维度上，人类历经了物理空间、数字空间和生成空间的转换。在数据维度上，数据超越形式化的语言，实际上成为对现实世界的一种记录，本质上具有技术性和社会性。在隐喻维度上，透过对聊天章鱼、随机鹦鹉等针对大型语言模型的智能本质及其危险的批评再辨析，以及长期风险、人机对齐及其开发者主动要求监督等超级智能与生成风险叙事的质疑，段伟文研究员认为生成式人工智能正在导致知识自动化这一新的技术社会系统革命。
大型语言模型带来的相变
在讲座过程中，段伟文研究员重点提到了大型语言模型带来的相变。一方面，语言使人类智能联结成巨大网络。换句话说，语言是思维的联网，是智能的社会性的假肢。当科学家考虑人工智能时，他们主要想到的是建模或重建单个人脑的能力。但现代人类的智力远远超出了个体大脑的智力。我们的机器可以从作为人类知识储备的写作中获益匪浅。因此，模型的词义和世界知识往往非常不完整，迫切需要其他感官数据和知识来增强。另一方面，大型语言模型类似于煤炭、石油、电力等能源，具有足够的革命性，实际上是会改变人类产生和运用语言的方式。
在此基础上，我们需要思考大型语言模型产生的问题，如存在人工智能会成为一种反人类技术系统吗？我们会陷入机器家长主义吗？大型语言模型是否会产生新的社会形态和生命秩序？段伟文研究员提出两点思考，一是数据驱动社会。“看不见的自动化的手”通过追溯机制和反馈机制将世界举起。在这个社会中，现实的任何表现都受制于旨在避免流程中断并不断追求利润的算法。二是新生命秩序的出现。数字化作为新的自然秩序的执行机制，时时刻刻提供被认为最适用的个人和集体生存模式，而且其作用在不知不觉中流畅地发生，给人一种新的自然秩序的感觉。
此外，生成式与对话式人工智能引发了人和语言的双重嬗变，存在自动更正技术与内容净化对注意力和自由意志的干预，智能行为和表达矫正技术的伦理悖论，以及数字控制技术中的权力配置等变化。
思考：如何应对生成式AI淘金热的挑战
报告最后，段伟文研究员提出“如何看待人类智能的价值，超越图灵陷阱？”这一问题。生成式人工智能正在导致知识自动化这一新的技术社会系统革命，不仅令人工智能的人文主义焦虑陷入绝境，而且使社会对生成式人工智能带来的就业和教育冲击波的吸收能力正变得比以往任何时候都更为脆弱。如何在观念和行动上从知识自动化的边疆有序地转移和再转移，何以拒绝向机器智能妥协并寻求新的有价值的知识工作，成为人工智能时代人类走向可持续繁荣的首要文明战略。
提问与交流：
报告结束后，段伟文研究员与在场师生进行交流讨论环节。多位师生就语义学、设计哲学、网络社交伦理以及人工智能哲学等问题进行了深入交流。以下为具体内容：
问题1：关于生成式人工智能逻辑和隐喻的关系是怎样的，如何看待生成式人工智能带来的逻辑、思维和知识的固化？
回答1：深层次的AI语言可能涉及到两方面情况。一方面是陈述事实；另外一方面是创造性组合语言。我们谈到人工智能的未来的时候需要考虑数字思维。对于知识和教育，将会越来越多地强调评判能力或者判断能力的重要性。就像我们讲的人类学的第一法则，它是偏离中心的，所谓偏离中心就是说它始终分解为两个“我”，一个是第一人称的我，一个是第三人称的我，我们就越来越需要一个第三人，站在我之外来看我和技术之间的这种关系，并且作出评判。
问题2：如何看待技术与设计的关系，怎样寻找研究的切入点？
回答2：建议一是阅读设计哲学的相关书籍，二是从实践中思考。
问题3：怎么将伦理与网络交往研究结合以及应如何进行伦理规约？
回答3：当前，我们生活在新的数据空间里面，生活形式是逐渐形成的，可以从规则和冲突性事件进行研究反思，系统性进行伦理规约梳理。
问题4：您在讲座中分享的随机鹦鹉的危险案例提到的不可能训练数据中的内容与自动更正技术、内容进化是否存在矛盾？还是两者有不同的指向？
回答4：前者指的是大型语言模型的数据库，无法进行编码，因此存在数据偏见问题；后者指的是语言生成之后，对人类的行为具有指导意义，能更正人类的行为方式与语言表达。
（科技哲学系 李珮）
