人工智能技术异化及其本质探源
文/闫坤如
人工智能（A I)技术的广泛应用在促进社会进步的同 时，负面效应凸显。例如，机器人应用导致失业现象、网络应用导致网瘾现象，AI应用导致贫富差距现象、AI算法 导致歧视现象、大数据的应用导致隐私泄露、人类精神生 活退化现象，等等，这些都是随着AI技术的应用带来的社 会问题。A[的应用本来是为了造福人类、解放人类，帮助 人类获得自由的，却导致人类依赖机器，受机器控制，产 生异化现象。 马克思的劳动异化理论
“异化”一词来源于拉丁语alienatio，原意是让渡、疏远、脱离等。最早在神学中使用，用来表示信徒疏远上 帝。后来逐渐应用到政治学领域和社会学领域。马克思在 批判和吸收黑格尔的异化思想、费尔巴哈的人本主义异化 理论的基础上建立起劳动异化理论。马克思吸收和超越了 黑格尔的“异化”与劳动之间的辩证关系，他结合资本主 义大生产，揭示出异化的本质是劳动异化，从而形成了劳 动异化思想。
马克思认为，异化是人类在发展过程中创造的物质的 或精神的东西，它成为异己的存在力量，并反过来控制、奴役人类自身。在马克思看来，异化包含两层含义：一是 劳动异化必须从主体出发产生客体，二
高粱红素
是客体与主体相对 立并成为异己的统治主体的力量。马克思主要从劳动产品 (劳动结果）与劳动者相异化、生产活动（劳动过程）与劳动者相异化、劳动者与他的类本质相异化以及人与人相 异化四个方面阐释了他的劳动异化理论。下面我们就从上 述四个方面来分析马克思劳动异化理论的具体表现。
马克思劳动异化理论的第一个部分——劳动结果同劳 动者相异化指的是物的异化，马克思异化理论的后三个部 分指的是人的异化。在马克思劳动异化理论中，不管是劳 动结果、劳动过程还是人的类本质异化都是人的“自我异 化”，马克思劳动异化理论由人的自我异化和人与人的异 化两个层面构成。马克思把劳动异化的根源归为私有制和 机器化大生产，生产资料资本家占有，劳动者失去生产资 料，机器化大生产的生产方式导致了劳动异化的出现。人 类创造出机器本来是为了使人的生产和生活变得更美好，但机器却成为了“它者”，成为了异己的力量，人类被机 器控制，受机器约束。在步入AI时代的今天，A垠术让机 器取代人的劳动成为可能，如果模拟出人类智能，机器甚 至将取代人的主体性地位。如果这些可能变为现实，那么 人类将失去自由意志，失去幸福，AI的“利维坦”将使人 类生活变成“敌托邦”。
AI技术异化——马克思异化理论的新呈现方式
AI是继蒸汽机发明、电气技术、网络技术应用之后的 第四次工业革命。蒸汽机技术的应用实现了物质的自由移 动，电气技术的应用实现了能量的自由转换，网络技术的 应用实现了信息的自由传递，AI技
术的发展与前三次工业 革命具有同样的颠覆性作用，它的应用促进了社会进步和 人类发展，但也带来一些意想不到的后果：越来越远离人 类的控制，也就是AI技术的异化。
1.AI算法与算法设计者的分离
AI算法是AI算法设计者的劳动产品，然而在现实 中，由于研发设计A1算法的生产资料即资本并不掌握在算 法设计者的手中，AI算法设计者不占有AI算法，算法设汁 者也没有随意修改或支配算法的权利，算法设计者能够拥 有的只有算法的部分使用权。算法设计者创造了 AI算法，但是算法的所有权、支配权、使用权都不属于算法设计 者。AI算法与算法设计者相疏离。算法设计者设计的算法 越完美，AI产品就越智能，在生活中的应用就越广泛，就 越背离它的创造者，并成为设计者的敌对力量。
2.AI机器加深了人的自我异化危机
随着AI机器被广泛地应用到人类生活的各种场景中，人的技能对生产的影响越来越小，相较于传统的机器生 产，AI机器加深了劳动异化的广度和深度。
首先是机器取代人的危机。AI机器因其技术优势（决 策速度快、准确率高、不受环境影响等）正在人类的生产 和生活中被广泛应用。工业机器人因其高效、自动化、智 能化的特点正在取代生产线上从事简单重复性劳动的工 人，便捷、快速的移动支付正在取代银行雇员，医疗机器 人正在取代医生的诊断和工作，家政机器人已经登堂 入室取代家政人员的工作，无人机正在取代从事危险、
5
热点专题I技术异化与伦理研究
繁重以及琐碎的低智能工作的“蜘蛛人”、分拣工，等 等。劳动作为人的最基本的能力和权利，却面临着被机 器剥夺的危险。人类正在逐步丧失部分劳动能力和劳动 机会。
其次是机器控制人的危机。AI技术控制人的现象巳悄 然出现。各种智能手机和智能APP犹如“技术多巴胺”控 制了部分网民的生活，AI技术像一样让人类痴迷，深 陷其中不能自拔，“技术成瘾”正在控制部分人的行为、情绪、心理、社交等。AI控制人的精神世界，让人沉溺、上瘾，大量侵占人的休闲时间，使人的精神在泛娱乐化、泛消费主义化的大众文化中日益被物化和匮乏化，人类的 精神的自由丰富性被消解,，
安全绳网AI机器加深了人的自我异化危机.无论是AI取代人 的劳动还是控制人的心理和行为，都使人处在一种受支配 的和不自由的生产关系中，在这种生产关系中，劳动是被 动的、外在的，不属于劳动者自己，并反过来控制人类自 身的力量。
3.AI机器加深人的主体性危机
A1技术发展正在潜移默化地改变着人的认知方式、思 维方式和生活方式，以及人类的自由劳动，人类
对自然界 的改造、人类精神世界的拓展以及人类能力的提升的无限 可能性正在被AI技术消解和取代，面临着主体被异化的危 机。人的类本质同人相异化，智能时代的人的类本质同人 的异化主要表现在以下三个方面：
首先，AI技术导致人的精神危机。随着AI技术对于 人类生活和生产的全面介入导致人的精神异化。人们获取 信息咨洵的主要渠道是通过AI算法，基于大数据的A1算法 可以提供个性化服务，一方面能够高效便捷地帮助人筛选 出最优信息，满足其个性化需要的偏好。另一方面个性化 算法也容易使“信息苗房（Information Cocoons) ”效应 扩大，信息茧房使人囿于封闭窄化的信息环境中，加深人 思想认知的片面化和单一化，使人的主体性丧失，人的自 由意志被物化，人成为单向度的人。
其次，AI机器导致人的能力危机。AI机器超强汁算 能力、数据处理能力、逻辑分析能力和完美的记忆能力 等，在节省了使用者的时间，提升劳动者效率的同时，又 极大助长了劳动者的惰性.将本来属于人的能力转移给了 机器，人只需简单的操作就能获取想要的结果，机器替代 人做判断、分析和决策，机器取代人类成为理性判断和分 析决策的主体.人类的学习、记忆、分析、归纳、思辨等 能力逐渐被机器做取代。
再次，AI算法剥夺了人类尊严。人脸识别、步态识别 技术能够快速地捕捉识别人位置和信息，使人无处藏身；医疗数据、人类基因编码让人的身体信息赤裸裸地展示，人类正穿着“皇帝的新装”集体裸奔，
AI可以跟据人的大脑波动图来分析和解读人的想法和行为，人最引以为傲的 理性思维能力在机器面前一览无遗，人的尊严自由在智能 机器面前丧失殆尽。
4.A1机器加深人的交往危机
过滤网篮在A1环境下人与人的关系也发生了异化，人的交往逐 渐彼置于智能机器的控制下，人成为透明人：
首先，交往危机表现在交往的透明性AI算法使得每 个个体成为透明人，人类交往也变得透明，无隐私可言。家庭住址、旅游地点、收入以及其他个人的隐私等在A1时 代不是隐私，AI时代的交往根据不同的利益关系形成不同 的小团体，形成“网络巴尔干（Cyber-balkanization) ”维护本体利益，过滤和抵制非本体利益，有可能导致 AI时代的体极化行为。
其次，交往危机表现在交往的虚拟性A1机器还正 在使人丧失“现实性”。传统意义上集中在一起的、有机 的、统一性的劳动模式被消解，离索居的“宅”生活、工作模式可能性得以彰M劳动者成为了机器控制下的孤 立个体。
miad530再次，交往危机表现在交往的疏离性。网络的便捷性 使人的工作时间无限地挤压人的自由支配时间，网络全面 地支配和控制人的自由时间，使人陷入社交恐惧之中，加 深了人与人间的疏离。
AI技术异化的本质分析
1.数据主义盛行
AI的基础是数据、算法和算力数据主义者认为全人类是单一的数据处理系统，一切皆数据，《未来简史》的作者尤瓦尔•赫拉利（Y.N.Harari )认为“数据主义”盛行导致“人文主义”的崩塌，数据已经渗透到人类的生 产、生活的方方面面.大数据已经撼动了世界的方方面 面，从商业科技到医疗、政府、教育、经济、人文以及社 会的其他各个领域。万物皆数据，数据经过分析和挖掘成 为推动社会发展特别是经济发展的新动力，整个社会的生 产方式、经营方式、治理方式、思维方式等发生根本性改 变。首先，生产数据化.基于大数据驱动的个性化算法系 统被广泛地应用到了经济生活的各个领域，改变了企业传 统的生产、销售模式。数据分析挖掘系统能使企业从繁杂 的数据资源中洞察到消费者的真实需求.帮助企业进行有 效的质量管理提升、服务改进和精准化菅销，以促进消 费，提升盈利空间。大数据d经成为企业提升自身竞争力 的核心要素，“数字化经济”正在对经济进行模式转型。大数据在提升政府政策决策的科学性、执行的透明性、实 施的有效性方面发挥了优势作用，对完善政府权力监督，实现政府信息共享和透明提供了极大助力“数字化治
6社会科学文摘|_S〇OAI
技术异化与伦理研究丨热点专题
理”正在成为政府和社会的共识。其次，社会数据化，数 字化技术的发展，整个社会正在成为以数据
为支撑和链接 的共同体。数据化社会使智能算法系统在更广泛的领域发 挥重要的作用，数据挖掘、数据洞察经由智能算法渗入到 社会生活的各个场景中。数据成为可以不断创造财富的资 源.甚至成为控制社会的权力，数据搜集者通过互联网技 术等收集、积累并占有大量的数据，形成数据垄断.用数 据来获取最大化的商业价值和利润。大数据不但创造了经 济财富，还可以通过个性化推送干扰到国家选举，大数据 是人们获得新的认知、创造新的价值的源泉；大数据还是 改变市场、组织机构，以及政府与公众关系的方法。不但 如此.大数据的发展改变了人类的认知.之前人类通过揭 示自然界的因果关系来寻宇宙奥秘，现在人类通过大数 据相关来到事物间的关联。数据主义以其前所未有的优 势在改变着人类关系、人与自然的关系，剥夺了人类的生 存空间和自由交流，限制了人类精神的解放，导致了“技 术霸权”和数据异化现象出现，数据异化必然会导致以数 据为驱动的A1的异化。
2. 客体主体化
人工智能主要思路是模仿人的智能和模仿人的智能控 制下的行为。AI机器在行为、认知、交互等方面都表现出 了明显的类似于人的判断力和创造性，而能动的认识和改 造世界正是人的主体性之所在。智能机器的存在形式逐渐 转化成了具有主体生命结构和本质力量的某些因素.而拥 有了主体的功能和属性.表现出了明显的主体化趋势。机 器一旦产生出和人类一样甚至超出人类的有自主意识的思 维.那么人作为主体的地位将受到严重的挑战。
3. 算法权力化
算法是A1的核心。算法决定了机器的性质和功能。当前.整个自然和人类社会的很多方面都被纳入到了基于大 数据的智能算法的控制之下，算法正在逐渐成为人类社会 生活的主导性力量，“一切皆算法”“算法崇拜”等正在 成为主流的认知。从微观层面的个人生活到中观层面的社 会经济运行再到宏观层面的国家战略.无不渗透着基于大 数据的智能算法的痕迹，整个社会和自然界被置于智能算 法的框架之下，算法高效、精准的分析挖掘数据的预测、判断和决策能力正在重塑着人们的思维方式、行为方式和 生存方式，也在重塑着整个社会的运行模式和治理模式，算法权力化成为必然。
开发AI机器的资本和技术掌握在少数人手中.资本 雇佣具有算法设计能力的人为其工作，算法设计能力可 以通过学习获得，但必须要有非常强桿的数学和汁算机 知识，这使一些优秀的算法设计者可以优先占有更多的 社会资源，将自己的智能转化为资本，成为AI行业社会 分工的上层。然而，因为算法设计的门框又非常高，大部分普通人可能终身都难以了解其运行原理，处于被动 的被算法控制、操纵的社会生产生活中，"算法鸿沟”不 断加深。砭石祛斑泥
算法的权利实际掌握在数据或者科技寡头手中，并 形成行业垄断，割裂了其他企业或者资本进入该行业的途 径和机会。算法设计者可以通过对算法设计模型的选择，引导和控制个人和体的行为，甚至重塑他们对世界的认 知，以达到最有利于自身利益的目的。算法权利因其算法 霸权影响范围日益广泛，因算法设计者或主导者的偏好、利益诉求及"算法黑箱”而导致的算法歧视、算法不公平 和算法滥用必然导致AI异化。
4.工具理性的泛滥与价值理性的缺失哇哈论坛
导致AI异化的原因是复杂的和多方面的，但其源头 在于技术理性和价值理性的背离。工具理性强调的是人类 通过理性的计算而自由选择手段的合理性和有效性，而 不管目的是否恰当，工具理性只关注效率、功用、计算 和手段，法兰克福学派学者批评了马克斯•韦伯的工具理 性，工具理性导致技术理性霸权，消解了人生存的价值基 础。工具理性和技术理性成为理性的化身，知识即技术，技术的本质是工具，人类可以凭借技术依靠理性来征服和 控制自然，并最终达到人类的自由和完善。马尔库塞认为 技术理性正在转化为技术拜物教，把科学技术作为意识形 态控制人类。必须用批判理性代替技术理性。价值理性注 重行为本身的价值，而非注重行为手段和结果。在价值理 性中，人是终极目的，价值理性凸显人存在的意义。随着 A1的发展，价值理性日趋缺失。技术在创造巨大的物质财 富的同时，并没有如人们所期待的那样带来人类的全面解 放，反而使人类陷入了深刻的异化危机之中。A〖机器作为 人所创造的技术人造物，智能化程度越高、功用越强大，在失控的情况下对人类造成的破坏可能就越大，这种破坏 反映在人身上就是使人自身异化为非人。
技术因其内在规律的不可知性，人类理性认识的有 限性以及技术风险的不可预测性导致技术后果的不确定 性，技术理性难以把握。1980年，科林格里奇（David Collingridge)在《技术的社会控制》中提出科林格里奇困 境（Collingridge dilemma>来表明技术对人类的控制，由于技术发展不可知性导致技术失去控制，致使AI异化的本 质呈现了出自身的复杂性和独特性。
综上所述，人工智能异化是马克思主义异化的当代表 现，我们试图深入挖掘人工智能异化内涵的基础是挖掘人 工智能的本质，从而规范人工智能的发展。S
【作者系华南理工大学马克思主义学院教授；摘自《上海师范大学学报》(哲学社会科学版）2020年第3期；本文系国家社会科学基金雷大項目“人工*能前沿问H的马克思主义哲学研究”（19ZDA018 )和国家社会 科学基金項目“现代技术风险的认识论问B研究”（18BZX047)的阶段 性成果】
豫公网安备41160202000603
站长QQ:729038198
关于我们
投诉建议