资本主义早期对工人的残酷剥削、城市化和生态恶化, 在当时就引发了技术批判和反抗, 如英国知名的卢德运动。虽然主流学界对当时的反技术浪潮总体持批判态度, 但“ 闯进花园的机器” 式的技术怀疑论始终存在。而二战对人类社会巨大的破坏作用, 使得希特勒被认为是人类史上首个运用技术力量而使罪行倍增的人。埃吕尔、麦克卢汉、马尔库塞、芒福德、赛佛、加尔布雷思、海德格尔、温纳、拉图尔等学者都发展和深化了对技术的学术反思, 这些著述也是技术伦理学的直接源头。

海德格尔在《论思想》中指出, 在其生存的所有领域, 人都将比以往更加紧密地被技术力量包围, 将人置于这样或那样的技术发明形式的控制之下^[15]。哲学家们担心人成了技术社会这部机器的齿轮, 从思想和行动上沦为机器的奴仆^[16]。在这个意义上就诞生了“ 自主性技术” 的概念^[17], 表达技术业已失去人类控制之意。在康德学术脉络下谈论技术的自主性是令人不安的, 因为康德认为自主性是自我意志的根本条件。赋予技术以自主性, 在某种程度上即是人的自主性被替代^[18], 主客体的位置产生了颠倒。

但仍然有相当一部分学者认为技术是价值中立的, 技术本身并不是一种自我决定的力量, 仅是一种手段。雅斯贝尔斯指出, “ 技术本身并无善恶。一切取决于人从中造出什么” ^① (①转引自闫坤如《人工智能的道德风险及其规避路径》, 载《上海师范大学学报(哲学社会科学版)》2018年第2期, 第40-47页。)。梅赛恩也坚持技术价值中立的观点, 认为“ 有益的做法是将技术定义为一般意义上的工具” ^[19]。

部分学者承继埃吕尔的研究传统, 认为技术充满意向性, 是社会结构的体制性力量。温纳认为技术在中立的、工具式的掩护下, 建立了一种崭新的秩序^[20]。美国技术哲学家唐· 伊德认为技术不是中性的工具, 它们在人与世界的关系中发挥着主动性的作用^[21]。在拉图尔看来, 道德和技术都是“ 本体论的范畴” , 技术以具体的形态促进人类社会的形成, 包括我们的行动和决定的道德特征^[22]。

最微妙的就是技术影响的“ 偶发” 机制, 也就是说技术对人类的控制并不总是具有预先意图, 其中一部分后果是意想不到的。换言之, 人并非总能控制自身所创造的技术的社会后果。乌尔里希· 贝克的风险社会概念也回应了这一观点, “ 在风险社会中, 未知的、意图之外的后果成了历史和社会的主宰力量” ^[23]。

恰如荷兰学者维贝克所指出的, 早期技术伦理学采取的是批判的方式, 这些批评不是针对具体的技术应用场景和案例, 而是对“ 大写的技术” 自身现象的批判^[24], 但过于抽象化和哲学层面过于本质论的探讨方式反而流于隔靴搔痒。

人工智能的技术想象突破了自启蒙运动以来人和非人实体之间的界限。美国技术哲学家唐· 伊德识别出了人与技术的四种关系:具身关系、诠释学关系、他者关系和背景关系。唐· 伊德所说的具身关系类似海德格尔的“ 上手” , 有些技术能够上手, 而有些技术只能在手, 成为我们行动的背景性因素。随着人工智能的发展, 人、技术与世界的关系结构发生了改变, 人和技术也表现出融合关系, 例如后现象学技术哲学家维贝克提出的赛博格关系(cyborg relation)和复合关系^[25]。

人工智能的技术想象包括创造出具有自我意识的自动化系统, 这就在伦理学体系内提出了一个全新的问题:技术是否能被赋予道德主体地位?自启蒙运动伊始, 伦理学就有着人本主义特征。以道德术语来研究物绝非易事, 这违背了伦理学理论的最基本假设^[24]。

在主流伦理学中, 一个合格的道德行动者至少是拥有意向性和一定程度的自由。很多哲学家认为, 技术客体缺乏自由意志和意向性, 不能对它们的行动负责。例如AlphaGo可以胜过人类围棋大师, 但是没有办法理解自己走子行为的意义, 现阶段并不具有自由意志。AlphaGo的智能实际上是以人为核心的一个巨大的延展认知系统的能力, 是系统部分认知功能的某种外化^[26]。无论从道义论视角还是后果论视角, 人工物只能从因果层面而非道德层面对既定的行为负责。因此, “ 没有理由将人工物纳入道德共同体之中” ^[27]。

弗洛里迪和桑德斯于2004年发表了颇具影响的《关于人工能动者的道德》一文, 聚焦实际上具有“ 行动者” 资格的智能技术。他们依据行动者之互动关系标准, 使用交互性、自主性和适应性三个标准来判断。一个系统如果能与外部环境互动, 能在没有响应外部刺激的情况下行动, 也有在不同的环境中行动的适应能力, 这个系统就可以被视作行动者。如果系统行事方式会产生道德结果, 那么就被认为是一个道德自主体^[1]。

弗洛里迪和桑德斯在某种程度上提出了一个类似道德图灵测试的模式, 区分了道德问责和道德责任。这种分布式道德允许无心的道德, 将一个哲学难题转变为具备操作性的判断标准。也就是说, 我们无须执着于现有系统是不是成熟的道德智能体, 只要系统具备交互性、自主性和适应性三个标准, 就可以被等同于一个道德主体而予以问责。当然, 目前一部分哲学家不愿意赋予技术人工物道德主体地位的原因还在于担忧如此一来, 将使得设计这些系统的人类工程师被赋予了免责的地位^{[13, 24]}。

责任是知识和力量的函数。在智能信息时代, 科学家、工程师不仅人数众多, 而且参与社会重大的决策和管理, 他们的行为会对他人、对社会带来比其他人更大的影响, 因此他们应负更多的伦理责任^[28]。

在过去25年中, 工程伦理领域的主要成就之一就是工程师们越来越意识到自身的价值观对设计进程的影响, 以及此过程中他们对他人价值观的敏感度^[13]。20世纪70年代开始, 美国科学促进会和美国律师协会联合组成了国家律师和科学家会议, 讨论科学研究中的道德规范问题。之后, 美国发布了有关科技界社会责任的一系列报告, 如关于“ 科学自由和科学责任” 的报告^[29]。2000年, 美国工程和技术认证委员会(ABET)在其标准中明确指出, 工程教育必须要求学生“ 理解职业和道德责任” ^[30]。美国白宫人工智能报告将“ 理解并解决人工智能的道德、法律和社会影响” 列入国家人工智能战略, 并建议AI从业者和学生都接受伦理培训^[31]。

当然, 也有专家认为技术活动是社会组织系统下的制度活动, 单一的工程师是无法对其技术后果承担责任的。德国技术哲学家、伦理学家罗波尔指出, 由于分工、合作等因素, 现代技术活动不是单个人的活动, 因而工程师作为个体不仅不能也不应该单独承担技术的全部责任^①(①转引自刘则渊、王国豫《技术伦理与工程师的职业伦理》, 载《哲学研究》2007年第11期, 第75-78, 128-129页。)。

大数据是人工智能的基础, 无论是传感器新闻还是算法推荐, 都必须以浏览数据为基础进行加工, 这就涉及了个人隐私数据的二次使用。个人与公共隐私边界的模糊, 隐私数据所有权界定的模糊, 当下隐私数据保护规制的不完善, 都使得对个人隐私数据的二次使用始终存在着侵权的风险^[48]。

学者们对新媒体时代隐私权问题的讨论, 归根结底是关于公共空间与私人空间、社会边界和个人边界的讨论, 主要可以分为媒体的舆论监督自由与个人隐私保护、公共数据开放与个人隐私保护、保障公众知情权与个人隐私保护这三组矛盾。

路鹃采用曼纽尔· 卡斯特尔的流动空间理论指出, 从Web1.0到3.0, 网络空间的现实性逐渐被承认, 法律规制的逻辑起点是要转变网络空间只具有工具属性的认识, 辨析合理的隐私期待, 确立新媒体环境下空间隐私权与现实物理空间同等的法律保护界限^[49]。而隐私权保护的原则应以人格尊严与伦理价值作为要件避讳隐私, 以主体不同身份角色与所处境遇确立隐私外延差异, 以社会对涉私的违德行为可容忍度为依据判别隐私正当性^[50]。至于隐私权保护的限度^[51], 只要符合公共利益相关性原则和公共兴趣合情合理原则中的一个就应该被视为体现了社会公众知情权而非侵犯了隐私。陈堂发强调, 以是否直接涉及人格尊严的个人信息与个人事项作为辨别侵害隐私权的基本依据, 隐私保护至少不宜成为公权滥用、工作渎职、违反党纪、违法犯罪行为回避公众舆论监督的“ 挡箭牌” ^[52]。

被遗忘权是近年个人数据所有权和隐私权探讨的一个焦点。牛津大学教授维克托· 舍恩伯格提出了数字时代的被遗忘权概念, 他指出, “ 遗忘变成例外, 记忆变成常态” 是大数据时代信息安全的一个隐患^[53]。欧盟委员会于2012年公布的《关于涉及个人数据处理的个人保护以及此类数据自由流动的第2012/72、73号草案》中, 正式提出了被遗忘权概念。当前对于被遗忘权的研究主要集中在三个方面:

第一, 就欧盟等国家对被遗忘权的立法和实施过程分析被遗忘权的实质和局限。如周丽娜发现, 数据主体虽然有权向数据控制者提出删除申请, 但数据控制者享有的自由裁量权将数据主体置于被动地位, 被遗忘权仅是应对数字化发展侵犯个人隐私的措施之一, 被遗忘是相对的。被遗忘权的意义是捍卫网络用户自我尊严、提倡尊重他人自由、创建网络无惧生活^[54]。对于其中的保护限度, 吴飞等提出在被遗忘权的使用中, 既要保护私人领地的神圣性, 也要保护公共领域的开放性^[55]。

第二, 从文化基因和法律传统角度考量欧盟、美国等在被遗忘权上的立法尝试, 指出其面临表达自由与隐私权和信息保护之间的矛盾。以美国法为代表的自由主义国家更看重公共言论的价值, 以欧洲法为代表的民主社会主义联盟则将新闻自由与隐私权同等视之^[56]; 也有学者将我国2016年颁发的《网络安全法》中个人对其网上个人信息的删除权与欧盟的删除权进行对比^[57], 探索被遗忘权在中国的本土化实践^[58]。

第三, 就被遗忘权所主张的隐私与数据保护与新闻传播实践中的新闻自由、言论自由、知情权等理念存在的冲突展开讨论, 探求新闻传播领域面对这一冲突的平衡机制。赵双阁等认为, 媒体应该首先在价值角度避免炒作和虚假新闻, 保证数据准确和内容真实, 其次通过匿名处理、模糊表达以避免因关联被删除的危险^[59]。张志安等指出, 媒体时代把关人的缺失加剧了侵犯公民隐私及相关个人权益的情况, 需要被遗忘权的约束以弥补自媒体传播的缺陷; 同时指出被遗忘权的引入可能增加互联网公司的管理成本, 影响网络舆论场的开放、完整和真实性等^[58]。

算法推荐可能导致新闻偏向与虚假新闻的传播。作为个体的记者对道德行为有很强的责任感, 但算法作为内容发送者的制度化, 会引发专业新闻的各种伦理挑战。从聚合类算法运作的原理来看, 当迭代次数受到限制时, 这类算法天然存在重复推送同类信息、造成信息疲劳的问题^[60]。在新媒体环境下, 算法分发的更多是碎片化、个性化的信息, 而不是新闻, 算法推荐机制实际上是一种对新闻专业主义和公共性的解构^[61]。这种算法短视加深了用户偏见, 可能会导致信息茧房和回音廊效应, 进而造成人与人之间的区隔, 更使虚假消息得以借算法传播。新闻生态的转变在美国已经引起新闻质量的下降, 而且可以预见的是中小城市将不再有报纸, 这将进一步恶化新闻生态^[41]。

2016年美国总统大选和英国脱欧呈现出明显的“ 后真相” 特征:客观事实在形塑舆论方面影响较小, 而诉诸情感和个人信仰则会产生更大影响。牛津词典还将“ 后真相” 一词评选为2016年度词汇。有学者指出, “ 后真相” 长期以来是一种政治现象, 但在新闻行业结构转变的背景下, 新闻传播领域的“ 后真相” 时代获得了更为广泛的关注^[62]。

关于后真相时代来临的原因, 学者们主要从媒体传播形态与技术的演进^{[62, 63]}、受众心理^[64]、社会经济文化背景^{[65, 66]}等层面展开讨论。研究指出, 从传播技术特性出发, 建立在社交网络基础上的传播渠道容易带来情绪化传播, 碎片化的传播内容可能导致还原真相很困难, 实时化内容生产加剧了真相挖掘和把关的难度^[62]; 而新媒体对用户的抢占有可能导致传统新闻机构因利润下降而被迫牺牲新闻的准确性、真实性以迎合受众口味^[63]。经济和文化的社会鸿沟^[65]是后真相时代的社会情绪基础, 而这种社会情绪操纵下的信息生产和传播所产生的群体分化, 比信息茧房更令人担忧^[64]。

关于新闻媒体行业该如何应对后真相, 迈克尔· 舒德森指出, 我们仍然需要“ 不可爱的新闻界” , 并指出真新闻应总是把真相放在首位, 它不会让诚实的报道屈从于意识形态、政治鼓动或商业利益, 甚至也不会迎合读者的口味, 并提出了三条新闻质量的判定标准^[67]。潘忠党指出, 我们需要将重新建构新闻专业定位在“ 以事实界定真相” 为内容的公共生活上, 新闻界需要做的是将寻求、核查、鉴定事实和真相的过程置于公共讨论之中, 重构交往的伦理规范^[68]。

自主决策是算法权力的核心^[8], 在社交网络时代, 算法实际上成为一种新的议程设置, 取代媒体引导舆论。目前没有基于算法伦理和规制设立基本的防御机制, 公共媒体对用户大数据的使用, 不能保证过程的合理性。敏感信息的使用、传播, 某些受众被特定类型信息屏蔽(或者过于吸引), 其实都存在伦理风险。

程序员设计的算法往往不受传统新闻伦理约束, 这就破坏了新闻专业主义的行业传统和价值基础。个性化推荐背后, 算法设计可能隐含着阶层区隔的意味^[60]。提高算法透明度, 以实现对算法的监管, 已成当务之急^[8]。

算法智能推荐所导致的受众所接受的观点窄化问题被形象地概括为信息茧房。信息茧房最早由美国学者桑斯坦提出, 意指在通信领域, 人们只选择自己感兴趣和能令自己愉悦的内容^[69]。信息茧房是算法、大数据推荐等大众传播技术和“ 我们只听我们选择的东西和能愉悦我们的东西” 这种大众心理共谋的结果^[70]。

关于信息茧房的后果和危害, 程士安等认为信息茧房容易加剧误解、放大假消息^[71]; 胡婉婷认为信息茧房破坏了网络公共领域建构, 主要表现在网络精英的信息垄断导致多数人自由表达受阻, 群体极化造成公众理性批评缺失, 因缺少共同经验而削弱社会黏性、破坏共同体的维系^[72]; 彭兰认为信息茧房是用户角度“ 拟态环境” 的一种表现, 不利于人们更充分全面地接近真实社会的信息环境^[62]。

学者们从优化算法、媒体责任、个人媒介素养三个方面对信息茧房的解决进行展望:首先, 通过优化人工智能推荐算法、扩大数据挖掘以拓宽对用户信息需求的定义、增加优质信息资源配比、采用人工与智能筛选相结合等方法让个性化推荐更为智能全面^[44]; 其次, 从媒体责任角度优化公共信息服务, 平衡个性化传播与公共性传播、个性满足与社会整合的关系^{[62, 70]}; 最后, 用户媒介素养要进一步提高, 也是其中应有之义。

但也有学者对此提出了异议, 有研究通过对Facebook用户的信息接触进行量化研究, 指出当用户通过Facebook推荐算法获得新闻, 其信息茧房和回音廊效应并不像人们预想得那样严重, 个人选择依旧发挥着重要作用^[73]。