“道德物化”与现代科技伦理治理

　　摘要：在深度科技化时代，科技所带来的伦理挑战日益突出。荷兰学派的道德物化理论或可为科技伦理治理提供建设性思路。道德物化并不是将技术看成中立工具，用其来实现道德目的。道德物化的核心是“关系本体论”，这一理论认为技术与人在知觉和能动性生成层面是互相构成的，人的道德能动性总是受到技术物的调节。这一思路特别重视技术物设计的伦理敏感性，要求科技人员进行“调节分析”，不仅要考虑技术功能的实现和可能的后果，同时要考虑技术被非常规使用的可能，并预见可能的伦理风险。更进一步，在技术全球化布置的今天，“调节分析”要求科技人员对技术的道德敏感性保持高度自觉，尽量避免可能的价值冲突，防范可能出现的价值殖民主义。

　　关键词：道德物化;科技伦理;荷兰学派;

　　Abstract：In the age of technology, the ethical challenges posed by disruptive technology are becoming more and more prominent. The Dutch school's theory of moralizing technology may provide some insights into the ethical governance of science and technology. Moralizing technology is not about using technology as a neutral tool to achieve moral purposes. The core of moralizing technology is a “relational ontology” that assumes that technology and human beings are mutually constitutive in perception, and that technological artifact always mediates our moral agency. This line of thought emphasizes the value sensitivity of designing technology, requiring scientists and technicians to conduct a “mediational analysis” that considers not only the practical function of technology but also the unconventional uses of technology and anticipates risks posed by these novel uses. Further, in the globalized world of technology, “mediation analysis” requires scientists to be highly conscious of the value sensitivity of the technology, to try to avoid possible value conflicts, and to guard against possible value colonialism.

　　Keyword：moralizing technology; ethics of technology; Dutch school;

　　一、背景

　　随着人类社会的深度科技化，科技所带来的挑战愈发紧迫。尤其是随着人工智能技术的广泛应用和迅猛发展，当代人生活在一个由无处不在的智能技术所建构的现实中，日常生活中的诸多实践活动都受到技术调节。现代科技和传统科技差距巨大。在前工业时代，技术作为手工用具多取材于自然，大都是简单的工具机———人、牲畜或煤炭等自然资源为其提供基本动力。工业化时代中典型的科技象征物是蒸汽机。蒸汽机是动力机，可以提供源源不绝的动力，将其配装不同的工具机，即可制造丰富多样的机器。这些机器具备了一定的自动化特征，一定程度上脱离了人的操作。尽管如此，工业时代的机器仍是独立个体，用于实现单一功能。信息革命之后，当代技术早已不是作为用具或机器的技术。随着电池技术、芯片技术、网络技术的不断革新，当下科技产品变得越来越小巧与装置化，其自动化程度进一步提高。技术隐藏在背景中，透过网络连接构成技术环境，技术的核心不再是其物理特征而是嵌入其中的算法逻辑。当代技术不再是用以实现单一功能的独立个体，技术通过网络广泛连接，构成了复杂的技术系统。每一个装置常作为平台来实现不同样态的功能。在这一特殊现实下，人的行动无处不受到技术的调节，人们逐渐感到技术并不是简单的中立工具，它的使用常会超出人的预期。科技逐渐变成一种异己力量，人的能动性受到了挤压。因此，科技伦理研究得到各方面重视。

　　2022年3月20日，中共中央办公厅、国务院办公厅印发《关于加强科技伦理治理的意见》，《意见》指出：“科技伦理是开展科学研究、技术开发等科技活动需要遵循的价值理念和行为规范，是促进科技事业健康发展的重要保障”1。该意见并没有将科技伦理仅仅定位为应用伦理，这给科技伦理研究提供了相当的探索空间。学界就如何做科技伦理研究未形成统一意见，尚缺乏成熟的研究范式。科技伦理研究大概有两种思路：一是将科技伦理研究看作经典伦理学的应用，试图透过经典伦理学理论来分析科技所带来的具体伦理挑战，这一思路强调科技伦理的伦理特性；第二种思路试图从科技哲学理论中寻找理解科技价值内涵的资源，深入科技内部，打开技术黑箱，这一思路强调科技伦理的科技特性。这两种路径有显着的差异。近来，秉持这两种路径的学者都注意到其研究方法的局限。伦理学者感到技术样态繁多，迭代迅速，一般直觉性的理解已经无法帮助深入理解当下技术情境，亟需对科技物自身的工程逻辑有深入把握。科技哲学工作者则常感经典伦理理论，诸如功利主义和义务论等无法为理解当下技术情境提供充分分析资源，迫切需要一种更加彻底的伦理学来助其理解科技活动的价值敏感性。这两种关切将不同领域的学者聚焦在对技术物的重视上来。近年来荷兰学者维贝克（Peter-Paul Verbeek）“道德物化”理论得到热烈关注，在国内外都产生了较大影响。道德物化试图将伦理理论和科技洞见结合起来，本文将探索这一思路于我国科技伦理治理的可能启示。

　　二、道德物化的理论继承

　　道德物化一词是从“moralizing technology”（荷兰文De moralisering van de Technologie）翻译过来。英文字面的翻译应该是“将技术道德化”。道德物化不再把技术看成是一个中立的工具，而把它看成是一个规范性对象。认为技术可以内嵌价值，进而通过对技术的设计、制造和流行来实现所期待的道德目的2。这一思路实际上受到了很多学者的启发。其中最为直接的启发来自拉图尔STS研究中所提出的脚本（incsription）理论。拉图尔研究了汽车的安全带的使用问题。如果上车不系安全带，汽车将不断报警，直到你系上为止，美国早期有些汽车如果不系安全带甚至无法打火。拉图尔指出安全带系统内嵌了一个脚本，在这一技术系统当中，该脚本得到翻译，翻译的结果对人的行为产生了规训作用，人不得不系上它。受这一思路启发，荷兰政治哲学家汉森·阿斯特豪斯（Hans Achterhuis）率先提出了道德物化这一词汇3。希望通过对技术环境的设计，来劝导人按照道德期许去行为。延续了拉图尔和阿赫特豪斯这一思路，维贝克讨论了汽车减速带的例子4。他认为减速带实际上也内嵌了一种安全性的价值。不管你如何口头劝导驾驶员减速慢行，效果总是不够理想。如果你布置减速带，反倒能较好的解决问题。这个例子经常被引用来说明什么是道德物化，但也最容易造成误解。如果道德物化仅仅指的是通过技术物的设计、布置和流行来践行道德目的的话，那么道德物化就变成了一种常识性的思路。在单纯的使用关系中，人是唯一的能动者，技术是中立工具，只不过要实现的目的是具有道德性的。这样一来，该理论的独创性就变得无关紧要，更谈不上将它看作是一种科技伦理治理思路。

　　深入理解什么是道德物化，必须要了解它的理论传承。维贝克虽然受到诸多思想的启发，但他最为直接继承了美国技术哲学家唐·伊德（Don Ihde）的后现象学思路。后现象学研究一般被当成一种技术哲学研究思路，实际上是科学实践哲学研究的进一步发展。伊德将自己放在劳斯（Joseph Rouse）、希伦（Patrick Heelan）、德里弗斯（Hubert Dreyfus）、加里森（Peter Alison）、哈金（Ihan Hacking）等人的研究序列中，可见他将自己看成科学哲学家5。从逻辑实证主义到科学哲学的历史转向，从科学社会学和建构主义的蓬勃发展到具身性科学研究，逐步走入技术性科学研究。上世纪八十年代，人们开始广泛注意到实验室工具对于认识的影响。在这一背景下，伊德比较早地认识到当代科学是技术性科学，科学非在复杂的实验室当中，利用多样装置和设备无法完成。伊德的思想大致可粗分为三个阶段。二十世纪六七十年代主要进行诠释学和现象学研究，七十年代末侧重研究技术问题，出版了技术哲学专着《技术与实践》6。八十年代后，伊德十分关注拉图尔、伯克顿、哈拉维的思想，全面转入研究技术性科学。正因他研究的重心是技术性科学，所以才常被当作技术哲学家。

　　为了考察技术对认知的影响，伊德继承了现象学的研究方法和核心概念。使用“意向性”（intentionality），“意向对象”（Noema），“意向行为”（Noesis），“生活世界”（life world）等概念来分析技术对知觉经验的构成性影响。与此同时，他认同海德格尔将胡塞尔的现象学研究所做的生存论的转换，不满足于现象学只做意识研究，认为现象学不应该被看成一个封闭的学问，而应将其当作一种根本的方法来考察各种问题7。技术考察应该从实践入手。与此同时，伊德又批评海德格尔考察的不是具体技术，而是技术作为“此在”的在世方式，使得技术考察走入存在论，因此不能为理解具体技术对人的影响提供有效资源8。结合海德格尔的生存/诠释转向，伊德率先用现象学的办法来研究具体的工具对人的知觉的影响。

　　在伊德的代表作《从伊甸园到尘世：技术与生活世界》一书中，伊德用了一个隐喻说明人的技术处境9。人在伊甸园当中赤身裸体，他/她的知觉和世界是直接相通的。从伊甸园到尘世以后，人因为羞耻而穿衣。人和世界之间就隔着一个技术人工物，其诸多知觉因此都受到技术的调节。技术不是中立的，它可以透过放大/缩小结构调节意向内容和意向对象两方面，进而建构我们的知觉经验。在此基础上，伊德进一步提出了人与技术的四种关系，即所谓的具身关系、诠释关系，背景关系和它异关系。

　　用眼镜看东西，眼镜将眼前的东西进行强调，缩小了人对眼镜周围的关注。刚带眼镜的时候感觉到它存在，但眼镜在知觉中逐渐变得透明，不再引起关注，成了身体的一部分。此形成具身关系，人技关系为（人-技术）→世界9；空调通常在背景中运行，透过智能小型面板来极大降低温度调节的难度，放大了易用性而缩小了对机器工作的知觉。技术与人形成了背景关系，人技关系表示为人→（技术/世界）9；温度计将由皮肤温感所探知的温度，还原为水银膨胀后的刻度，放大了温度在视觉上的差异，缩小了人们对温度的身体性感知。人与技术在此构成了一种诠释性关系，被表述为：人→（技术-世界）9。最后，借用了列维纳斯“它者性”的概念，伊德认为汽车虽然不像马是完全独立的它者，但可被当成一个类它者来对待。驾车缩小了人与其周遭环境的互动可能，将注意力和交往活动直接诱导到仪表盘上来，放大了与该技术交往的迫切性和即时性。人技关系被表述为人→技术（世界）9。

　　以上四种关系都说明了技术对于知觉的积极调节，有些调节作用甚至远远超出人的预期，不在人的控制范围内，很难被提前预见。例如作家写作，即使胸有成竹，用毛笔写字和电脑打字可能会产生完全不同的文本。毛笔字因为空间占据大、不易涂改等物质性特征，可能让写作更加严肃和富有超越性。电脑打字因为可以任性编辑，文本倾向于口语化，也相对更加灵动。这种技术对知觉的调节能力被伊德称为技术或工具意向性（tehcnological intentionality/instrumental intentionality)9。伊德主要贡献在于澄清了人和技术在知觉层面是共构的，不存在一个脱离了技术或人的知觉。因此，单独谈人或技术的意向性都是不妥当的。意向性和能动性是人和技术在互动和交往中涌现出来的一种能动能力。伊德改变了我们的提问方式，不再问谁是能动者，而问能动性是如何生成的。

　　三、作为一种规范性思路的道德物化及其挑战

　　荷兰技术哲学家维贝克继承了伊德这一后现象学思路。但伊德的工作实际上是纯粹描述性的，没有规范性维度，维贝克试图将这一思路做规范性转换。这一转换通过两个步骤完成：首先，伊德已经说明了人的知觉经验总是受到技术品的调节，指出在知觉层面人和物是互构的。维贝克认为既然人的知觉总是受到技术的调节，继而影响人特定的行动。那人的道德行动作为一种特殊的行动，也势必受到物的调节。因此，延续后现象学的分析办法去澄清人的道德行动是如何受到技术调节的就值得专门研究。维贝克常用超声技术的例子来说明这一点。就是否要堕胎这一道德决策而言，传统价值和习俗一定程度上影响了其决策，但如果仔细分析这一过程，就会注意到技术在其中也扮演了一个重要的角色。超声技术能使胎儿图像化，看到胎儿是畸形的，人们就更有可能选择堕胎。没有超声技术，则很可能把孩子生下来，可见，人的行道德行为也总受到技术调节10。

　　超声技术一例有两种解读方式。一是采取工具论的诠释方式。超声技术在此不过是一个中立的工具，用它来探测胎儿是否健康，但检查胎儿健康情况这一行动本身完全由人来决定。在主客二分的工具论视角下，超声技术并没有真正参与道德决策，而只是作为一个工具提供了一些信息。主客二分的工具论的视角正是伊德和维贝克想要克服的。另外一种阐释方式是人技互构论。一对夫妇通过超声技术发现孩子是畸形的，按照原先期待，应该做流产手术。但超声技术使得胎儿图像化了，以一种影像的方式呈现。胎儿可视化后造成了新的知觉体验，胎儿更容易以一个独立的他者的形象被关注。这时候，尽管看到了胎儿有些畸形，但由于亲眼目睹了胎儿的活动，他/她的父母或许会改变了初衷，仍然决定保胎。这时候，技术在这一道德决策中不仅被当成工具来提供信息，它甚至改变了人原先的诉求。在此，技术意向性直接影响了人的意向性，这一影响是构成性的。

　　严格讲，第二种解读才符合道德物化的基本思路。不过，尽管维贝克把后现象学研究引入道德决策的分析中，但这一过程仍是纯粹描述性的。伊德描述的是技术如何调节人的认识行为，而维贝克考察的无非是技术如何调节人的道德实践。他们分析对象不同，但方法一致，维贝克至此并没有完成规范性转变，这一转变要通过第二个步骤完成。维贝克认为既然我们认识到技术调节人的道德决策，那么也因此有义务透过对技术功能的设计，将特定的价值嵌入到技术中，透过技术的布置和流行，使人更容易地按照特定的道德诉求行为。这样一来，道德就不至于坠入空洞的说教。到此维贝克才算完成了道德物化理论的规范性转向。这一转向为我们提出了两个要求：首先，技术的使用者都具备一种初定义务，即不应再把技术简单当成中立工具，把人当成唯一道德主体，应该对技术的意向性保持自觉，应理解技术对道德决策会有构成性影响，因此对购买和使用特定的技术保持更加审慎的态度；而在另外一方面，从技术的设计者角度来说，工程师将有义务将公序良俗和社会普遍接受的基本价值嵌入到技术当中，透过技术设计和使用促进社会良性发展。

　　从阿特豪斯提出“道德物化”一词以来，这一理论一直受到不少批评。人们普遍担心道德物化给予工程师过多权力，导致专家治国和技治主义（technocracy），人的自由会被进一步剥夺。维贝克认为限制并不代表不自由。我们的生活总是处于各种各样的限制之中。交通规则对人的驾驶行为就是一种限制，但恰恰是这种限制保证了驾驶自由。另外后现象学理论指出，我们的日常生活总是受到技术调节，真正重要的在于对这一调节是否抱有自觉。长期以来人们无意识地被技术调节而不自知。维贝克指出，与其无意识的被调节，不如有意识进行主动调节。后者出现错误后，起码可以进行检讨11。道德物化要求有意识对物进行道德设计，在设计阶段，可以让不同的利益相关者，包括工程师和可能的使用者，一起参与到技术物的设计中来。可见，道德物化也不一定会直接侵害人的自由。另外，在日常生活中，人们的道德决策并不像康德期待的那样出于对道德义务的纯然尊重来行为。在减速带一例子，驾驶员在头脑中并不会把减不减速准则化，进而考察自己是否能合理性地愿意将这一原则普遍化，考察普遍化后是不是会在意志中引起自相矛盾。道德物化思路认为前方学校，减速慢行是必要的，继而透过技术系统的设置，降低道德执行成本，使人自然而然地遵守道德。这样一来，道德物化帮助人节省认知资源，用来处理更加复杂的道德情境，从这一角度说，它使得人获得了更多的自由。

　　综上，严格意义上讲，道德物化所物化的并不是道德。如果我们把道德严格地理解为一种对意志有绝对普遍规范性的原则，那么它就不可能被技术所物化。道德自身的规范性必然来源于一种超越性的根基，这或者植根于理性（例如康德伦理学），或者植根于神性（例如在神令论那里）等，现有的道德哲学理论均不认为道德的规范性来源可能植根于技术。可见，真正物化的不是道德本身，而是符合道德期许的特定的行为。以下我将重点论述道德物化对科技伦理治理的启示。

　　四、道德物化的科技伦理治理启示

　　道德物化思路的启示是多方面的。首先，它拓展伦理参与者的边界。通常我们认为伦理活动是人所特有的活动，完全由人所自主的。道德物化却将道德行动的参与者从人拓展到物，把技术品也看作是道德行为的一个构成性参与者。这就使得我们不得不放弃传统的技术中立论的视角，更加注意物的价值敏感性，把人和物放在一个层面去描述道德行为如何生成，这一拓展加深了我们对道德行为的科学理解。另外，在伦理实践方面，我们通常认为只有伦理学家在做道德哲学的工作，伦理学主要研究道德的规范性来源，道德最高原则的证明，以及试图在特定案例中澄清繁杂的伦理冲突，提供建设性的解决思路等。当今时代，伦理研究很大程度上被当成了一个理论研究，即使在应用伦理研究中，人们常常倾向还是用理论来裁切现实，对科技实践本身的现实性缺乏尊重与了解。当一个科技活动违背了事先划定的价值时，科技活动即刻被禁止。

　　在此过程中，伦理理论和技术实践被截然分开，前者是后者的审查清单。这样一来，科技伦理主要是伦理学家的工作，即使是写进科技人员职业伦理的部分，也常被理解为科技活动之外所要特别注意的操作原则。道德物化提示我们工程师本身实际上就是在按照新颖的方式在践行伦理。在西方世界里，原来由牧师和伦理学家负责宣讲伦理，培养人们的道德情操，现在，工程师能够通过对技术环境的设计，悄无声息地把特定的价值灌输到人们的生活当中，对人进行归训。在这个基础上，维贝克就提出了伦理的设计转向，试图把工程技术的设计看成是开展伦理活动的一个重要领域，他在特温特大学时就专门指导了一个设计实验室，现在去阿姆斯特丹大学任校长以后，更加重视工业设计的伦理内涵。

　　其次，道德物化要求工程师对技术超预期使用保持敏感。道德物化作为一种侧重设计伦理的思路，使得维贝克提出了调节分析（mediation analysis）的概念12。维贝克认为工程师和设计人员所考虑的技术风险不能仅仅是技术的功能能否充分实现，充分实现后可能带来的社会成本有哪些。这一分析思路仍然拘囿于简单的技术评估，使得应用伦理堕落成审查清单表。伦理审查经常是后见之明，它的主要功能是为了事后纠责，并不能做到提前预估风险。伊德后现象学提示我们技术时刻调节人的知觉，有时会超出人们对其功能的期许。前文所提到的超声技术的例子，本来该技术是为了探测孩子的健康状态，但因为它使得胎儿图像化了，使得父母产生了对孩子生命的敬畏，即使看到其畸形也决定要生下来。可见，要充分认识到技术意向性对人的意向性的构成性作用，工程师就必须要保持一种在技术特定功能之外的调节想象，借此才能够预测超出其功能设定的应用，提供理解技术异常使用的认知框架。

　　第三，工程师应具备文化敏感性。伊德的后现象学不仅强调技术诠释，也强调文化诠释，即考察文化与文明如何决定技术按照何种方式显现给我们。文化决定了人的宏观知觉，而技术决定了人的微观知觉，微观和宏观知觉是互相影响和成就的。特定的技术在不同文化之间使用，可能改变这些文化。相同的技术在不同的文化处境下，可能被按照完全不同的方式使用。这就是所谓的技术的多元稳定性（multistability)9。从技术的“调节分析”角度来看，工程师应该对技术的跨文化使用保持自觉，理解特定的技术在不同的文化情境下会呈现出不同的使用方式，产生不同的变体。这些变体可能与本地文化产生冲突。当今科技的使用和传统时代大为不同，当下的技术一经研发推广，很快扩散至全球。尤其是软件产品，它已经脱离了具体的物质性，经由手机平台，一夜之间就可以供全球几十亿人口下载使用。在此，如果特定的技术内嵌了特定价值，一旦跨文化使用，可能造成价值冲突甚至价值殖民。其所造成的各种伦理风险也会尤其突出。

　　正是在这一背景下，技术调节分析就必然要求工程师具备一种开放、多元以及跨文化的宏观视角，以此来审视自己的技术研发、设计与推广。这就对传统的工程伦理提出了巨大的挑战，进一步要求改写当下的工程伦理。在现有的工程伦理中，工程师主要是对雇主负责，确保产品能够有效地完成雇主所期许的功能。另外，当科技活动涉及公共福利时，应首先确保公共福利不被侵害，即是说，当公共福利和雇主的期许产生冲突时，工程师有时还应有吹哨（whistleblowing）的义务13。这两种义务在今天都变得越来越承担。技术总是全球布置，要求工程师总能透过“调节分析”预知技术可能带来的文化冲突有时是不切实际的。技术调节分析实际上增加了工程师的认知成本，加重了他们的责任。解决这一问题，荷兰学派学者近来推崇负责任创新研究。负责任创新研究本质上是为了提供一种责任分配的机制。其思路认为一个创新之所以是负责任的，在于它是否采取了一种开放性参与的程序性原则，使得创新的参与者和可能受到影响的利益相关者都参与到创新的研发中来。这样才能有效地分配责任，使得创新成为负责任的创新。中共中央办公厅、国务院办公厅印发《关于加强科技伦理治理的意见》也明确指出，未来的科技伦理研究应该是要建立一个开放共治的全球伦理治理模式。道德物化伦理作为一种重视设计的科技伦理治理思路，或为建立我国独具特色的全球科技伦理治理机制提供一定的资源。

　　五、结论

　　本文介绍了道德物化的概念、挑战及其在科技伦理方面的启示。道德物化不是将技术当作中立工具，仅仅用技术来实现人所特有的、预先设定的道德目的。道德物化一词最早是由荷兰政治哲学家汉森·阿赫特豪斯提出，其后由维贝克系统地发展起来。维贝克全面继承了美国技术哲学家唐·伊德的技术后现象学思路。其核心在于指出人的知觉和行动总是受到技术物的调节。维贝克利用这一思路来考察技术如何调节人的道德能动性，并试图积极地把一些广泛接受的重要价值通过设计嵌入到技术当中，通过技术物的布置流行来进一步促进道德的实现，使得社会朝向良善方面发展。作为一种重视设计的科技伦理治理思路，道德物化对我国科技治理有三方面启发：第一，它把技术伦理的参与者从人拓展到物，借此帮助我们更深入地理解人的深度技术化处境；第二，它指出工程师和设计工作者所应该承担的特殊责任，说明了工程师也在按照不同的方式从事伦理工作，要求其对技术的超预期使用和文化敏感性保持一种调节想象；最后，作为一种科技伦理的道德物化势必要求建立一个开放、多元、跨文化的多利益主体参与的开放共治思路。这一思路亟需从科技哲学和伦理学中汲取多样资源。

　　注释

　　1中国政府网:《中共中央办公厅国务院办公厅印发<关于加强科技伦理治理意的意见>》,http://www.gov.cn/zhengce/2022-03/20/content_5680105.htm

　　2Peter-Paul Verbeek,Moralizing technology:Understanding and designing the morality of things,Chicago:University of Chicago Press,2011.

　　3Hans Achterhuis,De moralisering van apparaten,Socialisme en democratie,1995,52(1),pp.9~18.

　　4Peter-Paul Verbeek,Morality in design:Design ethics and the morality of technological artifacts.Philosophy and design,Dordrecht:Springer,2008,pp.91~103.

　　5Don Ihde,Expanding Hermeneutics:Visualism in Science,Evanston:Northwestern University Press,1998,pp.43~44.

　　6Don Ihde,Technics and praxis:A philosophy of technology,New York:Springer Science&Business Media,2012.

　　7Don Ihde,Postphenomenology and Technoscience:The Peking University Lectures,Albany:SUNY Press,2009.

　　8Don Ihde,Heidegger's Technologies:Pos tp henomenological Perspectives,New York:Fordham University Press,2010,pp.74-86.

　　9(10)(11)(12)(13)(14)(18)唐·伊德:《技术与生活世界:从伊甸园到尘世》,韩连庆译,北京大学出版社2012年版,第12~24、78~89、90~91、102~107、108、108、117页。

　　10(15)Peter-Paul Verbeek,What things do:Philosophical reflections on technology,agency,and design,University Park,PA:Penn State Press,2005,pp.213~216.

　　11(16)王小伟:《道德物化及其批评》,《中国人民大学学报》2021年第3期。

　　12(17)Peter-Paul Verbeek,"Materializing morality:Design ethics and technological mediation,"Science,Technology,&Human Values,2006,31(3),pp.361~380.

　　13(19)Marion A.Hersh,"Whistleblowers-heroes or traitors?:Inpidual and collective responsibility for ethical behaviour,"Annual reviews in Control,26(2),pp.243~262.