设计伦理——我们能用设计解决社会问题吗？
不到十年前，“设计”这个词主要与美学、调色板和臭名昭著的 Comic Sans 字体相关联。然而，在几年的时间里，设计已经从大多数人并不真正关心的东西变成了对我们日常生活的强大影响力。越来越多的书籍、设计会议、电视节目和纪录片探讨了设计的破坏性影响或其解决社会、生态或经济问题的能力。尽管如此，我们并不总是很清楚我们可以用设计方法解决哪些问题，以及设计师可以为解决社会问题做出哪些贡献，并在一定程度上解决设计本身造成的一些问题。
国外的一部纪录片《社会困境》从本质上揭示了为什么你从前一分钟在谷歌上搜索健康快餐到下一分钟在你的 Instagram 提要上寻找食品广告。英国反乌托邦系列，黑镜设想了我们关于技术的最糟糕的噩梦。对日常数字体验如何影响我们生活的担忧比以往任何时候都更加强烈。
技术与设计的关系
用户体验和以人为本的设计理念席卷了商业世界，但这种力量是有代价的。得出的结论是，大多数数字产品背后都有良好的意图——改善人类生活质量。然而，这些由杰出的程序员和设计师创造的善意产品，已经被不断扩展的算法和企业利润最大化所武装。毫无疑问，随着数据驱动系统成为我们生活中越来越重要的一部分，当它们失败时，我们也会注意到更多。这种决定论的叙述完全忽略了这样一个事实，即技术是社会的产物和反映，并且是复杂的社会经济系统的一部分。技术、设计和社会不断相互影响，它们之间的相互作用是一个三向的过程。
我们中的许多人认为技术是中立的，没有种族主义、性别歧视或其他困扰人类决策的“主义”。但事实是，社会等级制度，就像种族主义一样，嵌入在大多数产品和技术的逻辑层中。社交媒体过滤可能是工作中数据驱动系统最常见的例子之一。这是 微博 用朋友的名字自动标记你的照片的时候。或者，考虑决定向您展示哪些新闻和广告的应用程序，以增加您点击的机会。
技术有偏见
社会困境最小化了这样一个现实，即人类设计的方式不仅会复制而且会放大现有的偏见，因为首先创造它们的设计师有自己的偏见。
一个令人不安的例子是 Beauty AI。2016 年首次使用最先进的机器学习技术由机器人评判的选美比赛。它旨在根据皱纹、面部对称性、肤色、性别、年龄组、和种族。人们训练深度学习软件使用预先标记的图像对美进行编码。之后，根据算法嵌入的偏好对参赛者的照片进行评判，但结果并不那么乐观。虽然入围者跨越不同年龄层，但都是白种人，而且只有一位入围者的肤色较深。
另一个著名的案例是 Airbnb 早期发生的事情。设计师想让主人感到非常舒适，因为他们邀请人们进入他们的家。这在当时是一件非常新鲜的事情。 设计决策主要是为了向主人提供尽可能多的信息，让他们对允许客人进入他们的家感到安全和快乐。他们把名字和照片放在平台的前面和中心。此外，当时的主人可以随时拒绝客人，而无需解释原因。这一决定导致了大量关于歧视的报道。名字听起来像外国的人和黑人更有可能被拒绝。这是设计团队完全没有预料到的。这个例子可以真正展示如何以你意想不到的方式使用设计。
好的设计自然不合乎道德
好的设计可以满足用户的需求，但它自然不合乎道德。棘手的是，好的产品和服务——就像 Airbnb 的案例一样——可以非常方便和令人愉悦，在它们失控或我们个人受到影响之前，我们可能不会感受到任何负面影响。 好的设计可能会产生意想不到的负面后果和问题。例如，在用户研究或不道德地收集和使用数据中，边缘化或弱势群体的代表性不足。
多层数据
随着社会对这些新技术对我们生活的社会、政治和情感领域的不可预见后果的认识不断提高，越来越多的人开始对大型科技公司持怀疑态度。社会困境很好地突出了定向广告如何利用我们的心理脆弱性来操纵我们。然而，这部纪录片只关注社交媒体的心理方面及其成瘾效应。它未能探索通过这些新开发的技术和使用这些类似的、不道德的商业模式的产品而建立的资本主义形式。
技术和隐私
监视资本主义时代，一位专家对数字时代的社会学分析，描述了谷歌和 Facebook 等全球科技公司如何说服我们放弃隐私。收集的信息不仅用于预测我们的行为，还用于影响和修改它。不用说，这对民主和自由造成了灾难性的后果。我们喜欢认为科技公司拥有的关于我们的唯一信息就是我们提供给他们的信息。真正发生的是，我们故意提供给他们的信息是他们收集的关于我们的最不重要的信息。 以不道德的方式工作的科技公司从我们在不知不觉中留下的数字痕迹中检索到大量信息。但他们仅使用收集到的一些关于我们的数据来改善服务或用户体验。公司使用我们的大部分数据来分析人类行为模式，以创建预测数据模型并了解具有某些特征的人通常如何行为和思考。
在最简单的层面上，他们可以预测您现在或以后可能会做什么，并将这些预测出售给企业。那么，这有什么问题呢？你可能会说“但我喜欢那些有针对性的广告”或 “我没有什么可隐瞒的，所以我不在乎他们拿什么，除此之外，他们已经知道了我的一切。” 这些陈述中的每一个都是对实际发生的事情的深刻误解。问题的根源不是针对性的广告或个性化的用户体验。在大多数情况下，算法都带有种族和性别偏见。而且我们现在知道，预测模型还可以以绕过我们意识的方式影响离线、现实世界的情绪和行为。
用户体验中的道德规范
当我们说我们有道德时，我们是什么意思？一般来说，伦理学是一门广泛的学科。在哲学意义上，它研究什么是对的，什么是错的。应用伦理是当我们应用这些关于道德的概念和思想时。
我们可以将设计和研究伦理视为相互联系和交织的不同学科。设计伦理着眼于使用设计并与之互动的人们的福利。它还涉及人们如何使用或滥用设计的长期影响。另一方面，研究伦理关注参与研究活动的人们的福利。
成功指标的隧道愿景
在国外“四大”——谷歌、亚马逊、Facebook和苹果——主导的时代，他们可以亲身体验一些公司如何偷工减料或遵循可能对人们造成真正伤害的不道德做法。
许多产品团队都在追随他们的脚步。在某些情况下，参与者会故意或无意地欺骗他们数据的使用目的。当团队缺乏坚实的设计和研究伦理基础时，通常会出现这些趋势。或者，另一种情况是设计师和研究人员必须做出专门服务于业务目标的决策。
通常作为设计师或研究人员，我们对这些不道德的决定没有权力。即使我们想设计一个好的体验，我们也可能无意中造成伤害。好的和令人愉快的设计的一些好处可能伴随着不可预见的权衡。
我们可以让用户沉迷于我们创造的产品和服务。我们可以让他们因为我们自己的偏见而被边缘化，或者因为通知而变得超负荷或压力。此外，欺凌和仇恨言论也可能是我们设计的结果。
现实情况是，在快节奏的环境中，我们通常没有时间考虑设计伦理。在成功指标上很容易获得隧道视野。当我们专注于设计的短期成功而不是长期视角而变得短板时。在瞬息万变的环境中，我们可能会陷入只依赖定量数据和指标的陷阱。并且设计只是为了改进这些指标。那么，您可以做些什么来设计良好的体验，同时确保做出合乎道德的决策呢？
探索设计师的困境
作为设计师，我们正在解决问题，让人们的生活更轻松。但是，重要的是要了解我们的设计不是中立的，但实际上，它本质上是有偏见的。将人称为用户为设计师创造了一个舒适区和一个矛盾的事实。我们实际上不能关心与我们的设计互动的每一个人，但同情他们的问题是我们工作的一部分。虽然，我认为用户这个词本身不可避免地会造成我们应该关心的人的无知和疏离。它通过将它们减少为我们用来改进产品或服务的数字数据的痕迹，从而消除它们的复杂性。这从根本上强化了人们是最重要的利润来源的说法。
通过承认即使是我们的设计词汇也会影响我们的思维方式，我们可以更接近道德设计。认为我们的设计决策与我们的缺陷无关，这让我们感觉更好，但实际上，它们永远是我们的延伸。 为了真正通过设计改善人们的生活，我们需要提出一些棘手的问题。我们需要在他们正在创建和加强的系统中询问他们。这不应该只是 UX 团队的责任。这是每个人的责任，因此这些对话也需要在领导层进行。通过这种方式，我们可以避免陷入必须扭转某些决定或花费大量时间返工的情况。
道德设计的步骤
对此进行规划是最重要的部分——因此请尝试提前开始对话：我们的设计如何被滥用或利用？最坏的结果是什么？哪些潜在的权衡可能会对使用我们产品或服务的人产生负面影响？提出难题将帮助您为以下开始的实际工作做好准备：
- 做定性研究。出去见见真人。
- 让参与者设计或共同设计。让其他人参与设计过程，尤其是当它是一个敏感话题时。
- 想想社会中可能最脆弱的人。他们通常是边缘化的人，他们对服务和产品的选择有限。出于这个原因，他们往往是受到设计负面影响的人。考虑残疾或无障碍需求。并倡导重申仅考虑特定人口群体而不涉及边缘化人群的设计。
- 花点时间对系统性问题进行自我教育。尽管系统层面的问题比设计本身更大，但我们仍然是创造和加强它们的系统的一部分。设计过程通常复制存在于设计世界之外的过程和价值。
- 招募一个多元化的团队，在设计过程中有一个平衡的代表。如果我们有一群来自相同背景的设计师，他们都有相似的经历和价值观。你会无意识地将你的偏见转移到你的设计中。在你的研究过程中也包括不同的人。
我们能用设计解决社会问题吗？
在素马设计机构，我们决定有意识地将我们的知识和创造力导向积极的影响。当我们重新审视我们作为一家公司的使命时，我们做出了一个集体决定，专注于通过我们的设计决策从整体上（和道德上）帮助用户。
我们可以从中学到什么
我们已经开始质疑自己设计产品的后果，以及我们应该如何运用我们的影响力。已经出现了应用设计方法的新框架和方法，以解决复杂的社会问题，并消除不道德设计本身造成的一些问题。这种转变有许多不同的名称——“循环设计”、“社会设计”、“影响设计”、“社会创新设计”和“伦理设计”等等。所有这些想法都有自己的定义，但这里的措辞是不太重要的部分。正是这种可能性和空间让我们能够使用设计来应对社会问题。是思考和探索。它在看例子。它使事情变得有意义。它超越了当前将设计思维应用于社会问题的趋势。它是破坏伤害人们的系统性机制，以创造替代、平等、包容和道德的未来。
我渴望并渴望成为那些“道德、有影响力、循环、社会设计师”中的一员。 我不确定如何做，但我知道我确实有选择。因为我们比以往任何时候都更有优势，现在轮到我们创造新的原则了。
在 素马设计 继续学习
通过我们关于UX 在可持续发展时代的作用的文章跟进循环设计的主题，或者阅读通过为残疾人设计应用程序来做好 UX 的示例。
正在寻找合适的用户体验机构？
网站设计机构-素马设计已成功与全国甚至国外多家公司合作。 此刻我们能为您做些什么吗？与我们联系，让我们讨论您当前的挑战。 我们的设计专家很乐意为用户体验策略、产品和用户研究或用户体验/用户界面设计提供帮助。