Breigha Adeyemo 是传播学博士候选人，伊利诺伊大学芝加哥分校。本文最初发表于 The Conversation。
边缘化人群常常是新技术意外后果的最大受害者。例如，自动决定谁能看到什么内容或如何解释图像的算法存在种族和性别偏见。具有多种边缘化身份的人，例如黑人和残疾人，的风险甚至更高。
这就是为什么当马克·扎克伯格阐述他关于元宇宙的愿景——一个人们可以相互互动和与数字对象互动的虚拟环境网络——并表示它将触及公司构建的每一款产品时，我感到害怕。作为一名研究种族、技术和民主交叉领域的学者——也是一名黑人女性——我相信仔细考虑正在被编码进下一代互联网的价值观至关重要。
问题已经显现。虚拟形象，即人们可以创建或购买以代表自己在虚拟环境中存在的图形化身份，根据虚拟形象的感知种族而定价不同，而种族主义和性别歧视骚扰正在当今的元宇宙前身沉浸式环境中出现。
要确保下一代互联网具有包容性并为所有人服务，需要边缘化社区的人们引领其塑造过程。还需要有约束力的监管，让大型科技公司对公众利益负责。没有这些，元宇宙就有可能继承当今社交媒体的问题，甚至变得更糟。
乌托邦式的愿景与严酷的现实
互联网早期，乌托邦式的愿景通常认为网络生活将与现实生活截然不同。例如，人们设想互联网可以作为逃避身份的某些部分，如种族、性别和阶级差异的途径。实际上，互联网远非没有种族之分。
尽管技术乌托邦传达了对未来的期望愿景，但新技术现实往往达不到这些愿景。事实上，互联网给社会带来了新形式的伤害，例如社交媒体上宣传的自动传播和影响您在线体验的算法中的偏见。
扎克伯格将元宇宙描述为一个更加沉浸式、具身化的互联网，它将“解锁许多令人惊叹的新体验”。这不仅仅是对未来互联网的愿景，更是对未来生活方式的愿景。无论这个愿景可能多么偏离目标，元宇宙很可能——就像互联网和社交媒体的早期版本一样——会带来广泛的后果，改变人们社交、旅行、学习、工作和娱乐的方式。
问题是，这些后果对每个人都一样吗？历史表明答案是否定的。
技术从不是中立的
广泛使用的技术通常将白人男性身份和身体视为默认。麻省理工学院的计算机科学家Joy Buolomwini已经证明，面部识别软件在女性身上表现较差，而在肤色较深的女性身上表现更差。其他研究也证实了这一点。
即使在机器学习算法中不包含种族类别的情况下，白人身份也作为默认设置嵌入在这些技术中。不幸的是，种族主义和技术常常携手并进。黑人女性政治家和记者在推特上遭受辱骂或恶意推文的比例过高，而在 2020 年选举周期中，黑人和拉丁裔选民则成为网络虚假信息活动的攻击目标。
种族与技术之间这种历史关系让我对元宇宙感到担忧。如果元宇宙如扎克伯格所描述的那样，是互联网的具身化版本，那么这是否意味着边缘化人群将经历新形式的伤害？
Facebook 及其与黑人群体的关系
技术与种族主义的普遍关系只是故事的一部分。Meta 在其 Facebook 平台上的黑人用户关系不佳，尤其与黑人女性的关系更差。
2016 年，《ProPublica》记者发现，Facebook 的广告门户网站允许广告商根据用户的种族或 Facebook 所称的“族裔亲和力”来排除看到其广告的群体。这一选项受到了很多反对，因为 Facebook 不会询问用户的种族，这意味着用户被分配了基于他们在平台上的互动（例如他们喜欢的页面和帖子）的“族裔亲和力”。
换句话说，Facebook 实际上是根据用户的行为和喜好对其进行种族画像，从而为广告商提供了基于种族歧视用户的机会。此后，Facebook更新了其广告定位类别，不再包含“族裔亲和力”。
然而，广告商仍然可以通过种族代理来定位据称是某个种族的人，这些代理通过结合用户兴趣来推断种族。例如，如果广告商从 Facebook 数据中得知您对非洲裔美国人文化和 BET 颁奖典礼感兴趣，它就可以推断您是黑人，并向您投放针对黑人的产品广告。
更糟糕的是，Facebook频繁删除反对种族主义和性别歧视的黑人女性的评论。讽刺的是，黑人女性关于种族主义和性别歧视的评论却被审查——俗称“被扎克”（getting zucked）——因为它们“违规”Facebook 的仇恨言论政策。这是在线平台中更大的趋势的一部分，即黑人女性因在数字空间表达担忧和要求公正而受到惩罚。
根据《华盛顿邮报》最近的一份报道，Facebook 明知其算法会不成比例地伤害黑人用户，但选择无动于衷。
一个民主负责的元宇宙
在接受 Meta 的元宇宙副总裁 Vishal Shah 的采访时，美国国家公共广播电台主持人Audie Cornish 问道：“如果你连 Instagram 上的评论都处理不好，你怎么能处理元宇宙里带有仇恨言论的 T 恤？你怎么处理可能在元宇宙里发生的仇恨集会？”同样，如果黑人因为在网上发表反对种族主义和性别歧视的言论而受到惩罚，那么他们如何在元宇宙中做到这一点？
要确保元宇宙具有包容性并促进民主价值观，而不是威胁民主，就需要设计正义和社交媒体监管。
设计正义是将社会中没有权力的人置于设计过程的中心，以避免延续现有不平等。它还意味着从考虑价值观和指导设计的原则开始。
联邦法律已将社交媒体公司从用户在其平台上的帖子和行为的责任中解放出来。这意味着它们拥有管理其网站的权利，但没有责任。监管大型科技公司对于解决当今社交媒体的问题至关重要，并且在它们构建和控制下一代互联网之前，至少同等重要。
元宇宙与我
我并非反对元宇宙。我主张建立一个民主负责的元宇宙。然而，要实现这一点，我认为需要为互联网公司建立更好的监管框架，并采取更公正的设计流程，这样技术才不会继续与种族主义相关联。
就目前而言，元宇宙的好处对我来说并不足以抵消其成本。但这并非无法改变。
