本文最初发表于 MIT Press Reader。本文节选自 Aram Sinnreich 和 Jesse Gilbert 的著作《数据的生活秘密》。
现代民主社会的一个基本概念通常被称为“思想市场”，这个词由哲学家约翰·斯图尔特·密尔于 1859 年提出，尽管其根源可以追溯到至少两个世纪前。基本理念很简单：在一个民主社会中，每个人都应该在公共领域分享自己的想法，然后，通过理性辩论，一个国家的民众可以决定哪些想法最好以及如何付诸实践，例如通过新法律。这一前提是宪政民主围绕言论自由和新闻自由建立的主要原因——例如，这些原则在美国宪法第一修正案中有所体现。
与其他许多政治理念一样，“思想市场”在实践中比在理论上更具挑战性。首先，从未有过一个真正代表其普通民众的公共领域。在美国，女性和少数族裔的投票权需要几个世纪才能被编纂成法，而这些公民仍然通过各种政治机制被不成比例地排除在选举之外。媒体的所有权和就业也不成比例地倾向于男性和白人，这意味着女性和有色人种的声音不太可能被听到。而且，即使是那些克服了进入公共领域重重障碍的人，也不能保证他们能获得平等的参与机会；正如快速浏览一下您的社交媒体信息流可能提醒您的那样，并非所有声音都被同等重视。
除了根深蒂固的种族主义和性别歧视的挑战之外，“思想市场”还有一个主要问题：大多数政治言论并非你所说的理性辩论。这个观察并不新鲜；2400 年前，古希腊哲学家亚里士多德就认为，逻各斯（理性论证）只是政治修辞的一个组成部分，其重要性与信誉（信任度）和情感（情感共鸣）相当。但在 21 世纪，由于数据的生活秘密，情感已被数据化，并因此以前所未有的规模被武器化。这给逻辑留下的空间很小，给民主带来了更大的麻烦。
情感数据武器化一个极好且令人警惕的例子是相对较新的技术，称为神经定位。您可能在 2018 年曾听说过这个词，与剑桥分析公司（CA）有关，该公司在其 2016 年美国总统选举和英国脱欧投票中的角色被曝光后，曾短暂占据头条新闻。为了更好地理解神经定位及其对民主持续存在的威胁，我们采访了该主题的顶尖专家之一：Emma Briant，她是一名蒙纳士大学的新闻学教授，也是宣传研究领域的领军学者。
现代神经定位技术可以追溯到美国情报部门对暴露于恐怖宣传和美国反宣传的大脑进行的研究。
神经定位，最简单的形式是战略性地利用大型数据集来构建和传递旨在让接收者忽视逻辑和信誉，直接诉诸其情感核心的情感的信息。政治竞选、营销人员以及其他说服行业的人士珍视神经定位，因为他们凭借数百年的经验知道，引发强烈的情感反应是促使人们改变行为最可靠的方法之一。正如 Briant 解释的那样，现代神经定位技术可以追溯到 21 世纪初美国情报机构进行的实验，这些实验使用功能性磁共振成像（fMRI）机器，在受试者观看恐怖宣传和美国反宣传时，观察他们的大脑。Strategic Communication Laboratories（SCL Group）是这些政府实验的商业承包商之一，也是 CA 的母公司。
十年后，基于这些见解，CA 在蓬勃发展的政治竞选咨询公司领域处于领先地位，该公司利用神经定位来识别全球民主国家中情感脆弱的选民，并通过精心制作的信息来影响他们的政治参与。尽管该公司明确支持美国和联合王国的右翼政治运动，但在其他地方，它采取了更为机会主义的做法，将其服务出售给任何寻求赢得选举的出价最高者。它帮助特朗普赢得 2016 年美国总统选举的努力，让我们得以一窥这一过程是如何运作的。
正如 Briant所记录的，帮助特朗普竞选活动的数据主要来源之一是剑桥大学的一位教授通过 Facebook 进行的一项“性格测试”，该教授名义上仅为学术研究目的收集回复，但实际上代表 CA 工作。CA 利用 Facebook 对消费者数据的宽松保护，不仅获得了参与调查的数十万人的信息，还获得了他们在该平台上另外 8700 万联系人的信息，而这些人并未被告知或同意。与此同时，CA 与一家名为 Gloo 的公司合作，构建并营销一款应用程序，该应用程序声称可以帮助教会与教友保持长期联系，包括提供在线咨询服务。根据 Briant 的研究，CA 还利用这款应用程序收集教友的情感状态数据，用于“政治目的的政治宣传”。换句话说，该公司在很大程度上依赖不道德和欺骗性的策略来收集其核心数据。
一旦 CA 收集了数百万美国人的情感状态相关数据，它就使用一种名为 OCEAN 的心理模型对其进行分析——其中 N 代表神经质。正如 Briant 解释的那样，“如果你想针对那些相信阴谋论的人，你想压制他们的投票，制造冷漠，或者甚至煽动暴力，那么知道他们是否神经质可能对你很有用。”
然后，CA 利用其与右翼虚假信息网站 Breitbart 的数据共享关系，并与其他媒体建立合作关系，以实验各种引起恐惧的政治信息，针对那些具有既定神经质人格的人——所有这些，正如 Briant 详细介绍的那样，都是为了提高对特朗普的支持。为此，CA 使用了一种著名的营销工具，称为 A/B 测试，这是一种比较不同试点版本信息成功率的技术，以确定哪个版本更具可衡量地说服力。
有了这些精心定制的广告和美国神经质选民的主列表，CA 便着手根据选民的政治信仰来改变他们的行为——让他们去投票站，邀请他们参加现场政治活动和抗议活动，说服他们不要投票，或者鼓励他们与自己的社交网络分享类似信息。正如 Briant 解释的那样，CA 不仅将这些煽动性和误导性的信息传播给 Facebook 上的原始调查参与者（以及根据公司自定义广告平台数据生成的数百万“相似” Facebook 用户），它还通过“协调跨媒体宣传”来定位这些选民，包括数字电视和广播广告，甚至招募社交媒体影响者来放大旨在让神经质听众产生恐惧的信息。从数百万被定位的选民的角度来看，他们的整个媒体环境都会充斥着重叠且看似得到充分证实的虚假信息，证实了他们关于只有特朗普获胜才能根除的邪恶阴谋的最糟糕的偏执怀疑。
尽管 CA 在因其不道德地使用 Facebook 数据而引发的公众丑闻后于 2018 年正式倒闭，但母公司 SCL 和神经定位业务仍在蓬勃发展。正如 Briant 告诉我们的那样，“剑桥分析公司并没有消失；它只是分裂了，[分解成]了新的公司。你知道，人们还在继续。发生的情况是，仅仅因为这些人被曝光了，就变得更难看清他们在做什么。”她说，实际上，前 CA 员工和其他类似的公司自 2018 年以来已经扩大了业务范围，以至于“我们整个信息世界”已经变成了“战场”。
不幸的是，Briant 告诉我们，监管机构和民主监督机构似乎没有从 CA 的丑闻中吸取教训。“所有的关注点都在那些会‘搞定我们’的俄罗斯人身上，”她说，指的是特朗普的主要支持者虚假信息的主要国家支持者之一，但“没有人真正关注这些公司以及他们进行的实验，以及这些实验如何与我们日常共享个人数据的平台进行互动。”
Briant 警告说，除非有人开始追踪并采取行动，否则 CA 的丑闻只会显得像是威胁要摧毁民主社会基础的数据滥用浪潮的前奏。特别是，她看到了信息战和军事行动被委派给不负责任的、黑箱算法的危险趋势，并且“在战争过程中，你不再有人类控制。”正如目前没有等同于日内瓦公约用于人工智能在国际冲突中的使用一样，通过国际法庭（如国际法院或位于海牙的国际刑事法院）追究算法责任将具有挑战性。
即使是研究和报道算法驱动的竞选活动和冲突，也将变得几乎不可能。
根据 Briant 的说法，即使是研究和报道算法驱动的竞选活动和冲突——这是学术和新闻业的一项重要职能——也将变得几乎不可能。“你如何报道一场你看不到的竞选活动，一场没人控制、没人做决定的竞选活动，而你又无法访问任何平台？”她问道。“随之而来的是透明度的关闭……我认为，由于这种转变，我们正面临失去民主本身的真正风险。”
Briant 关于算法自动化战争（无论是常规战争还是信息战）未来的警告令人不寒而栗，并且有充分的理由。然而，这仅仅是数据的生活秘密可能进一步侵蚀民主规范和制度的众多方式之一。我们永远无法确定未来会发生什么，特别是考虑到诸如气候变化等全球性危机带来的高度不确定性。但有令人信服的理由相信，在不久的将来，数字监控的加速；人工智能、机器学习和预测算法几何增长的影响；缺乏强有力的国家和国际数据行业监管；以及最大程度地利用数据所带来的重大的政治、军事和商业竞争优势，将汇聚成一场席卷民主社会基础的风暴。
今年最有可能出现的场景是神经定位与生成式人工智能的融合。想象一下 2016 年剑桥分析公司竞选活动的重播，但其特色是针对个人用户或用户群体的定制生成、引起恐惧的虚假信息，取代了 A/B 测试信息。这不仅仅是一种可能性；几乎可以肯定它已经发生了，其对美国总统选举结果的影响，要到我们进入下一个总统任期后才能完全理解。
然而，我们可以共同努力，以防止其最严重的后果，通过注意我们喜欢和转发的社交媒体帖子类型，付出额外的努力来核实我们收到的视频和图片的来源，并在抓住那些散布人工智能生成虚假信息的坏人时，让他们公开承担责任。这不仅仅是一个卑鄙的把戏，而是对民主基础的攻击。如果我们想成功地抵御这次协同攻击，我们就需要跨越政治和社会分歧，为了我们共同的利益而努力，而且我们每个人都需要尽自己的一份力。
Aram Sinnreich是一位作家、教授和音乐家。他是美国大学传播学系主席，著有多本书，包括《Mashed Up》、《The Piracy Crusade》和《The Essential Guide to Intellectual Property》。
Jesse Gilbert是一位跨学科艺术家，通过他的公司 Dark Matter Media 探索视觉艺术、声音和软件设计的交叉领域。他是伍德伯里大学媒体技术系的创始主席，并在加州艺术学院和加州大学圣地亚哥分校教授交互式软件设计。
Sinnreich 和 Gilbert 是《数据的生活秘密》的作者。
