点击此处查看算法产生冒犯性内容的其他示例。
仅仅因为你可以使用算法来制作标语，并不意味着它们会按照你期望的方式出现。
这是通过亚马逊销售的零售商 Solid Gold Bomb 在本周发现其销售页面上出现冒犯性 T 恤后学到的教训。这些 T 恤是几年来流行的“保持冷静，继续前进”标语的“戏仿”。只是这些版本带有冒犯性和厌女症的标语：“保持冷静，强奸”。“保持冷静，用刀捅她”。这些 T 恤现已被撤下。
谁会想到这些 T 恤是个好主意？
实际上，这不是“谁”。而是一个算法，旨在将形容词和动词与标语进行匹配，希望能找到一个赢家。T 恤设计是自动生成的，并发布到亚马逊的英国页面上。如果有人在寻找某种设计——也许是“保持冷静，跳舞”——Solid Gold Bomb 会按需打印并送到他的或她的家门口。
Solid Gold Bomb 的首席执行官兼创始人 Michael Fowler，在他自己的网站上解释道。
由于单词/标语/风格/颜色/尺寸的组合数量高达数百万，因此使用了大量计算机在云环境中完成这项工作。最终生成的文件列表创建了基本数据，问题的核心无疑是某些单词单独或组合使用时具有冒犯性或变得具有冒犯性。这从 202k 个单词筛选到大约 1100 个，最终使用了 700 多个，因为考虑到字符长度以及我希望图形上尽可能贴近原始标语的外观。
所以像“强奸”、“刀”和“打”这样的词显然被混入了算法的汤里，然后吐出了这些冒犯性的 T 恤设计。这也意味着，是的，Fowler 让这些冒犯性的词语溜过去了。值得称赞的是，他为这次疏忽道歉，而不是将责任完全归咎于算法。
这一切听起来都像是算法是一项糟糕的投资。它们仍然太愚蠢，无法挑出消费者想要的东西，而且结果有时会很冒犯，最不济也十分可笑。算法服装网站 Idakoos 是我们最喜欢的网站之一；“亲我，我是农艺师。” 看起来很傻，但 “我爱静止的女孩” 则显得有点邪恶。
这些公司背后的人明白，他们不需要总能产生赢家的算法；他们只需要能够随机产生一两个赢家，或者数千件只卖出一两次的衬衫的算法。这类项目的开销非常小：没有人挤在一起想 T 恤的点子，也没有印刷数千件永远卖不出去的 T 恤的风险，因为这些 T 恤在有人购买之前并不会被印出来。只有一个盲目碰壁的算法，偶尔可能会幸运。
而且，这些垃圾邮件机器人最终会变得更聪明。它们将能够根据哪些商品卖得最好来调整，从而做出符合市场的理性决策。但至少在不久的将来，仍然需要人工来纠正任何严重的错误。
