了解 AI 系统如何根据您的自拍对您进行分类

现代人工智能经常因其日益复杂而受到称赞，但主要是在厄运方面。如果您处于世界末日的末日，人工智能革命将使数百万个工作自动化，消除现实与技巧之间的障碍，并最终将人类推向灭绝的边缘。一路上，也许我们会得到机器人管家，也许我们会被塞进胚胎豆荚并收集能量。谁知道。

但很容易忘记，现在的大多数人工智能都非常愚蠢，并且只在其底层软件经过专门训练的狭窄、利基领域才有用，比如玩中国古代棋盘游戏或将一种语言的文本翻译成另一种语言。

让你的标准识别机器人做一些新奇的事情，比如只使用它所获得的知识来分析和标记一张照片，你会得到一些荒谬可笑的结果。这就是ImageNet Roulette背后的乐趣，这是一个漂亮的网络工具，作为正在进行的关于图像识别系统历史的艺术展览的一部分而构建。

IMAGENET ROULETTE 会对你做出极其随机且极其错误的假设

正如艺术家兼研究员特雷弗·帕格伦( Trevor Paglen)与人工智能研究员凯特·克劳福德 (Kate Crawford ) 创建展览“训练人类”所解释的那样，重点不是对人工智能做出判断，而是要了解其当前的形式及其复杂的学术和商业历史，就像荒诞的有可能。

“两年多前，当我们第一次开始构思这个展览时，我们想讲述一个关于用于在计算机视觉和人工智能系统中‘识别’人类的图像历史的故事。我们对人工智能的大肆营销版本和反乌托邦机器人未来的故事都不感兴趣，”克劳福德告诉米兰的普拉达基金会博物馆，那里有培训人类。“我们想参与 AI 的重要性，并将这些日常图像作为快速发展的机器视觉文化的一部分认真对待。这要求我们打开黑匣子，看看这些‘视觉引擎’目前是如何运作的。”

这是一项值得追求和引人入胜的项目，即使 ImageNet Roulette 代表了它更愚蠢的一面。这主要是因为 ImageNet 是 AI 研究人员在过去十年中一直依赖的著名训练数据集，但通常不擅长识别人。它主要是一个对象识别集，但它有一个“人”类别，其中包含数千个子类别，每个子类别都勇敢地尝试帮助软件完成看似不可能的人类分类任务。

你猜怎么着？ImageNet 轮盘赌非常擅长。

我什至不抽烟！但出于某种原因，ImageNet Roulette 认为我这样做了。它似乎也相信我在飞机上，尽管值得称赞的是，开放式办公室布局仅比悬挂在数万英尺高空的狭窄金属管稍微少一点窒息感。

ImageNet Roulette 由在 Paglen 手下工作的开发人员 Leif Ryge 组合在一起，作为一种让公众参与艺术展览关于机器学习系统高深莫测性质的抽象概念的方式。

这是让它生效的幕后魔法：

该项目的一部分还在于强调 ImageNet 以“有问题”和“冒犯性”的方式对人进行分类的根本缺陷，因此是人性化的。（在 Twitter 上出现的一个有趣的例子是，一些上传照片的男人似乎被随机标记为“强奸嫌疑人”，原因不明。）Paglen 说，这对于该项目强调的主题之一至关重要，即人工智能的易错性系统以及机器学习偏见的普遍存在，这是由于人类创造者受到损害而导致的：

尽管 ImageNet 轮盘是一种有趣的消遣，但Training Humans的基本信息是一个黑暗但至关重要的信息。

“ Training Humans特别探讨了两个基本问题：如何通过训练数据集来表示、解释和编码人类，以及技术系统如何收集、标记和使用这些材料，”展览描述中写道，“随着 AI 系统对人类的分类变得越来越侵入性和复杂性，他们的偏见和政治变得明显。在计算机视觉和人工智能系统中，测量形式很容易——但秘密地——转化为道德判断。”