代码深度歧视:在算法中打击种族偏见

4.
源代码
图像信用:Depositphotos

种族偏见渗透到我们周围的技术。微妙的偏见被编织在我们每天使用的机器和设备中,导致我们的技术工具显示歧视。

这种算法偏差的这种兴起意味着技术不仅表现为偏见,而且还燃料燃料。以及技术进入我们生命的每个区域的扩散意味着种族主义每天都渗入更多(看似公正的)产品和过程。更糟糕的是,AI动力工具的持续崛起可能会看到这些问题呈指数增长。

但大多数“种族主义”技术工具并不是恶意的歧视。更常见的是,偏差在开发和设计过程中源于监督。以下是您需要了解这段代码深入歧视的东西,我们可以做些什么来打击机器中的种族偏见。

问题

技术中的种族主义比你所期望的更进一步回来。回到20世纪50年代 - 60年代,新兴照相机和彩色胶卷旨在专门制作白色皮肤看起来不错。在解决问题之前,它从家具和巧克力公司抱怨。(摄像机使他们的产品看起来很糟糕。)

今天的相机并没有更好地表现得更好。例如,我们现在有照片应用程序声称让您更具吸引力('热')淡化你的肤色

AI工具的兴起仅添加到问题中。面部识别AI提供了一个剧烈的例子。当他们穿着白色面具时,颜色人民据报道,发现更容易使用面部识别。确实,研究表明面部识别系统对颜色人具有更高的错误率。颜色妇女的最大错误率为35%。

AI识别黑色皮肤的真正困难。在途中和无人驾驶汽车,这种技术上的偏见很快就会被证明是致命的

这个问题还有更多

技术上的种族主义也不仅仅局限于工具上的颜色偏好。有偏见的算法意味着,由于一种被称为过滤泡沫“。

过滤泡沫发生,因为算法向您展示您喜欢和相关的内容。随着时间的推移,与与您不同的人有关的内容,或持有对立视图,最终会超出您的新闻源。

结果是从另一个人的角度淡化了世界的经验和表现。因此,你的观点会逐渐变得更加激进,因为你只会过度使用一个狭隘的观点。

换句话说,“种族主义'算法”在人类中潜在地加剧歧视性意识形态。

多元化的招聘

团队合作

技术未在真空中创建。它被人类喂养。如果我们的技术工具背后的人类有偏见意识或其他方式,它可以污染技术。

然后,更多样化,那么,可能有助于平息我们的技术工具的种族主义。实际上,科技行业内的劳动力在很大程度上是同质的。科技员工的颜色,女性和老一代人都明显稀缺。然而,这种白色创造的技术,雄性大多数人为我们所有人都有影响。

我们的技术至少部分地反映了这一目前缺乏招聘多样性。通过多样化我们工具背后的人,我们将在开发期间获得更广泛的洞察力。也就是说,在产品背后的折衷团队创造了更多的机会来识别种族可用性问题。例如,由种族多样化的团队开发的面部识别装置不太可能专注于白皙的皮肤。

除了任何进一步的好处,技术产业劳动力的多样化是一种需要追求的变化。但它不太可能自己打击机器的种族偏见。

解决AI偏见

AI特别容易沉迷于偏见。它需要大量的培训数据来准确地学习。如果那么,那个数据不是多样化的,结果如何公平?

偏见培训数据是AI种族偏见的主要原因。如果它的训练从未教导这样做,AI无法识别颜色的人。在没有首先进入偏见的信息的情况下,也不能将“热情”属于浅色肤色。并且它也不知道它正在执行的进程是否是种族中立的。

它归结为开发人员,以确保包含在他们创建的AI工具中。然后,减少AI偏差的步骤是确保任何和所有培训数据都足够多样化并且代表工具将影响的那些。

倡导透明度

AI工具也可以学到太多。例如,它们可能会学习基于一个比赛的关键字在另一个比赛中排除应用程序或结果。就像亚马逊一样AI招聘工具做过。

培训数据提供跳板,但每个交互进一步塑造AI工具的输出。因此,重要的是我们可以了解自动决策背后的推理。如果我们不能,检测潜在的偏见或歧视变得更难。

因此,透明度是另一个可以帮助我们打击“种族主义”技术的关键工具。这意味着定期分析技术工具输出背后的原因。这将使我们认识并修正有害的“规则”

记住局限性

最后,打击技术工具中的代码深度歧视意味着记住这些工具的局限性。

技术中种族主义的许多主要问题来自于对技术的过度依赖。但如果我们记得这些工具尚未完美,我们可以防止大部分偏置工具可以做的伤害。

我们的“种族主义”技术工具不知道更好。技术工具有没有道德指南针,他们无法注意到自己的偏见。技术责任为技术落后的团队,为工具提供道德。这意味着技术团队继续跟踪,调整和调整他们的创作是重要的。

用科技打击种族主义

在其他地方,技术正在缓解种族问题。例如,拿走优步。优步拥有让它更容易为有色人种提供帮助(尽管是无意中)。

它很小,但不是微不足道的。也就是说,Uber独自不会打击所有种族主义。但它确实去展示了种族包容性技术的影响程度如何能够对人们的生活有多少钱。

技术确实有能力帮助我们打击种族主义。但首先,我们需要打击技术中的种族主义。

留下答复

本网站使用AkisMet减少垃圾邮件。了解如何处理您的评论数据