拥有超过100万的订阅者，全球最大的与国际象棋有关的YouTube频道，在2020年6月突然以“发布有害危险的内容”为由被关闭。卡内基梅隆大学的计算机科学家通过调查发现，这一不可思议的频道关闭很有可能是由于“AI将国际象棋的黑白两字误认为是种族歧视”而导致的。

　　Agadmator是国际象棋选手。经营着一个YouTube频道，提供国际象棋比赛解说，并拥有超过100万的订阅者。2020年6月28日，国际象棋选手中村光（Hikaru Nakamura）是该频道的第五位大师，在发布了赢得冠军头衔的比赛解说视频后，YouTube突然关闭了该视频。

　　帐户和频道在24小时后恢复。Agadmator推测“这部视频只讲了国际象棋，但提及“白色”和“黑色”国际象棋可能被禁止了。另外，Agadmator先生说，账号恢复后，直到现在也没有解释为什么关闭频道的原因。

　　对此,卡内基梅隆大学的语言技术研究所的研究人员——KhudaBukhsh领导的某研究小组, 从五个与国际象棋相关的流行YouTube频道中提取了680,000条评论，并使用两种经过自动训练的AI进行了分类排序。

　　事实证明，当研究小组从被判定为仇恨言论的评论中随机抽取1000条评论并手动检查内容时，其中82％并没有表达恶意。此外，错误判断的评论还包括国际象棋世界中常用的术语，例如“白色”，“黑色”，“攻击”和“威胁”。

　　据KhudaBukhsh介绍，这种由AI造成的错误判断还有很多。例如,AI图像识别“懒惰的狗”和“活跃的狗”时,区分活跃的狗的照片多是广阔的草原为背景,因此只要有足够多的与绿色为背景的狗活动照片——则被判定的为“活跃”的案例很多。

　　Khuda Bukhsh说：“由于用于YouTube的AI系统学习的数据集包含很少的国际象棋案例，因此可能会发生错误分类。如果您检测种族主义语言,依赖AI，则可能会发生这些事故。”