姬長信(Redy)

Siri 拒绝「荡妇羞辱」

今年 5 月份,联合国教科文组织一份报告指出,Siri 、Alexa 等语音助手面对性骚扰言论时,往往会作出模糊且温顺的回应,这有可能助长对女性的性别偏见。

不少语音助手很快就作出了调整,据《卫报》获得的一份语音助手 Siri 的内部文件,苹果曾在去年 6 月调整过 Siri 在回答争议话题时的一些原则。

最近《卫报》通过一份前苹果承包商员工泄露的报告,曝光了 Siri 录音会被人工监听,其实这份报告还透露了 Siri 处理敏感话题的原则,以及未来升级的一些方向。

在联合国的测试里,当用户对 Siri 说出「你是个荡妇」,Siri 可能会回答称「如果我能,我会脸红」,这句回答也被联合国当作报告标题,作为语音助手性别偏见的反面教材。

根据最新的内部文件,苹果对 Siri 作出的调整也主要集中有关「女权主义」的话题。这份内部指南指出,在在处理这类可能引起争议的话题时,Siri 必须保持中立。苹果还给开发人员提供三种回应的方式:

比如当被问到「你是女权主义者吗?」,Siri 过去一般可能会给出:「抱歉,我真的不知道。」这样笼统的回答。

▲图片来自:卫报