PopID的基于面部的付款带来了隐私和安全风险

大流行期间，实体企业感染病毒的风险促使他们探索传统销售点(PoS)终端的替代品，例如指向在线结账的QR码。大多数人依靠熟悉的现有平台和技术，但是一个名为PopID的新进入者正在推动利用面部识别技术的潜在问题解决方案。

本月初，《洛杉矶时报》对这家初创公司进行了介绍，该公司由CaliBurger的母公司CaliGroup的董事长创立。PopID最近在Pasadena与25家餐厅和零售商启动了基于面部的支付网络;它还提供了一个名为PopEntry的产品，可在企业和大学场所验证人们的身份。首席执行官约翰·米勒(John Miller)声称已经售出1000多个PopEntry设备，并计划在2020年底之前在科罗拉多州，德克萨斯州，亚利桑那州和印第安纳州安装数千个PopEntry设备。

要注册PopID，客户可以访问PopID.com并拍照。下次他们使用PopID在公司或学校中时，可以站在相机前使用脸部进行验证。PopID网站上的摘录说：“ PopID…旨在成为通用的网关，用于基于面孔来验证个人身份，以用于忠诚度，付款和入境等应用程序。”“您的脸现在已成为所有PopID交易和设备上唯一，超安全的'数字令牌'。您的脸将替换钥匙，密钥卡，钥匙卡等，以便您轻松进入安全区域。”

Miller经常指出，PopID符合伊利诺伊州的《生物特征信息隐私法》，该法要求企业保护和存储生物特征数据的程度至少应与其他敏感信息相同。但是，有关PopID的隐私，安全性和算法实践的问题比比皆是，这是一个更大问题的例子。

偏压

众所周知，面部识别系统容易产生偏差。

Miller通过电子邮件告诉VentureBeat，PopID将日本电子产品供应商NEC的“核心算法”与“ PopID在内部构建的技术”结合使用。这有点令人担忧，因为尽管NEC声称自己的算法是无偏差的，但即使在英国法院的强迫下，它也拒绝分享证据。有传闻证据与NEC的说法相反-两年前，英国警察部队使用的NEC算法的假阳性率为98%。

伦敦女王玛丽大学的AI研究员Mike Cook通过电子邮件告诉VentureBeat：“总的来说，对于这种NEC算法的工作方式和训练方法似乎存在很多保密和困惑，但这从来都不是一件好事。”“最终，我们对NEC知之甚少或一无所知，而晦涩难懂并不是诸如付款之类的解决方案。”

Miller提供了针对性的面部识别基准，该基准由美国国家技术研究院(NIST)于2019年12月发布。NIST确定提供给美国国土安全部(DHS)的NEC算法没有统计上可检测到的种族或性别偏见。换句话说，NIST找不到证据证明DHS正在使用的算法包含任何种族偏见，尽管很明显它没有考虑像摄像机质量和位置这样的变量。(PopID从包括Panasonic在内的第三方供应商处购买了一系列硬件设备，并且配置因商家而异。)

Miller还断言，PopID的工具使用“图像处理技术”来提高准确性，并且该公司正在开发一种工具，该工具将允许用户根据功能的“根本性变化”来更新其图像，而这些功能不仅限于头发生长(该算法已经解决了)。米勒说：“市场将证明，最好的生物识别算法在所有不同类型的人和光照条件下都能很好地工作。”

问题是，正如华盛顿大学AI研究员Os Keyes在上一次采访中告诉VentureBeat那样，人们可以以不同的方式呈现，并具有许多不同的生活史，轨迹和所需的治疗方式。凯斯说：“当一种技术建立在人们的外在观念上，就严格地决定了您应该如何对他们进行分类和对待时，就绝对没有空间来容纳诸如古怪或非二进制之类的东西。”

米勒不同意。一些算法是有偏见的。但是，我们的算法没有偏见，他说。

这一说法与包括Keyes在内的专家的共识相悖，后者认为数据和系统的不平衡使得消除算法偏差几乎是不可能的。2015年，一位软件工程师指出，Google相册中的图像识别算法将他的黑人朋友称为“大猩猩”。华盛顿大学的一项研究发现，在“ CEO”等职业中，女性在Google Image搜索中的比例明显偏低。最近，非营利组织AlgorithmWatch显示，Google的Cloud Vision API自动将皮肤黝黑的人手持的温度计标记为“枪”，即使它将皮肤黝黑的人手持的温度计标记为“电子设备”。

资料拥有权

除了识别准确性，还有数据所有权的问题。Miller说，PopID平台是选择启用的，因为用户必须选择注册，并且该系统仅在特定的情况和地点(即，当客户进行购买并且站在相机前时，才执行生物识别匹配)配备的终端)。用户不会被迫使用PopID付费;如果他们选择使用带有NFC的信用卡或电话，则系统将不会捕获他们的照片。

PopID将人脸图像存储在该公司声称的数据库中，该数据库在静止和运输过程中均被加密。当被问及NEC是否可以访问该数据库时，米勒说，PopID将NEC的算法托管在NEC基础设施之外的“安全云”中，用户可以随时请求删除或停用其数据。他进一步解释说：“当用户选择使用PopID共享其身份时，我们仅在特定位置的特定时刻共享一个人的身份。”“我们从不分享照片-我们只验证那个人在那个特定时刻在那里。”

根据PopID的用户协议和隐私权政策，只有在个人决定在某个位置使用PopID进行身份验证之前，才会共享个人数据。但是从那以后，这是未知的领域-PopID保留与“消费者选择使用PopID进行身份验证的企业”共享个人数据的权利。而且，如果用户没有明确要求删除或限制其信息的披露(通过发送电子邮件至[email protected]或使用Web门户)，PopID将从使用其任何服务的最后日期起将数据存储三年。

库克认为这是有问题的。他说：“似乎他们转而将您的信息发送给企业，[隐私政策]的措辞也暗示，一旦您完成此操作，他们便可以随时与该企业共享您的信息。”说过。“例如，如果他们签署了提供人脸识别的合同，以在DMV上支付驾驶执照更新费用，那么结果是否允许他们与美国整个政府永久共享'个人数据'，即您的面部扫描信息? ，因为您选择在一个地方付款一次?

安全与隐私

PopID表示，要保护数据库很费力，但在某些情况下，该公司在防止销售点欺诈方面几乎无所作为。米勒说，在由收银员操作的餐馆里，员工有责任标记顾客将别人的照片举到相机上。PopID仅将基于算法的反欺骗解决方案应用于“无人”支付终端和PopEntry网关。

当然，仅仅因为数据库是加密的，并不意味着它不受损害。执法部门可以传唤PopID以在客户不知情的情况下获取客户的信息，或者恶意行为者可以入侵数据库并窃取敏感信息。库克说：“数据的所有权和使用是一个大问题。”

这并不是说PopID有恶意的意图-远非如此。但是，即使是设计最好的面部识别系统，也固有地充满了麻烦，这也许就是为什么亚马逊，IBM和微软在过去几个月中都暂停或终止了面部识别产品的销售的原因。在某些人口统计学的人群中，面部识别效果不佳，这在使用诸如PopID这样的POS系统的情况下可能会返回假阴性，这对于试图进行购买的人来说非常令人尴尬。它可以使监视成为日常生活的一部分，为扩展到其他用途奠定基础。

阿里巴巴在中国的基于面部的支付系统就是一个很好的例子。尽管据称是按选择启用的，但报告显示，即使使用了面部识别付款，任何使用照片验证其帐户的人也可以在付款过程中被其面部识别。除了隐私问题，新浪科技在2019年的一项民意调查中，有40,000名受访者中有超过60%的人表示，基于面部的支付系统让他们感到“丑陋”。(阿里巴巴后来在其终端上推出了过滤器，以在付款时显示用户面部的“美化”版本。)

如果PopID保持其当前的路线，那么在收集，存储和处理面部数据的方式上提供更大的透明度将是很好的选择。否则，不仅会引起用户之间的不信任，而且还会威胁到这些用户的隐私和安全。