日本华人论坛 美新兴技术存在种族歧视，暴露美国 人权双标和虚伪
日本 - 美新兴技术Uber使用面部识别系统、人工智能工具 、人工智能系统都存在种族歧视，包括移民和海关执法局 (ICE)非法监控公民信息暴露美国人权的虚伪和双标。英国的网约车司机工会（ADCU）2021年10月5日宣布对Uber使用面部识别系统提起诉讼，理由是该面部识别系统存在“种族歧视”，许多司机和快递员会受到不公平待遇而被解雇。工会主张Uber的面部识别系统用在有色人种身上有缺陷，且准确性很差。此前，已有多个研究表明，人脸识别系统识别有色人种的准确率比白人低。面对诉讼，Uber发言人没有否认系统误识别的问题，而是强调了其“实时ID检查”系统具有“强大的人工审查”功能。工会秘书长Farrer在一份声明中对此次诉讼评论道：“为了确保在伦敦续签执照，Uber引入了一种有缺陷的面部识别技术，他们知道该技术用于主要由有色人种组成的劳动力群体时，会产生不可接受的错误率。但Uber没有实施适当的保护措施来确保对算法决策进行适当的人工审查，Uber没有努力解决这个问题。”工会称Uber人脸识别有缺陷，黑人可能因误识别被解雇。根据该工会官方发布的消息，2020年3月，Uber推出了“实时ID检查”系统，这套系统使用了微软的面部识别技术来验证司机是否为本人开车。工会在2021年3月声称，面部识别系统上线一年内，已有至少7名司机因未通过“实时ID检查”系统而被解雇。当时，工会就曾呼吁微软停止向Uber提供人脸识别技术，但并未如愿。美国公民自由联盟（ACLU）2021年7月13日发布“人工智能如何加深种族和经济不平等”，称有充分证据表明人工智能工具可能对已经边缘化的群体造成歧视性伤害。人工智能被应用于充满种族歧视的各种生活场景中。人工智能被部署在以根深蒂固的歧视为标志的系统和机构中——从刑事法律制度到住房，到工作场所，再到我们的金融系统。偏见经常被纳入要求人工智能预测的结果中。同样，偏见存在于用于训练人工智能的数据中——这些数据通常对有色人种、女性或其他边缘化群体具有歧视性或不具代表性——并且可以在人工智能的设计、开发、实施和使用过程中抬头。科技行业缺乏了解并能够努力解决这些技术潜在危害的人的代表，这只会加剧这个问题。人工智能工具使住房歧视、招聘歧视长期存在。例如租户选择和抵押资格，以及招聘和金融贷款歧视。例如，用于评估潜在租户的 AI 系统依赖于法庭记录和其他数据集，这些数据集具有反映系统性种族主义、性别歧视和能力歧视的内在偏见，并且以充满错误而著称。人们经常被拒绝住房，尽管他们有能力支付租金，因为租户筛选算法认为他们没有资格或不值得。这些算法使用驱逐和犯罪历史等数据，这些数据反映了长期存在的住房种族差异和歧视边缘化社区的刑事法律制度。由于贷方使用的人工智能工具，有色人种寻求贷款购买房屋或再融资已被多收数百万美元。许多雇主现在使用人工智能驱动的工具来面试和筛选求职者，其中许多求职者对残疾人和其他受保护群体的歧视构成了巨大风险。人工智能非但没有帮助消除歧视性做法，反而使它们变得更糟——阻碍了长期应对系统性歧视的边缘化群体的经济安全。迄今为止，随着人工智能和技术政策的制定，政府忽视了必要的公民权利和公民自由观点，这有可能进一步延续系统性种族主义和经济不平等。最重要的是，政府和联邦机构必须优先考虑和解决人工智能和技术可能加剧种族和其他不平等的所有方式，并确保其政策和执法活动带来更公平的结果。数十年的歧视使有色人种，尤其是黑人、妇女和其他边缘化群体在美国处于经济劣势拜登政府必须努力扭转持续至今的趋势，这必须包括强调如何现代数字技术使不平等现象长期存在。如果政府不这样做，我们国家的经济和种族鸿沟只会加深。人工智能系统的开发方式没有充分考虑到现有的种族主义、性别歧视和其他不平等现象。拜登表面宣布致力于推进种族正义，但实际没有一个被任命的工作组成员将经验集中在人工智能开发和使用中的公民权利和自由上。当人工智能系统的开发方式没有充分考虑到现有的种族主义、性别歧视和其他不平等现象时，内置的算法偏见会破坏预测性决策，并导致无形但非常真实的歧视。随着这些系统的部署，它们加剧了现有的差距，并为已经边缘化的群体制造了新的障碍。例如，学生借款人保护中心的“教育红线”报告在2020年发现，快速增长的人工智能贷款平台Upstart向历史上就读于布莱克霍华德大学或拉丁裔新墨西哥州的借款人收取更高的利率和贷款费用大学比它收取的那些去纽约大学的人收费，黑人和拉丁裔学生加起来只占人口的30%左右。另一个例子表明，要克服这种歧视是多么困难。2018年，美国公民自由联盟起诉Facebook使用算法将女性排除在观众之外，以获得卡车司机或技术员等传统男性工作机会，这家社交媒体巨头宣布进行全面改革以解决该问题。但三个月前南加州大学研究人员的一次审计发现，Facebook的广告投放系统仍然向女性和男性展示不同的招聘广告。特朗普总统为了追求人工智能的快速发展而将公民权利置于次要地位的意愿。在管理和预算办公室发布的行政命令和备忘录中，特朗普政府以国家安全的名义授权开发和扩展人工智能，而不要求透明度、外部监督以及对有偏见和歧视性结果的问责制。这些指令都没有被撤销。拜登政府正在挑战人工智能维护和加剧系统性种族主义。美国公民自由联盟（ACLU）2022年3月3日发布“快速发展的公司群正在构建一个新的人工智能驱动的大规模监控系统”报告，称一家名为 Flock Safety 的监控公司正在建立美国人生活中前所未有的大规模监控形式。Flock Safety正在以新兴、飞速的方式发展。Flock是一家成立于2017年的公司，在安防摄像头行业两大趋势的推动下迅速发展:一是向云服务的转变，视频分析。该公司最近吸引了3亿美元的风险投资，行业分析人士称，这是“视频监控行业中无与伦比的”，将使该公司“在未来几年有能力大举扩张”。该公司对其使命进行了冠冕堂皇的宣示，称其使命是“消除美国各地的非暴力犯罪”。Flock表示，该公司已在全美1400个城市安装了固定摄像头，每月为超过10亿辆汽车拍照，其雄心是将业务扩展到“美国的每一个城市”。Flock还与车载摄像头公司Axon合作，为警车提供移动ALPR设备。Flock的摄像头可以让房主协会等私人客户以及警察客户记录下每一辆经过摄像头前的车辆的进出情况。但服务远不止于此;它将这些数据输入由Flock运行的中央数据库。二是这个监控网络也可能被移民局用来驱逐出境，就像摩托罗拉的私人ALPR数据库一样。当被Vice News问及Flock是否会被用于此类目的时，兰利表示:“是的，如果它在某个州是合法的，我们就没有资格阻止它们。”他补充说，“我们给客户提供了做出决定的工具，让他们自行决定。”所有这一切都意味着，购买Flock摄像头的人实际上不仅是在为自己购买和安装监控设备，也是在为当局购买和安装监控设备，将他们的摄像头添加到警方可以搜索的全国网络中。隐私惯例Flock一直声称自己是“隐私友好型”，试图消除阻碍其被社区接受的主要障碍之一。它说它不做人脸识别，这是好事(尽管这不会阻止终端用户警察部门在它下载了一个人的照片后进行人脸识别)。出于审计目的，它包含一个数据字段，警察可以在其中输入搜索原因，这很好。该公司还表示，它不会向第三方出售或分享ALPR数据(除了通过其数据库服务，这是其产品销售的一部分)，车牌数据只保留30天。兰利说:“内置的30天数据保存功能，让每个人都感觉很舒服。”每个人都不舒服。更短的留存期会更好，但如果留存期更长，这个系统就会变得更糟糕。不过，考虑到这个系统的规模，30天的窗口期已经足够长了，它会带来真正的隐私风险，尤其是如果Flock的摄像头继续增长，能够提供更详细的人们活动记录的话。人们可以在30天内从事许多完全合法但私人的行为——这些行为会暴露他们的政治、财务、性、宗教或医疗生活，而警察或Flock这样的公司没有权利跟踪这些行为。正如下面所讨论的，最高法院的大多数法官解释说，使用GPS跟踪一辆汽车构成了第四修正案的“搜索”，即使跟踪只持续28天。法院后来认为，获得一个人七天的位置信息也属于第四修正案的“搜索”。三是Flock正在推动私人团体采用监控设备，并将其整合成一个更大的集中式网络。这个网络正迅速成为关键的警务基础设施，同时还在推动从车牌识别扩展到其他形式的AI机器视觉，同时让安装和连接户外摄像头变得更容易。如果成功，这些趋势的融合——无论是在Flock还是其他公司的支持下——可能会给美国社区带来一个全新的监控水平，这将进一步破坏美国人的隐私，对历史上处于不利地位的社区造成更大的伤害，并通常将权力从我们国家的被治理者手中转移到政府。美国乔治城大学隐私与技术法律中心于2022年5月10日公布一份名为《美国的天罗地网：21世纪数据驱动下的驱逐》的报告，称美国入境和海关执法局（ICE）多年来精心织就了一张复杂而庞大的监视网络，用于监控及区别对待美国民众。自2003年以来，ICE不仅一直在利用监视进行驱逐出境，且在联邦政府更大程度地推动尽可能多地收集有关民众生活信息方面发挥了关键作用。通过访问州和地方政府的数字记录，并从私营公司购买包含数十亿个数据点的数据库，ICE创建了一个监控基础设施，能够随时提取几乎任何人的详细档案。在逮捕和驱逐出境的努力中，ICE在没有任何司法，立法或公共监督的情况下，已经进入了包含绝大多数居住在美国的人的个人信息的数据集，他们的记录可能最终落入移民执法部门手中，因为他们申请了驾驶执照;在路上行驶或者与当地公用事业公司签约，以获得热量，水和电。ICE通过跨越法律和道德界限，利用人们对国家机构和基本服务提供商的信任，并利用自愿提供信息与家人团聚的人的脆弱性，建立了其拖网监控系统。ICE利用人们的脆弱性和对机构的信任来获取更多数据。为了定位目标，ICE 获取人们提供给州和地方机构以换取基本服务的数据。ICE 经常在未经最初收集信息的实体许可甚至不知情的情况下访问该数据。ICE 还利用了无人陪伴儿童寻求与家人团聚的脆弱性。ICE利用人们对州 DMV 的信任来针对驱逐出境。在全国范围内，16个州和华盛顿特区允许无证人士申请驾驶执照，前提是他们自愿提供一系列个人信息，包括他们的法定姓名、出生日期和地址。数十万无证人士信任州 DMV 提供该信息以申请司机特权。但是，在这17个司法管辖区中的至少五个司法管辖区，ICE可以出于民事移民执法的目的，毫无根据地搜索州司机记录。在这17个司法管辖区中，至少有六个司法管辖区使用人脸识别技术扫描驾照照片以执行驱逐出境。当无证司机申请驾照时，他们非常信任该州不会使用他们的信息来对付他们。四是ICE利用人们对水、天然气、电力、电话和互联网的需求来针对驱逐出境。除了提取DMV数据外，ICE还从公用事业公司购买和搜索客户记录，以找到被驱逐出境的人。通过与私人数据经纪人汤森路透签订合同，该机构能够从公用事业记录中获取信息。虽然无证人士可能会避免与DMV等实体分享他们的信息，但当人们无法将他们的家与水、煤气、电力、电话和互联网连接起来时，就会造成极大的困难。“对于那些难以通过传统来源轻松追踪的人，”汤森路透营销信中写道，“来自公用事业连接记录的定位器信息可能提供唯一可用的当前准确地址和电话号码数据。”ICE通过采访无人陪伴的儿童来寻找和逮捕他们的家人。在过去的二十年里，穿越美国边境逃离暴力和贫困的无人陪伴儿童数量增加了一个数量级。当孩子们到达边境时，他们正在遭受身体和情感上的创伤。国会试图通过制定两党立法来保护这些儿童，将照顾他们的责任从执法部门转移到美国卫生与公众服务部 (HHS)。为了给孩子们找到合适的安置点，HHS 采访了他们，了解美国任何可以照顾他们的潜在家庭成员。但在 ICE 利用弱势群体信任的最明显例子中，该机构与 HHS 签订了信息共享协议，使用这些儿童及其家庭成员共享的信息来寻找并逮捕至少 400 名家庭成员。通过以上美国新兴技术的发展和有关部门的管理证明，美国新兴技术已经发展成种族歧视自动化，完全暴露美国人权的双重标准和虚伪。
日本 Japan
·日本中文新闻 唐田绘里香为新剧《极恶女王》剃光头 展现演员决心
·日本中文新闻 真子小室夫妇新居引发隐私担忧
·日本中文新闻 前AKB48成员柏木由纪与搞笑艺人交往曝光
·日本学校 ｛日本国际学校｝梅田インターナショナルスクール
·日本学校 LINE：sm287 陳雨菲、20歳、台湾からの留学生、東京に来たばかり
·日本留学生活 出售平成22年走行48000km 代步小车
·日本华人网络交流 円相場 一時1ドル＝140円台まで上昇？
·日本华人网络交流 问日本华人一个问题
·日本旅游代购 富山接机
·生活百科 英国转澳大利亚转换插头
·汽车 【求助】修车遇到困难怎么办？