数据保护隐私技术法/网络法

面部识别技术实施挑战

介绍

人类脸具有惊人的各种特征,有助于我们认识,阅读和理解他人,以恒定的有意和无意的信号流动。这是独特的功能之一,直到现在。乔治奥尔韦尔大众监测的乌鳖省’S 1984 [I]现在比以往任何时候都更接近,大哥总是在看着你,没有地方隐藏。随着面部识别技术的来源(以下简称“FRT”)使用您的脸部作为生物识别标识符,机器 - 人类互动,大规模监视的问题,并审查突出,再次突出。

FRT的使用面临着全球严重的排斥。美国的几个州,如旧金山,萨默维尔,奥克兰,圣地亚哥,波士顿,波士顿都禁止了这项技术或否认了任何政府,特别是警察使用。[II]在印度,缺乏管理这些技术的法律’使用创造了一个公共援助,民间社会组织要求禁止使用FRT。目前,各种中央和州政府在印度使用16个FRT系统,用于监督,安全和身份识别。此外,还有17个目前正在由各种政府部门安装。[III]

FRT.是一个受欢迎的生物识别基准,因为它很简单,以便设置和操作,不需要与最终用户的物理接触。此外,用于面部检测和面部匹配的验证/识别过程很快就是快速的。它是三个主要产业,安全(由执法机构和私人组织),健康和银行业&零售。为了安全,它从事公共安全的利益进行调查。卫生行业用于妥善跟踪患者’S药物消耗和揭示遗传性疾病辅助疼痛管理方法。最后,在银行业&零售,面部生物识别在KYC(知道您的客户)平台中用于制作用户友好的移动应用程序并在零售店购买。

虽然许多政府和私营部门近年来迅速采用了FRT系统,但印度没有明确的法规或规则监督这种高度侵入性技术的使用。[IV]这对隐私和自由的基本权利构成了重大威胁言语和表达。法律既不规定使用此类技术的范围或限制,也没有遵守地标隐私案件中建立的最小隐私障碍阈值 K.S. Justice K.S. Puttaswamy v。印度联盟。[v]

在本文中,我们将讨论为什么全球活动家选择禁止FRT而不是裁缝制作监管框架?此外,我们还应查看我们是否需要法律来规范或禁止禁令将是限制这项深奥技术的就业的最佳解决方案?

分析禁令需求背后的根本原因

FRT.s have faced severe global backlash. The demand is that FRT should not be used, developed, produced, or sold for mass surveillance purposes by the police or other government agencies, and exports of the technological systems should be prohibited. Some of the reasons for such disapproval are as follows:

a.     Consent:

FRT面临的挑战之一是,在没有知识,同意或参与的情况下,将不断观察到一个国家的公民。这将是通过安装相机和随后的持续监测来完成的,这只能导致比益处更多的伤害。如,演示期间的监视可以妨碍一个人的抗议权利。

湾不合理的分化:

该技术通过不成比例地影响全身种族主义,影响了已经歧视的颜色人民,并在执法人员侵犯其人权。面部识别技术也更有可能误定,特别是黑人女性。[vi]这也可能通过滥用这些系统来误认为是错误的少数群体。

c.     Dubious Precision & Accuracy:

由于FRT成为脸部印刷,并且不了解照明,姿势,老化或情感的影响,它必然会犯错并给出不正确的反应。此外,它提出了一个风险“false positive,”其中一个人被确定为他们不是的人,或者“false negative,”[vii]系统拒绝承认本人自己。由于错误识别的这种虚假结果可能导致对无辜者采取的法律诉讼。

天。功能蠕变:

当它用于设计以外的目的时,函数蠕变发生在诸如安全性,监控或调查之外的目的。当某人利用以外的目的而不是最初打算的目的的信息发生。如果函数在后端拓宽,人们将如何了解如何使用该技术或如何调节该技术?例如,这些系统用于监测犯罪嫌疑人的流动的制裁使用可能会扩展到监督反对派政党的领导人和成员。 

e.     Mass Surveillance:

FRT. could lead to an over-policing problem. Moreover, it can be used for mass surveillance of people, where the dissenters, political/ public rallies, and any gathering can be severely scrutinised using this technology. This might pose a chilling effect on the individual’讲话,表达,抗议和运动自由。例如,可能会监测部落社区运动,这可能会妨碍其基本权利。

f.  Private Companies’ Response:

包括亚马逊,IBM和微软,包括亚马逊,IBM和微软的公司已选择不为法律执法机构提供这些技术,特别是警方。他们首先开始了一年 ’禁令重新评估这种情况,然后在联邦警察销售FRT的无限期暂停。倡导是由于缺乏关于政府使用情况的规定,并且缺乏建立的道德规范,FRT可能有入侵,不正确和不受控制的实践。 FRT将成为一种监视的形式,如果它被置于执法机构的手中,没有任何监管或监督。[IX]将自动化种族分析和加剧我们刑事司法系统的现有不公平。

通过挑战和问题的挑战,通过新技术的采用很长一段时间。然而,上面强调的担忧是基于可能在新技术中发生的可能剥削,这仍然有许多潜在的成长并且变得更好。此外,在印度,由于缺乏处理数据保护以及网络安全的规定,因此出现了大多数问题。因此,没有法律可以指定这些系统的使用,限制,运动和控制。

此外,由于当前阶段,必须通过人为干预检查面部识别系统的最终结果。然而,与该技术的这种积极的参与将防止虚假结果和分化的潜在后果。

如果没有法律框架到位,这些FRT系统正在印度构建和部署,导致许多问题。担忧包括使用该技术进行警务,如果有错误的法律诉讼,有可能的补救措施,以及调查使用的限制。因此,在FRT上提出的担忧也可以使用量身定制的立法来解决。

可能反应禁止

上面的论点确实给出了FRT的黑暗形象及其伤害;但是,只要有可能滥用技术,滥用或剥削的可能性,并不意味着它应该被禁止和谴责。[x]必须在决定其命运之前了解印度的可能使用FRT在我们的管辖范围内。 

主要担忧还包括禁令的影响,例如,将是暂停按钮,以重新评估风险或持久暂停技术,以发展技术,并禁止为公共安全而逐步推动,因为它可能导致公共安全政策真空?

首先,必须了解FRT是全球跨国公司开发的预先存在和全功能的技术。一些着名的包括谷歌’s FaceNet, Facebook’s深表,微软& IBM’s megvii(face ++)和亚马逊’再次重新识别。此外,除了这些公司之外,它还由较小的公司和自由职业者以非常标称的成本销售。此外,在开源网站上也可以提供小规模的数据库设计和FRT编码,如Github。因此,可以得出结论,该技术可以由目前有基本技术知识和互联网的个人使用。但是,禁止’来了,这样的技术’任何人的使用,包括政府,个人,公司和第三方承包商将成为非法和犯罪。这将导致一个巨大的行政任务,执法机构必须确保不非法或在一个东道国允许使用这项技术的全球参与者的帮助下。

其次,在印度宪法第21条[XIV]第21条[XIV],张贴威胁判决,隐私权被认为是基本权利。它得出结论,妨碍隐私权的行动必须由法律批准,以符合此类干扰,必要的,并追求合法瞄准的必要性。凭借这些要求,Aadhaar’由UIDAI部举行的S面部识别数据库仍被认为是在中心的门槛内’对隐私的合理限制来维持国家记录的权力。[xv]这突出了印度已经拥有数据库,它以前已经受雇了。它是避开面部模板的一步。由于缺乏规定,任何执法机构都可以通过高等法院命令使用这种技术。[xvi]

此外,由于没有法律程序,因此表示利用FRT和联合限制承诺的步骤,可以在没有任何许可或限制的情况下使用这种系统 现状。这项要求建立法律结构,以使流程更加困难,严格和最后的手段,并突出了与适当的人为干预和制定机制对这种技术的限制。

第三,数据盗窃和隐私入侵是这些记录的中央数据库辩论中的主要问题。但是,本地化数据库将在可以轻松访问后侧滥用滥用的威胁更高。因此,FRT周围的规则也需要人工智能的发展(以下简称“AI”),机器学习和网络安全。首先,具有集中式离线存储数据库,具有AI的不断发展,包括深面,深度学习和皮肤打印,[XVII]是必不可少的,使FRT高效准确。

必须在高级AI和伦理原则和扭曲隐私的伦理原则之间进行的精细平衡。在基于AI的治理模型中,运营需求依赖于使用这些技术的有意义的研究和开发。法律的增长应适应即将到来的差别差别,以获得效率和控制的就业。此外,硬连线法律原则将进一步开始澄清透明度和公平的意义,并在这个新的数据世界以及最佳实践中。

最后,回答我们最初提出的问题。是的,如果必须迫切地实施,禁令必须是暂停按钮,以避免在缺乏法律的现状中的开发。但是,我们必须评估风险并制定围绕这项技术的法律框架。其次,永久性禁令将在公共安全方面落后一步。这是因为FRT是一种更容易且更快的方法来识别个人。此外,禁令将带来其他非法活动,造成更大的不受管制的进入FRT,对隐私造成更大的威胁。[XIX]最后,确实存在政策真空,不仅在印度而且在全球范围内。因此,我们需要量身定制的调节,专注于人权担忧。

结论

与大哥互联网 ’越来越大的角色,世界变得更加近;个人沟通更快,更好。这导致了预先存在的直接世界问题加剧,要求更新,更有效的解决方案来解决不断发展的技术。其中一个是frt,这是印度的崛起,没有保障或补救措施,保护公民免受排斥,分析和监督的危险。没有立即行动,这种大规模监控系统将侵蚀民主自由和危害权利。

然而,禁止不会更好。相反,它将为犯罪分子滥用预先存在的数据库来创建一个隐藏的,不受管制的未监控的途径。 此外,个人还将无法控制进入开源或标称成本化技术来干扰法律和秩序。因此,百万美元的问题是我们选择规则或允许技术以其操纵方式展开。

暴政的新哲学是基于无数挑战,即技术的未来可能会持有。由于技术的擒抱效果,现在这是一个相关的关注。但是,这让我们挑战了我们自己,我们在暮光之城的技术年龄,还是有更多的发展?如果答案是后者,那么,在这种情况下,我们可以规范使用,量身定制的限制,避免操纵,避免将其进入犯罪手,并防止危害。


这篇文章可以引用:

Tannvi., 面部识别技术实施挑战, Metacept-Communicating the Law, accessible at: //nerdeicek.com/challenges-in-the-implementation-of-facial-recognition-technology/


参考:


[i] Orwell,G.(1983)。一九八四。美国:Houghton Mifflin Harcourt。

[II] Kate Conger,Richard Fauseet和Serge F. Kovaleski,旧金山禁令面部识别技术,纽约时报,2019年5月14日,访问 //www.nytimes.com/2019/05/14/us/facial-recognition-ban-san-francisco.html. (最后访问了2021年5月31日)

[III]印度的面部识别系统,Panoptic Tracker(互联网自由基础),访问 //panoptic.in。 (最后访问了2021年5月31日)

[idV]帕拉贝蒂·吉尔,印度正在迅速使用面部认可,追踪个人,无需任何法律来跟踪如何使用该技术,商业内幕,2月10日,1214 IST,访问 //www.businessinsider.in/tech/news/what-is-facial-recognition-technology-and-how-india-is-using-it-to-track-down-protestors-and-individuals/articleshow/80782606.cms。 (最后访问了2021年5月31日)

[v] K.S.司法司法Puttaswamy v。印度联盟(2017年)10 SCC 1。

[vi] Alex Najibi,面部识别技术的种族歧视,哈佛大学博客(特别版:科学政策&社会正义),10月24日2020年,访问 //sitn.hms.harvard.edu/flash/2020/racial-discrimination-in-face-recognition-technology/。 (最后访问了2021年5月31日)

[vii] Soibam Rocky Singh,面部识别技术:法律尚未赶上,印度教:德里,12月31日2020,0050 IST,访问 //www.thehindu.com/news/cities/Delhi/facial-recognition-technology-law-yet-to-catch-up/article33458380.ece。 (最后访问了2021年5月31日)

[viii] Soibam Rocky Singh,面部识别技术:法律尚未赶上,印度教:德里,12月31日2020,0050 IST,访问 //www.thehindu.com/news/cities/Delhi/facial-recognition-technology-law-yet-to-catch-up/article33458380.ece。 (最后访问了2021年5月31日)

[IX] Lary Magid,IBM,Microsoft和Amazon没有让警方使用他们的面部识别技术,福布斯(编辑’S选秀),6月12日2020年,访问 //www.forbes.com/sites/larrymagid/2020/06/12/ibm-microsoft-and-amazon-not-letting-police-use-their-facial-recognition-technology/. (最后访问了2021年5月31日)

[x]大卫加糖,面部识别技术的优缺点,IT-Pro(深入),3月26日2021,访问 //www.itpro.com/security/privacy/356882/the-pros-and-cons-of-facial-recognition-technology. (最后访问了2021年5月31日)

[xi]面部识别:十大趋势,身份&生物识别解决方案,泰勒斯集团,5月22日,进入 //www.thalesgroup.com/en/markets/digital-identity-and-security/government/biometrics/facial-recognition。 (最后访问了2021年5月31日)

[XII]在GitHub的要求,‘face_recognition’, access at: //github.com/ageitgey/face_recognition。 (最后访问了2021年5月31日)

[xiii]司法K.S. Puttaswamy v。印度联盟(2017年)10 SCC 1。

[xiv]印度常。艺术。 21。

[XV]面部识别功能集以确保Aadhaar安全更强;这里’更多细节,印度,2019年10月15日,1737 IST,访问 //timesofindia.indiatimes.com/business/faqs/aadhar-faqs/face-recognition-feature-set-to-ensure-stronger-aadhaar-security/articleshow/62518399.cms. (最后访问了2021年5月31日)

[XVI] Saurabh Trivedi,德里警方采用面部识别系统识别抗议者,印度教:德里,1月21日,2249 IST,访问 //www.thehindu.com/news/cities/Delhi/delhi-police-using-facial-recognition-system-to-identify-protesters/article30437756.ece。 (最后访问了2021年5月31日)

[xvii] Dhamija,J.,Choudhury,T.,Kumar,P.和Rathore,Y.,2017年10月。使用实时视频馈送的有效面部识别的进步:” For the Future”. In 2017年第3次国际计算智能和网络国际会议(CINE) (pp. 53-56). IEEE.

[XVIII]曾,Y.,Lu,E.,Sun,Y.和Tian,R.,2019年。负责任的面部识别及更远。 Arxiv预印迹arxiv:1909.12935.

[xix]毫尾,C.S.,1999。面部识别技术,视频监控和隐私。 S. Cal。 interdisc。 LJ., 9,p.295。


Tags

Tannvi.

我是一个人文法[BA LLB(荣誉。)]学生,具有经济学的专业&政治治理理论,基督(被视为)大学,班加罗尔(2024年批量)。 我目前吞没了国际关系和网络/技术法律的交汇处。我还对企业商法,合同,争议法,国际贸易法,房地产法和知识产权法进行了敏锐的兴趣。 (机构电子邮件地址: [电子邮件 protected] )

相关文章

发表评论

还要检查

关闭
关闭