// 新刊推荐

扫码购买

// 中经商学院

闪开!数据“裸奔时代”

原创 作者:陈茜 / 发布时间:2021-03-03/ 浏览次数:0

人工智能等数字技术生活为我们带来了便利和效率,同时,对个人信息保护的忽视也带来了不安和风险。
 
人脸识别被应用于各类场景的必要性和安全性堪忧;个人信息泄露引发网络暴力、人身安全财产损失频现;广告推销骚扰不断;“系统困境”“大数据杀熟”暴露出算法歧视;线上线下生活轨迹被“监控”……
 
在技术主义和商业利益驱动下,个人数据和隐私该如何得到尊重和保护?个人权利与公共利益该如何平衡?法律法规和科技伦理该如何发挥作用,让负责任的科技创新构建起我们所向往的美好生活?《商学院》记者采访了中国社科院科学技术和社会研究中心主任、研究员段伟文,谈谈“裸奔时代”,科技伦理如何共建?
 
对个人信息安全与权利的尊重需要提升
 
整体来看,个人信息安全是被忽视的。加强对个人信息安全的保护,这一观念和意识非常淡薄,根本原因是各方面对个人信息安全与权利的认识还没有上升到能与时代发展相匹配的高度,特别是在人工智能、大数据等数字技术高速发展的时代背景下。
 
向前回溯,现在各种监控设备,以及线下与线上场景对用户身份证、电话、姓名、指纹、人脸等个人信息的索取,始于各种身份登记和网络实名制。当公众把个人信息交给相关部门、企业或其他机构时,在法律和契约上并没有得到信息会妥善安全保存的保证。
 
从表面看,加大法律对个人信息泄露、违法交易等行为的惩治力度是最直接的解决思路。但是更根本的是应该意识到,面对当前个人信息安全和权利所面临的严峻挑战,必须使《民法典》《个人信息保护法》等已经出台和正在制定的法律法规中对个人信息权益与个人数据权利的保护落到实处,使国家对个人信息保护的重视,对个人权利的尊重(包括个人隐私权、自主选择权等)在社会生活中得到有力体现。如果缺乏这种意识,法律的惩戒很难发挥根本作用。
 
段伟文提出,在社会管理和治理中,有关部门应率先加大个人信息的搜集、使用和保存的技术保障,制订合乎法律法规与伦理规范的业务流程,公开数据采集和利用的原则,明确保护个人信息安全与权利等义务,其次,从技术标准看,需要进一步将法律法规中有关个人信息权益保护的要求贯彻到具体的技术标准之中,对个人信息安全保障技术做出相应的要求。
 
再而,用户个体需要提升自我保护意识,但个人信息安全与数据权利的自我保护所面临的现实困境。面对各种监控摄像头,以及各类APP对用户行为数据的采集,特别是在个人信息泄露、窃取个人信息等事件中,作为普通消费者的用户个体根本无力阻挡。
 
商业利益向左,科技向善向右?
 
关于商业利益和科技向善或科技伦理之间是否可以并行不悖?这不是理论问题,而是实践问题。目前来看,尽管企业因为海外业务而受到外部的合规压力,如果没有强大的舆论压力或法律规制,很难实现两者并行不悖。
 
在数字科技面前,个体处在信息和知识的弱者地位。除了各类APP过度采集数据用于用户画像,更多危险来自于企业从商业利益出发,利用数据分析和算法来“算计”员工和消费者。只有把这些行为的危害揭示出来,看它们具体触犯了哪些法律法规或行业自律规范。通过法律诉讼实践,形成重视个人数据安全和权利的社会舆论环境和法律氛围,进而促使相关企业和机构充分考虑商业利益和消费者权益之间的平衡。
 
谋求商业利益要遵循底线和红线,这并非很高的道德要求。目前来看,这一问题并不乐观,很多企业长期不顾公众的个人数据安全,难免食髓知味,积非成是。
 
作为公众,不能完全期待占据强势地位的企业有天然的善意,因为资本力量的驱动可能会令其偏离伦理轨道。
因此,除了企业自律与向善,还需要有人代表社会公众严肃呼吁,正告企业与资本,遵守科技伦理,重视个人数据安全和权利,否则要付出一定的代价。为了避免由此带来的风险,应该从长期主义出发在企业精神与文化层面引入根本性的观念变革。
 
科技伦理由谁提出,向谁提出?
 
近二、三年来,人脸识别技术在缺乏法律和伦理规范的情况下迅速推进。面对这一技术滥用的态势,媒体、社会舆论以及很多学者纷纷呼吁,人脸识别的场景应用应该以人为本,必须考虑其目的与实施过程的合法性、正当性与必要性,并进一步探讨如何使其应用合乎伦理。而这不仅给相关技术的设计者、开发者与部署者提出了规范性的要求,而且促使有关部门不能不正视科技伦理治理所面临的空前挑战。
 
一些科技企业,无论是出于良好的意愿还是为维护企业形象,纷纷提出一些口号、宣言、科技伦理规范,至少在形式上制定了一些自律架构。但是作为公众、普通员工或消费者,还是要听其言、观其行。而企业不应停留在倡议、宣言和伦理规范的制订层面,要在科技伦理落地上下功夫,以免给社会公众留下“作秀”和“伦理洗礼”的印象。
 
目前,中国制订了很多人工智能伦理与治理的规范和原则,从主管部门、相关部门的研究机构,科技企业、标准组织、行业联盟到创新试验区。这些规范和原则对人工智能相关伦理风险进行了讨论,并提出了倡导性伦理要求。
 
这些规范和原则一般都很正确而且周全,但在实践上存在两个问题:一是它们都是指导性、共识性、倡议性或指引性的,不论是哪个层级的规范,不论是简单的表述还是较为具体的陈述,都不具有强制性。二是它们没有进一步提出可操作的执行机制,也没有提出由谁来推动执行。
 
毋庸置疑,这些规范与原则的制订工作推动了我们对人工智能伦理与治理问题的认识。最近,国家信安标委发布了《网络安全标准实践指南——人工智能伦理安全风险防范指引》(下称《指引》),将人工智能相关活动的责任主体归纳为“研究开发者”“设计制造者”“部署应用者”“用户”四大类。这就可以帮助我们来厘清具体人工智能应用中的责任归属。以杭州某动物园人脸识别案为例,就可以进一步追问“研究开发者”“设计制造者”“部署应用者”应该担负哪些社会伦理责任。
 
法律与伦理互补,推进隐私保护与技术进步平衡
 
关于个人隐私的保护和智能生活之间的关系,对个人隐私的保护会影响智能生活发展的说法,很有可能代表的是企业立场。
 
从用户画像、个性化展示到生物信息识别等,大数据通过对用户线上线下行为轨迹数据不断进行分析挖掘。随着技术的发展,这种深度挖掘会令人更加“无处遁形”。比如人脸识别技术还被用来检测人的情绪,探究对方的心理活动,也不应该没有伦理边界。这类技术对人的权利和尊严具有挑衅性,如果不严格规制,可以说后患无穷。
 
人工智能技术的发展,现在必须要有一个伦理轨道上的“急转弯”。长此以往,这一技术的滥用将只会为高科技公司带来智能化的盈利,而并没有创造出让人们可以安心安全的智能化生活,甚至在一定程度上会使“被智能化”的芸芸众生陷入系统化的“愚蠢”而难于逃脱。
 
加强个人隐私保护,本身就应该成为技术创新要弥补的短板,技术创新者应该以人为本,通过技术设计为技术创新设置伦理下线和向善目标,使个人隐私加等个人信息权利得到充分保护。
 
关于在这一过程中,法律规范和科技伦理应扮演什么角色的问题。
 
首先,要做到有法可依。近期出台的《民法典》,以及尚未施行的《个人信息保护法》等,对个人信息采集和应用规范已经做了细致规定,要在法律实践中使它们得到落实。而未来依然要根据技术发展,不断健全法律法规。
 
同时,值得重视的问题是,在法律法规执行和实施过程中,如何真正站在普通员工、普通用户角度来实施和执行。目前,企业和机构依然是强势方。
 
如果依然按照以前一贯的做法,只站在企业方角度,采用“包容审慎,鼓励创新”的态度执法,缺乏对个人数据隐私权的尊重,将会把合规合法变成商业行为的“补充”,甚至是“形式化”要求,而不是对相关法律法规和法律精神的实质性落实。
 
其次,在科技伦理方面,除了现在一些行业联盟、企业等会发布一些倡议书、自律规范外,下一步很重要的工作是,将来自政府、企业界、学术界、法律界等相关人士,可以组成不同主题的科技伦理社群,针对一些案例、事件,讨论科技伦理的重要性,制定相应的科技伦理规范,通过“软法”规制相关企业和机构的行为。
 
尊重个人权利,避免技术滥用
 
关于人脸识别技术带来的对数据安全焦虑问题,最大的问题在于目前对这一技术的研发、设计制造和部署应用既没有具体的规范也缺乏有效的规制架构。比如什么类型的企业、机构可以开发人脸识别技术,什么场景可以应用,应该遵循哪些规范?现在完全没有规则,也没有相应的监管部门来约束。
 
这需要回答一个核心问题,人脸识别技术的作用是什么?如果是用来维护公共安全,就需要讨论哪些领域真正影响到公共安全,需要达到多高的公共安全指数?通过人脸识别能否提高安全性和效率,其中投入的技术升级成本和效益比是否可以被接受?在使用过程中是否征求了被采集者的同意,还是强制执行?
 
我们并不是抽象地反对人脸识别技术,而是要非常严肃认真地讨论其适用范围,并且依据是什么。如果没有规则和依据会导致很多问题,包括黑灰产市场,以及其他隐形危害。
 
关于个人权利与公共利益之间的平衡,在特殊情况下,可以为了公共利益让渡部分个人权利,比如疫情期间,社区“刷脸”出入;但是正常情况下,不应无条件地延伸这种做法。
 
在一般情况下,公共利益的维护不是无条件的,社会管理和治理的数字化智能化不能只考虑管理和治理的便捷。
 
不论是企业管理还是社会治理,应避免陷入唯技术论和技治主义,相关的技术创新不应以牺牲个人权利为前提。实际上,不论是管理还是治理,其对象都是人,单靠机器解决人的问题,无异于缘木求鱼,而且往往事与愿违。?
 
技术滥用对个人权利造成不必要的“剥削”,反过来会让员工和用户对技术产生负面的心理影响,丧失对新技术的信任,同时也会质疑技术滥用者对于技术创新和应用的责任意识。
 
人工智能等新兴技术的伦理风险已经成为全社会的普遍共识,人工智能的发展亟待一次价值与伦理的根本转向。是时候建立可执行科技伦理共建机制与治理架构了。中国要抓住这个窗口期,提高伦理规范门槛,促进企业承担更多社会责任,进而收获更多普通消费者和用户的信任。
 
所以,从长远来看,这不仅仅是商业利益和科技伦理、个人权利与公共利益的平衡问题,而是如何通过负责任的研究和创新,推动科技更健康发展,使创新成为值得人们信任的通往美好生活的力量。

欢迎关注平台微信公众号

 点赞 30
 收藏 20