人工智能带来的首要挑战是个人隐私的消亡。在传统社会,隐私之所以被称为“私”,是因为它可以“隐”。中文词将其特点诠释得非常完美。

“当我看到柯洁在围棋比赛中负于机器时痛哭的画面,感到些许悲哀。作为世界顶级的围棋选手,他却被机器人击败了,并且在赛后说‘我回去让机器复盘检查错在哪里’。过去他只需自己复盘,而现在,机器会立即指出他的错误。这说明,机器与人力已不处于同一段位了,在机器面前,人类如同孩童一般。机器教给人类最初级的下法,而其本身的下法人类已不可理解。”

关键词:人工智能;个人隐私;数据产业化

“其他行业也面临同样的问题。如果机器学会作诗作曲,做出我们普遍喜欢的产品,那人类的生活就将完全改变。可以想象那个时代,杜甫将是极少数学院派研究的对象,因为机器已经影响了我们对音乐、美术、戏剧表演的喜好,我们会喜欢机器让我们喜欢的产品。”冯象对人工智能深刻改变人类生活的分析引发了现场观众的深思。

作者简介:

奥门金沙手机娱乐网址 1

今天我想从法律的角度谈谈人工智能带来的挑战。从人机关系的视角看,主要包括两项巨大的挑战,一是机器替换人类,导致失业浪潮;二是人工智能的军事化,智能武器在利比亚内战中已大量使用。用美国科幻文学的口号来说,未来已经来到。

世界排名第一的围棋棋手柯洁对战“阿尔法狗”

挑战之一:个人隐私的逐渐消亡

“我是阿尔法,机器人说,我是人工智能。人哪,你们准备好没有?”冯象在2018年出版的《我是阿尔法——论法和人工智能》中写道。曾经看上去属于未来、属于科幻的人工智能已经深度地介入到我们的生活,带来了严峻且不可避免的挑战,未来已经来到,一切皆有可能。

人工智能带来的首要挑战是个人隐私的消亡。在传统社会,隐私之所以被称为“私”,是因为它可以“隐”。中文词将其特点诠释得非常完美。

4月20日,在文汇讲堂暨华东师大第五届思勉人文思想节期间,主办方邀请清华大学梅汝璈法学讲席教授、哈佛文学博士、耶鲁法学博士冯象举办了一场“谁害怕人工智能”的讲座,冯象从法律的角度切入,分析了人工智能的现在与未来。

当前社会已经普遍使用机器智能,它能够记录每个人的行为与信用表现,其背后涉及的法律问题就是个人的隐私权。在法律层面,隐私权是一项非常重要的权利。美国在经过了多年的宪法诉讼后,隐私权早已被确立为宪法中的一项基本权利,中国编纂起草的统一《民法典》正在审核中,隐私权正是其中一项非常重要的内容。

奥门金沙手机娱乐网址 2

ai商业模式:与知识产权相反的数据获取

清华大学梅汝璈法学讲席教授、哈佛文学博士、耶鲁法学博士冯象

今天,人工智能的来临,导致隐私从人类的日常生活中消失。那么,我们是否有必要保护这种正在消失的权利?就像脸书创始人马克·扎克伯格说的:我们为什么需要隐私?我的客户很乐意把隐私交给我们,因为我们的服务能给他们带来不可抗拒的便利。尽管我们可从哲学、伦理学、法学等各个角度切入,寻找多种理论上的应对方案,但人工智能技术实际上在现有的市场经济条件下,必定会按照一定的商业模式涌入社会。推广人工智能最有利的产品就是智能手机。扎克伯格和他的团队惊人地推出人工智能的商业模式。

“我”的隐私将变成“他们”的财产

奥门金沙手机娱乐网址,人工智能的商业模式与知识产权模式完全相反。所谓知识产权,就是在任何无形的东西上设立产权。例如,一束花并不是知识产权,但拍花的照片,它的使用就可以成为知识产权,这朵花的香味也能做成一个具有识别性的标记,称作商标,也就是知识产权。因此,知识产权的主要用途就是禁止他人随意复制或使用,需要付费才能使用。

传感器、刷脸支付、大数据……随着人工智能的发展,人们的个人隐私变得无处可隐、无法可隐,这也成为人工智能带来的首要挑战。机器智能如此普遍,以至于每个人的行为、习惯、喜好和信用表现等被忠实地记录着,在这背后涉及的法律问题就是个人的隐私权。

在目前的商业竞争和经济活动中,知识产权是一个非常有效的竞争手段,因为它可以打击竞争对手,通过诉讼强迫他人付费或承担更多的成本,促使对方不得不屈服。

隐私权是一项非常重要的法律权利,在美国,隐私权被确立为宪法上的基本权利,而中国正在编纂的统一《民法典》也将隐私权视为一项重要的民事权利。在如今的现实中,个人隐私权却正在消失,而且由于机器智能的便利性,使得对其的维护也相当困难。“我们为什么需要隐私?我的客户很乐意把隐私交给我们,因为我们的服务能给他们带来不可抗拒的便利。”冯象引用了脸书创始人马克·扎克伯格(mark
zuckerberg)的言论来说明这种困难性。

从本质上说,商业模式的基础是对价交易,法律语言表述为,交易双方需要付出对价,形成契约。当前网络企业大平台采用免费或廉价的付费模式,而我们付出的对价就是个人信息。从我们购买手机的那一刻起,就已经提交了个人信息,并且还需不断地提交,我称之为硬规则,因为消费者必须接受。这些数据被企业获取,用于建立数据库,再转卖给第三方或者用于其他用途,例如开发新产品等等。

与知识产权禁止他人随意复制或使用相反,人工智能的商业模式是用便利的产品和服务,去换取开放的、免费的个人信息。商业模式的本质基础是对价交易,而我们与各种app签订的协议使得我们付出的对价就是个人信息。个人数据被企业获取,用于建立数据库,再转卖给第三方或者用于其他用途,例如开发新产品等等,被称为“数字利维坦”(意指其利用数据进行独裁统治)的脸书层出不穷的数据丑闻就是一个明显的例证。

数据财产化后,企业掌握了每个人的隐私

奥门金沙手机娱乐网址 3

数据如此重要,以至于现有的法律无法对其进行估算。数据所蕴含的巨大价值令业界非常希望将其财产化。那数据的原始主人是谁?难道不是我们每一个人吗?难道数据不是我们的财产吗?若是这样思考,脸书就无法运营了,因为它需要与几亿人签订合同。因此,数据的财产化是个法律问题,目前无解。虽然利益集团的游说非常激烈,不久的将来或会进行立法,但即使没有立法,数据事实上也已经是财产了,因为它是我们每天进行的无数次交易的标的物。法学理论认为,只要能成为交易的标的物,例如数据,那它就已享有财产的地位,只不过对它的保护缺少明文规定而已。所以,这些企业事实上已经掌握了我们每个人的隐私。

扎克伯格出席脸书数据泄露事件听证会

当然,还有一位参与数据收集竞争的主导者,即政府。在拥有发达的互联网产业之后,任何国家的政府必然深度介入数据的抓取。中国在这方面做得最好,大城市道路每50米就安装一个摄像头,促使暴力犯罪大幅降低,即便与发达国家相比,中国也走在最前端。虽然从隐私角度来说,这或许令人不安,但从产业发展以及政府对数据的抓取来说,这可以解决诸多问题。例如,许多传统上难办的案件到了数据时代非常容易破获。

在信息时代,数据成为一种重要资源,其所蕴含的巨大价值令业界希望将其财产化,数据的财产化将使得少数企业获得难以估量的财富。虽然现在还没有对数据财产化进行立法,但它在事实上已经是财产了,因为它是个人与网络平台交易的标的物。但冯象对此提出了一系列的质问:“试想,若将数据财产化,那数据的原始主人是谁?难道不是我们每一个人吗?难道数据不是我们的财产吗?若是这样思考,脸书就无法运营了,因为它需要与几亿人签订合同。”

挑战之二:引领法律走向硬规则体系

不得不接受的“硬规则”

人工智能使我们忽视原本异常繁琐的程序、调查,不得不接受一些硬规则,这对于法制建设的影响非常巨大。什么是硬规则?中国的马路中间通常都设有一排铁栏,用于分隔两个车道,它强迫车辆必须在它自己的那条车道里行驶,不得越界。这也可以说明软规则的失效,政府可以选择其他整治交通的措施,但都不如硬规则方便、廉价。

人工智能带来的第二大挑战,是将我们原有的社会规则体系转变成“硬规则”体系。“中国的马路中间通常都设有一排铁栅栏,用于分隔两个车道,它强迫车辆必须在它自己的那条车道里行驶,不得越界。”冯象用一个生活中的现象来解释什么是硬规则。

警惕人工智能带来的规则制订权之争

手机硬规则通过用户点击“同意”进入系统,之后会显示一份字体较小、内容复杂的授权合同,几乎一面倒地将权利给予了运营商。冯象将这份授权合同称为“谁都看不懂的”合同,引发了观众有些无奈的笑声。这种单方面为用户制定的规则,它的逻辑非常简单——要么同意,要么不用,用户为了能够使用并得到便利,一般都会同意。

硬规则带来了什么好处?它不需要像传统的法制建设那样由政府积极推动普法,也不用通过文艺作品向大众宣传规则的重要性,也无须事先征求民众的意见。一般来说,我们国家的立法应当按照民主原则,通过人民代表大会制度进行,或通过政府有关部门制定规章。但硬规则不同,硬规则主要由商家制定,它通过智能终端添加到我们身上,智能手机就是最佳的例子。手机硬规则通过用户点击“同意”键进入系统,如果用户不同意,也可以点“取消”键。这种合同在过去的人类社会中很少出现,而按照现在的制度和商业模式来看,这就是一种单方面为用户制定规则,使之通过衡量利弊或被迫接受的格式合同。

奥门金沙手机娱乐网址 4

所以,整个法律制度实际上被人工智能引领着走向了硬规则体系。这令人感到害怕和忧虑,值得引起世人的注意。因为这种情况将导致资本力量过于强大。从国家的立场来看,立法必须回应民众的要求、呼声与利益诉求。但是,如果规则的制定权大量落入企业手中,其结果就大为不同了。

某app隐私政策

从某种角度来说,政府将比过去的工业化社会更大幅度地介入商业活动,这不利于建设健康的社会主义市场经济。依据市场经济理论,最理想的市场经济是政府只负责一部分的监管、注册和维稳等传统要求,但智能终端、智能经济、智能技术将改变原有格局。

整个法律制度实际上被人工智能引领着走向了硬规则体系的方向,比如阿里巴巴这样的企业,现在已拥有非常成熟的纠纷解决机制,政府也与之合作建立了互联网法律。这令人感到无比害怕和忧虑,因为这将导致资本力量过于强大。从中国的国情与党和政府的立场来看,立法必须回应民众的要求、呼声与利益诉求,这也呼应了中国共产党为人民服务的宗旨。但是,如果规则的制定权大量落入企业手中,其结果就大为不同了。

商家过度承担硬规则的制定,将加剧贫富差距

硬规则的制定权越来越多地归于商家,将使贫富差距迅速扩大。冯象将旧富豪洛克菲勒家族与新贵扎克伯格进行比较,扎克伯格在短短的几年中就可以积累起前者几代人才可以积累的财富。