• 0
当马斯克打开潘多拉魔盒
统计 阅读时间大约8分钟(2999字)

2020-09-07 当马斯克打开潘多拉魔盒

在脑机接口解决伦理问题之前,这个潘多拉魔盒不能轻易打开。

本文来自合作媒体:锌财经(ID:xincaijing),作者:许怡雯。猎云网经授权发布。

马斯克的桌子上,又被放了一个潘多拉魔盒。

8月28日,刚刚将一颗火箭发送到火星上的埃隆·马斯克低头就带着三只小猪和他的脑机接口公司Neuralink煮开了科幻界的锅——全员沸腾。当被植入了芯片“LINK”的小猪被工作人员摸鼻子的时候,显示器上跳动的脑电图波纹清晰地表达它的兴奋。

虽然马斯克在发布会上发布的这些成果在专家的解读中并没有任何超越科研界已有水平的“重大进展”,但,毫无疑问的是,这场发布会将脑机接口和神经科学正在做的事情第一次以高整合度的形式展现在大众面前。

人们突然发现,原来科学已经发展到这个地步。相比之下,科幻电影里那些迷幻的情节顿时看起来就不只是“幻想”,从而引发了人们开始了对“缸中之脑”、“云端永生”的讨论。

而在半个月前,“红衣大炮”周鸿祎就在今年的互联网安全大会上公开炮轰马斯克:“像埃隆·马斯克这样半疯半狂的人,搞脑机接口,帮助点残障人士是可以的,但是如果有一天把所有人都连上互联网,这会是一个很可怕的事情。你有任何一点不好的想法,可不是你老婆偷看你手机那么简单,人们需要新的伦理和新的法律。”

正如周鸿祎所说,在脑机接口解决伦理问题之前,这个潘多拉魔盒不能轻易打开。

是谁在窥视你的大脑?

2017年,《自然》杂志刊登过的一篇文章中学者们针对神经技术的发展提出了四点伦理建议。其中,隐私被放在了第一条。虽然实现真正的人脑与电脑共生还是个故事,但是从人脑可以被解读的那一刻开始,隐私泄露的危险就已经存在。

大脑信号是个人最高级别隐私。当芯片可以实时“读取”人的欲望时,将意味着我们失去了最后的隐私。

如今,手机等外部设备已经在通过输入法、麦克风、通讯录、浏览痕迹等各个方面监控我们。比如,很多人发现,自己和朋友的聊天会被手机“偷听”,自己聊天过程中出现过的商品或者链接会被推荐给自己。

推荐算法更是已经成为一项技术广泛地应用在各种互联网平台。人们拥抱互联网这个“知己”,被信息茧房一点点困住的过程,其实也是个人隐私毫无保留地泄露的过程。

更常见的监控技术,通过对路人进行实时扫描人脸信息、进行身份识别,成为社会安全的帮手和隐私泄露的凶手。2019年5月14日,旧金山市的立法机构监事会以8票对1票的压倒性结果通过了“停止秘密监视条例”,该条例决定禁止全市53个部门使用人脸识别技术。

人脸尚且如此,人脑将更甚。如果我们将大脑毫无保留地交给机器,则相当于将自己最深处的隐私毫无保留地晒到太阳底下,成为利益机构的养分。

设想一个场景,如果脑信息可以被解读和监视,那么每一个滚过你脑袋中的想法都暴露在世人面前。暴力机关可以搜集每个人的芯片信息,然后按照潜在犯罪可能性进行全员排序。我们的大脑信息会被当作呈堂证供。

这样的场景在电影中非常常见。在1995年的电影《永远的蝙蝠侠》中,“谜语人”通过一台3D电视进入观看者的大脑,获取他们的个人想法,从而找出蝙蝠侠的真实身份。

电影《匿名者》中则展示了一个因为脑信息可视化而导致人类彻底失去隐私甚至不得不求助于黑客的世界。为了降低犯罪事件,政府在婴儿出生的时候就在其瞳孔中植入芯片,人们所见之物全部会上传至云端,任何行为都在政府的监控之下。

而现实生活中,这种简单的脑信息解读技术已经可以达到“入侵”大脑、偷取隐私的程度了。P300是一个特别的大脑信号,指的是人刺激之后约300毫秒时,在头后部出现的一个正成分峰值。这个电位会提醒你的大脑,注意周围出现的某个需要你注意的东西。这项技术最为人所知的应用就是测谎仪。

此前,一款被称为“Emotive”的脑机界面游戏控制器上市,来自美国加州大学、英国牛津大学和日内瓦大学的科学家共同在实验中演示,通过寻找玩家游戏过程中产生的P300信号,可以在游戏内发现玩家的个人身份甚至银行账户等隐私信息。

这些事例都证明,如果不加任何限制,脑机接口技术会将人类的隐私安全彻底摧毁。

是谁在操纵你的身体?

脑机融合带来的另外一个问题就是如何区分脑机责任。

自动驾驶领域有一个伦理难题,当自动驾驶的汽车发生了车祸,那么事故的责任方应该是坐在车上的车主,还是提供“驾驶服务“的厂家?

当脑机结合到一定程度的时候,我们如何判断作出指令的是人脑,还是机器?

精神分析学将人的意识分为本我和自我。因为很多外界的很多因素,本我意识经常被自我意识压制在意识的水面之下。但是,机器并不会区分本我和自我,那么一旦机器接受了没有被克制的信息,解读了自我意识本不允许的冲动欲望,做出了行为,甚至对别人造成了伤害,那么责任在谁呢?

以及,当这种情况出现之后,当事人是否可以用“设备故障”来进行推责。毕竟,只要是一台设备,就有发生故障的可能性。

这些问题都指向了一个本质的问题,如果连大脑都可以让机器“代劳”,那么还有什么东西可以证明“你”是“你”?马斯克在发布会上声称实现“人和人工智能的永生”是文明到达一定规模的标志,却忽略了人类文明是建立在人的基础上的。

两千年前,哲学家普鲁塔克提出了一个问题:如果忒修斯之船上的木头逐渐地被全部替换,直到所有的木头都不是原来的木头,那还是原来的那艘船吗?

这个问题被放到后人类学中变成了,如果一个人的身体的各个部分都被替换掉,那他还是原来那个人吗?

脑机接口技术被分为三个阶段:脑机接口阶段、脑机交互阶段,脑机智能阶段。目前人类的技术水平处在第一阶段向第二阶段过度的阶段。人们已经实现了信息读取,但是还无法实现信息输入。不过,这只是一个时间问题,当人类彻底破译脑语言,实现人脑和电脑的深度结合,忒修斯之船问题就会从“是人还是机器”,演变到“是人还是信息”。

实际上,已经有实验现象表明,在人的大脑中植入电极来进行脑深部刺激的时候,有些人会感到自己的身份和身份被改变了。2016年,一名曾用脑刺激器治疗抑郁症长达7年之久的人在一个焦点小组中报告称,他开始怀疑自己与他人互动的方式总是怪怪的。

他说:“我不确定我是谁。”

显而易见,神经技术可以扰乱人们的自我认同感和能动性,这将会动摇人们自我的本质。如果真的如马斯克所说,“在一个高带宽脑机接口下,我们实际上可以顺其自然地选择和AI合并”,那个时候的人是否还能被称为人,则是一个新的问题。

是谁在定义科学的方向

因此,科学应该是有边界的。科学的边界是人伦和法律,超出边界的科学不会被允许存在。

2019年12月30日,一个时代的倒数第二天,深圳市一法院以“非法行医罪”判处生物物理学家、原深圳大学副教授贺建奎有期徒刑三年,处罚金300万人民币。

这起轰动世界生物界的基因编辑婴儿事件终于落下帷幕。一年前,贺建奎在YouTube上发布视频,宣布了他使用了CRISPR技术进行基因修改的一对”基因编辑”婴儿终于问世。经过基因修改的胚胎具有天然抗艾滋能力,因为这对双胞胎的父亲有艾滋病毒。

贺建奎将基因编辑婴儿的行为归咎于为了满足一对艾滋病夫妻对一个不会罹患医学的孩子的渴望。尽管如此,这一行为引发了全球科学家的讨伐:基因编辑虽然能够使人类抵抗艾滋病,但却使人存在无数未知的重大风险,目前尚没有研究透彻的情况下盲目修改基因,将给人类带来不可预估的灾难。

科学源自疯狂的狂想,但是不能超脱现实。长长的基因链上的一个靶向基因看起来无比渺小,但是放在时间的长河里,这个小变动就有可能成为热带雨林里扇动翅膀的那只蝴蝶——谁又能知道人类是否会因此灭绝?

贺建奎想要修改的是人类的内在组成方式,马斯克和众多脑机接口科学家想要修改的是人类的外在存在形态。

目前社会对脑机接口持有的积极态度基于其呈现的积极效果。大部分研究脑机接口技术的公司和机构都集中在教育、医疗、消费、文化等领域,其中教育和医疗是聚焦中心。脑机接口在医疗领域的确有所突破,例如人工耳蜗和体外机械辅助都帮助了不少病人获得自理能力。

但是,在技术真正可以实现人脑和电脑的共存之前,必要的伦理规定和法律法规需要到位。清华大学医学院生物医学工程系教授、脑机接口实验室负责人高小榕曾在2019年的世界机器人大会上表示,从人机关系的伦理问题上来看待脑机接口这一技术,人类必定是主动的那一方。乐观如他也表示,在对内部控制这一层面,比如记忆写入,我们应当抱有更加谨慎的态度。

所以,如果马斯克真的把芯片植入大脑,那么,“我是谁”?

1、猎云网原创文章未经授权转载必究,如需转载请联系官方微信号进行授权。
2、转载时须在文章头部明确注明出处、保留官方微信、作者和原文超链接。如转自猎云网(微信号:ilieyun
)字样。
3、猎云网报道中所涉及的融资金额均由创业公司提供,仅供参考,猎云网不对真实性背书。
相关阅读
推荐阅读
{{item.author_display_name}}
{{item.author_display_name}}
{{item.author_user_occu}}
{{item.author_user_sign}}
×