大黑的哲学课堂 | “我的想法被芯片掠夺了！”——脑机接口的伦理之争

颜志豪

2013年，一名四肢瘫痪接近十年的病患，在加州理工学院的实验室里，成功地用意念控制机械手臂拿起酒杯喝了一口啤酒。这一动作看似简单平凡，但实际上极其复杂。在这之前，科学家在患者的大脑里植入电极，记录病患的脑部神经信号，并通过一系列漫长的训练，成功地让病患控制运动相关的信号。

这项脑机接口技术包含了“读取”与“写入”信号两个技术步骤。“写入”是指通过机械身体获取对外界的模拟触感以及位置感并输入到大脑相应的区域；而“读取”，则是扫描记录大脑的神经元信号，并做解码处理，还原主体的“意图”。

可以想象，这一项技术的完善与运用，将造福无数运动失能的病患。帮助残障人士重新获得行动自主能力，是这些技术研究的直接目的，但这项技术在未来的运用范围可能不止于此。很多科幻作品给了我们这样的想象空间，比如，在《黑客帝国》中，从母体脱离出来的人物，通过脑机接口，穿梭于母体世界与真实世界。真实世界中的人，可以通过脑机接口写入能力增强的程序代码，使得人物角色在母体世界中飞檐走壁，上天入地，武功盖世。

不妨作如此设想：当脑机技术发展到足以全面监测人类的意识活动时，疯狂科学家把电极植入正常人的大脑，读取并监控其意图。当沟通不畅时，其他人可以通过读取大脑神经元信息来获取真实想法；当出现坏念头时，控制电极的机器可以对之修改删除。那么，加载脑机技术的生活因此发生什么变化？

我把这个假想实验作为课堂主题抛给小学生，让他们展开想象与讨论。

完美世界真的可能吗？

三四年级的孩子对这项技术是非常感兴趣，但他们的观点产生了激烈的冲突。

少数人表示支持。他们从几个方面来说明自己的立场：其一、全世界的语言种类太多，有了这项技术，不同国家、不同文化的沟通变得简单便捷；其二、那些无法使用语言的人也因此获得表达自由，比如，初生婴儿。父母不再需要艰难地揣摩他们的意图，可以给予及时的响应。其三，打击犯罪，从源头开始消灭恶意，我们也不再需要设置监狱，不再需要警察了。最后是战争会消失，没有恶意，自然没有杀戮，世界和平。

但是，大部分人并不支持。在持有反对意见的人当中，有一部分人并不是真反对，他们只是怀疑技术的可靠性。这些孩子对任何放进脑袋的东西保持极高的警惕，即使思想实验的条件已清楚说明植入电极100%安全可靠，他们仍然不同意。有意思的是，在不同的班级里，我更改前提条件，把植入电极的位置从大脑移到耳朵边上，这时，我并不需要说明技术的100%可靠，而他们对技术的天然反感似乎也消失了。

在反对者当中，有人认为，父母与婴儿对脑机技术的依赖会出现两种后果：其一、婴儿的语言发展是个渐进过程，而婴儿的想法能够轻易显露出来，那么它对表达就没有相应的需求，客观上婴儿的语言能力反而得不到刺激与发展，小孩会”失去说话的快乐”；其二、对婴儿意图的揣摩是一种能力，但一旦使用脑机技术，那么父母的这种能力也可能会消失，而亲子之间的情感交流也会相对减弱。

也有人认为，通过植入电极，消除恶意，降低犯罪，甚至达到世界和平，是不可能的。因为道高一尺魔高一丈，一旦收到黑客攻击，带来的影响会更加恶劣，个人的隐私会受到更严重侵犯，而且还可以操作别人去干坏事。

有孩子特别提到，假如这个技术能用于古代人，那么后果更加麻烦。她说，“假如古代人也装上了（电极），那古代人不就不会推翻皇帝的统治了吗？”言外之意，这种消除恶意的装置，一旦被人攫取，用来维持暴力统治，那么这个技术反而变成制造顺民以及愚民的利器，人没有反抗意志，只有服从独裁者，成了不折不扣的奴隶。用孩子的话说，“这样侵犯了人权，相当于奴隶制回归了”。

还有人认为，带上电极而“变成”好人，实际上是假的。因为一旦解除了限制，他仍然是坏人，“想偷笔的小孩子摘下芯片后还会偷”。

限制想象力，人变得不真实

有时候，坏念头不一定会变成行动。比如，说气话的时候。小朋友估计都说过气话，他们不认为，那些气话都可以当真。

另一种情况是，小伙伴之间会做各种恶作剧，这些恶作剧都是童年的乐趣，是好玩的事情。有些同学担心，这样的装置进入人脑之后，生活会变得非常无趣，”好玩的事情没有”，那种“天马行空的想象力不再有，被抑制，像机器人那样”，“不真实”。就像电影一样，假如电影里面没有坏人，没有坏事发生，那么电影就不好看了，“没有电影了”。

还有人认为，这样装置会“怕你冒险”，把你的“坏点子”都删除了，而科学探索也可能因此被压制，比如原子能这个例子。原子技术的发明本意是用于战争，最后能运用于经济生产乃是意外收获。

提前处置坏人是可行的吗？

还有一些同学从自由意志的角度来论述植入电极做法的坏处。虽然，他们并没有明确说明这是自由意志问题，但他们用自己的语言方式从”自由意志“视角论述了自己的观点。

有人说：“给大家装这个装置，是不是一种强迫呢？这样他不就是失去选择了吗？失去选择就失去自由了，好像不可以。”在他看来，自由很重要。可能，即使存在各种各样的坏事，我们也不能由此剥夺自由选择的权利。有人接着这位同学的逻辑继续说，“我们都是做了坏事才处置的，放装置在他头上，这不是提前处置了坏人吗？还有，他在做坏事的过程中突然反省了，加了这个装置不就没有这种机会了吗？”，而“人有做错事情的机会的”。

还有人认为：假如每个人都安装了消除恶意的装置，那么人就“像机器人”。像机器人一样受到控制，“孩子受到了控制，就不算自己了。”

有孩子直接说：“我的想法被芯片掠夺了！”

不知不觉中，同学们已经在讨论技术伦理问题了。虽然他们并没有得出某种结论，但这些讨论显示了人的存在与技术之间的张力。技术的边界在哪里？技术与人类主体之间应该有怎样的互动关系？技术运用于人体，应该遵守什么样的道德准则？我想，这不是科学家伦理学家才有资格思考的问题。