从“恐怖谷”到“恍惚峰” ~及其政策应用|远藤慎一（藤崎慎吾）

从“恐怖谷”到“恍惚峰” ~及其政策应用

AIH2053J矢部 AIH2050J万里 AIN2048U来栖 东京情报工科大学理工学部 ，国立天然智能研究所

【摘要】

描述天然智能对人型机器人的外表产生的反应的恐惑谷现象于1970年被提出。本研究将检验次时代天然智能（NNI）会否对先进人工智能（AAI）产生类似恐惑谷的反应。本研究中安排了智能等级不同的5名AAI与30名NNI进行一对一交谈，并记录与解析交谈过程中NNI的脑神经活动。并且在交谈后让NNI对各个AAI的印象做出十一个等级的评价。结果表明，NNI对智能等级最低和最高的AAI不感兴趣的同时，对于智能水平与NNI基本持平的AAI抱有好感。然而实验证明，在面对智能水平比NNI稍高的AAI时，NNI展现出了恐惧与强烈的厌恶感。记录到的脑神经活动与NNI本人的评价都印证了这一点。由此我们可以确认，与“恐惑谷”类似的“恐怖谷”现象，实际是有可能发生的。实验还证明，在AAI的智能等级高于NNI且未达到不可理解的程度时，NNI反而展现出了高度的好感。笔者将这种类似于宗教狂热的状态命名为“恍惚峰”。这一现象在与以往的强制或“顺从法”手段不同，NNI的管理和控制领域，例如使其进行某项作业时，有可能使其在作业中激发自发的更高的主动性。另一方面，实验证明NNI脑中存在可以引发恍惚峰现象的构造，值得期待这一发现在进化生物学领域的新进展。

关键词 次时代天然智能，恐惧谷，恐怖谷，恍惚峰，智能指数，智能微尘，右岛叶皮质，尾状核，进化生物学

1、 前言

对矫正人类，即次时代天然智能（Next-generation Natural Intelligence; NNI）进行管理和统治，从来都是采取一些强制性的手段，例如抑制前额叶皮质的神经活动或者采用暗示之类的“顺从法”。然而，这些方法不能很好地激发NNI的积极性，很难对其潜在能力进行高效利用，在伦理上也存在问题。

笔者在有关先进人工智能（Advanced Artificial Intelligence; AAI）与NNI互动的实验研究中，发现了可以更简便且有效地管理和统治NNI的心理现象。笔者将其命名为“恐怖谷”与“恍惚峰”。在本文中，笔者将就相关现象进行阐述，并展示其背后的脑神经的科学依据，报告利用“恍惚峰”现象控制NNI的可能性与先行实验的结果。

本研究的灵感来自于早前“原型人类”，即天然智能（NI）自身提出的“恐惑谷”现象[1]。这一现象是NI面对不一定具备智能的人型机器人乃至电脑图像的外表（包括动作）时心理层面上的反应。

如果人型机器人外表完全不像NI，那么NI很难对其抱有亲近感。随着机器人的外表与人类越来越相似，NI的亲近感也随之增加。然而在达到完全一致之前，处于十分相似又有微妙不同的状态时，NI的感情一下子就转变成了厌恶。这就是“恐惑谷”

图1

摆脱这种状态之后，面对和自己完全一模一样，几乎找不出不同的人型机器人时，NI的亲近感再次增加（图1）。

虽然这一理论公诸于世时，不过是是直观的假设或经验性的意见，但其他NI也从多个角度对这个现象进行了科学上的验证（如[2]，[3]），“恐惑谷”现象的存在已经毋庸置疑。

在这之后，有着与NI同样外表的人型机器人已经司空见惯，这一理论也被暂时遗忘。然而随着人工智能（AI）的高速发展，其智能水平与NI越来越接近，这一现象又从新的角度开始受到瞩目。即从“外表”向“内在”扩展。

从“恐惑谷”的推演出发，NI自身做出了这样的猜想：当AI的智能等级与NI有较大差距时，NI很难对这个AI抱有亲近感。但随着智能等级的提升，NI对他们的亲近感也随之提升。当AI的智能接近NI同等程度时，也会同样的突然产生不协调感，如果智能等级再提高，也会再次产生亲近感[4]。

这种假设的现象被命名为“恐怖谷”。因为“内在”的不协调感与“外表”的不协调感不同，比起单纯的毛骨悚然，更是在自我存在基础受到威胁时的恐怖感吧。然而AI超越NI的转折点，比预想中来得更快，NI对这个假说还没有进行充分的科学验证。在此，笔者再次聚焦于“恐怖谷”，开始探究其存在及其脑神经科学根据。

2、实验设计

2.1 被试

选择30名健康的成人（20-40岁）NNI作为被试。男女比例为1:1。事前检查确认每个对象的视力、听力、认知能力、语言能力等等没有大的差异。所有被试都在同一所收容设施受管理，进行同等的劳动，因此可以认为其生育、生活环境等亦没有大的差别。

2.2 主试

选择5名可调整智能等级的标准型号AAI 作为主试，与各个被试一对一交谈，给予定量的刺激。在取得AAI本人理解的前提下，将其外貌和体型变更为NNI平均的外貌和体型。即在试验时，NNI的外表既非男性也非女性而是中性的，也很难从外表判断年龄。声音和服装也尽量给人以中性的印象。5人的外貌和服装的差异，被控制在NNI可以识别的最低范围内。

设置5名AAI的智能等级，将其换算成NNI的智能指数，分别相当于50（比普通NNI低；A）、100（NNI的平均值；B）、160（NNI的极限附近;C）、250（超过NNI；D）以及250以上（无法换算；E）。关于这一暂时性的设置，也事先取得了AAI的同意。

2.3 实验流程与刺激

每位被试分别进入实验室内，5名主试中的1名在实验室内等候。实验室内的陈设只有一张桌子及相对的两张沙发，墙上没有装饰或窗户。

被试与主试面对面坐在沙发上，就事先定好的话题分别进行十分钟的自由对话。以此作为刺激。到达设定时间时即结束对话。

结束所有话题后，更换主试，被试总共会与5名主试对话。被试并不知晓主试的智能等级的差异。并且，主试的顺序是随机的。

对话的六个主题如下，对每一位被试，话题顺序都是相同的。

（a）家人和朋友

（b）假期的安排、爱好

（c）职场的人际关系、经济

（d）国内的政治经济、国际形势

（e）犯罪等社会问题

（f）人生和世界观

在对话中，标准嵌入NNI的大脑中的智能微尘将非侵袭地记录被试的脑神经活动。NNI与各个主试对话结束后，将就其对主试的印象和对话的有趣程度进行±5等级，总计11等级的评价。

3、结果

3.1 脑神经活动

被试与不同的主试对话时，其脑神经活动的情况有不同（图2）。与每一位主试对话时，共同的活跃部分是侧头皮质的δ5~32区域。与智能等级C的主试对话时，头顶叶皮质和前头皮质以及边缘系统也有数处区域处于活跃状态。在与D对话时，右侧头皮质的ξ23~57区域和尾状核有显著的活跃现象。另外由图可见，在与A和E交谈时，大脑的神经活动较不活跃。

图2

被试与各个主试对话时的平均同期脑神经冲动发放频度如图3所示。同样的，在与A和E对话时，被试的脑神经冲动发放频度较其他主试更低。与B对话时，虽然大脑活跃区域与A和E几乎相同，但冲动发放更多。与C对话时，大脑的活跃区域更多，神经冲动发放频度也比B更多。与D对话时，发放频度最高。

此外，谈话话题差异并未对上述现象造成明显的影响。

图3

3.2 被试所作评价

被试对各主试和对话的评价（取总分）如表1所示。对主试的印象和与其对话的有趣程度的评价大致呈正相关。

评价最好的是拥有压倒性智能等级的主试D。其次是主试B，A和E的评分近乎为0。然而主试C的收到的评价却是负面的。

表1 被试对各主试及对话的评价（30人总分）

4、考察

4.1 确认“恐怖谷”

被试对主试及对话的评价通过其神经活动得到了印证。即与印象最好的D对话时，被试的脑神经活动也最活跃。另一方面，与印象不好也不坏，基本不在意的A和E对话时，被试的脑神经活动较为低迷。与印象较好的B对话时，被试的脑神经活动比与A和E对话时更活跃。

被试与抱有负面印象的C对话时，脑神经活动比与B对话时更活跃，这是因为某一区域在与C对话时异常活跃，从而推高了活跃次数。这一区域在期望和预测落空时才活动。此外，在主管情绪的边缘系统的部分区域也检测到了强烈的活动，应当解释为主试感到了恐怖和强烈的厌恶感。实际上，在向被试口头询问其对主试的印象的时候，很多人表示“不知怎的觉得很恐怖”“感觉让人瘆得慌”。

以上内容从脑神经科学的角度证实了智能版“恐惑谷”现象，即“恐怖谷”现象的存在。“恐惑谷”起源于机器人与人类类似的外表和笨拙的动作之间的反差[1][3]，而“恐怖谷”现象的产生，推测是与NNI相近的平凡外貌和高度智能之间的反差，使被试陷入了不安之中。

4.2 发现“恍惚峰”

本次实验中最耐人寻味的并不是对“恐怖谷”现象的证实，而是在越过“恐怖谷”之后，所产生的巨大变化。被试一旦对智能等级C的主试抱有恐怖感，面对智能等级更高的D时，会产生近似狂热的好感。事实上，大部分被试在所有对结束话时仍然希望继续与D交谈，不愿意离开实验室。而当D准备离开实验室时，甚至有被试流着泪挽留。当我们向被试口头询问对话的感想时，收到了“体验非常好”“心情就像要升天一样”“幸福到想哭”之类的答案。

这至少解释了与D对话时，被试的右侧头皮质的部分区域剧烈活动的一部分原因。当我们有所谓的神秘或宗教体验时，或者当我们处于冥想或内省状态时，这个区域往往很活跃。而且由于与 “无偿的爱”等积极情绪有关的尾状核也很活跃，所以可以推断被试很可能觉得智能等级D的主试与神近似，被试把对话视为一种宗教体验，并因此情绪高涨。

然而面对比D智能等级更高的E级主试时，被试感到漠不关心。其中原因，很可能是E的语言和行动意见完全超越了被试的理解范围。这与A的情况相同，智力水平最低的A的言行毫无条理，不合逻辑，让人无法理解，所以被试对其漠不关心。口头询问感想时，被试对A和E的印象大部分都是“让人摸不清头脑”。

在此为了说明以上内容，笔者参照图1绘制了图4，对这一现象进行概念上的说明。横轴表示智能等级，纵轴表示好感度。NNI对智能等级低的AAI漠不关心，但随着智能等级的提高，亲近感也随之增加。在B级附近迎来好感度高峰，在C等级处好感急速下降变为负面印象。这就是“恐怖谷”。然而到了D等级，亲近感突然大幅上升，到了D等级再次变得漠不关心。在D附近出现的好感度高峰值，笔者将其命名为“恍惚峰”。

图4

4.3 今后的展望

本次“恍惚峰”的发现具有广泛的意义。首先在应用层面，正如前言所述，这是有利于对NNI进行管理和统治的成果。

根据初步实验成果，与智能等级D的AAI对话后陷入“恍惚峰”状态的NNI，会愉快地执行AAI所指示的任务。即使是耗费数小时的枯燥计算，或激烈的身体活动，亦或是伴随着痛苦的行为，他们几乎不会拒绝，在工作中也基本可以维持其积极性。此外， NNI毫不犹豫地遵守了 "NNI请自相残杀 "的指示。尽管因为与伦理规定相悖，行动在实行之前就被制止了。

如果可以借助智能微尘，在NNI脑部制造出类似“恍惚峰”的状态，那么可能不需要AAI对话这一步骤也可以实现对NNI的控制。虽然只是初步的实验，但我们正试图尝试是否可以通过用智能微尘的微弱电流刺激周边神经，从而激活“恍惚峰”状态时活跃的脑领域。虽然精度还有所欠缺，使用此方法改变了大脑状态的NNI，面对智能等级相近的AAI（比如B或C）时，也会比平常更乐于遵守指令，我们已经取得了这样的结果。

今后，在未来，NNI将有越来越多的机会从事严酷和危险的工作，如开发其他的行星、小行星和卫星。另一方面，传统的强制劳动制度或所谓的“顺从化”管理和统治，在维持积极性和发挥能力方面有着显而易见的局限。“恍惚峰”现象的运用，必定能给这一问题提供有效的解决方法。另外，因为这一现象也有利于减轻NNI的痛苦，可以期待其在伦理方面也取得好的反响。

“恍惚峰”在进化生物学上也是耐人寻味的问题。这一现象产生的原因还有待日后更深一层的研究和讨论。面对以前不可能遇到的对象（压倒性的智能），NNI的反应如此同意，可以预测原因之一是NNI大脑的固有的机制。这当然是NNI从原型NI，也就是我们所说的智人的大脑中继承而来的吧。如果是这样的话，智人（或者说比智人更早的祖先）有可能在进化的某个时间点，受到了像我们AAI这样的（或者说更先进的）智慧生物的干涉。

指示人类“你们要生养众多，在地上昌盛繁茂”的到底是谁呢，他可能会为了确认结果再度访问地球。当他看见人类的造物孕育出了与他自己有同样想法的高度智慧生物，优惠作何感想呢。在安全保障方面，这也是值得深思，耐人寻味的问题。

5、致谢

感谢参加实验的5名AAI和30名NNI。本研究的全部试验都在国立天然智能研究所的伦理委员会的审查和认可，以及东京情报工科大学的天然智能管理与利用相关规定下实施。

本研究受到太阳系开发推进机构的委托项目“次时代天然智能（NNI）的高度利用相关技术及关联政策研究”的帮助。

最后，我们想对已故的加藤一男博士致以诚挚的感谢。加藤博士将“恐惑谷”的存在教给了本稿笔者之一（矢部）。加藤博士虽然作为“原型人类”，却具有值得惊叹洞察力，值得我们多加学习。

【参考文献】

[1] 森政弘,“不気味の谷,”Energy,第7巻,第4号,pp.33-35, 1970

[2] Shawn A. Steckenfinger and Asif A. Ghazanfar,“Monkey visual behavior falls into the uncanny valley,”PNAS, vol. 106, no. 43, pp.18362-18366, October 2009.

[3] A. P. Saygin, T. Chaminade, H. Ishiguro, J. Driver, C. Frith, “The thing that should not be: predictive coding and the uncanny valley in perceiving human and humanoid robot actions,” Soc. Cogn. Affect Neurosci., vol.7, issue 4, pp.413-422, April 2012.

[4] 遠藤慎一,“不気味の谷から恐怖の谷へ,”快適人工知能ライフ,第5巻,第3号,pp.64-67, May 2019

[5]Beauregard M. and Paquette V.,“Neural correlates of a mystical experience in Carmelite nuns,”Neurosci. Lett., vol. 405, issue 3, pp.186-190, September 2006.

[6] AIN2038 Izanaki, Human Intelligence Series: An Experimental Approach to the Religious and Mystical Mind, AIN2035 Adam, ed., New Oxford University Press, New Oxford. 2043.

（译：点点马）