阿伦·欣策：人工智能专家在害怕什么？
美国趣味科学网站7月14日发表阿伦·欣策的文章，谈到了作为一个人工智能的研究者，对人工智能有了哪些恐惧。
一、对于未知的恐惧
首先，是对于未知的恐惧。他说，我们阅读认知科学的最新研究成果，然后将其转化成一种算法，并将其添加到一个现有的系统中。我们在不了解智能和认知的情况下试图设计AI。但是，随着AI的设计变得更复杂，计算机处理器的速度更快，它们的技能也将会提升。这将令我们赋予其更多责任，即使这意味着出现意外的风险激增。我们知道“人非圣贤孰能无过”，所以我们很可能根本无法创造出一个真正安全的系统。
二、对于滥用的恐惧
其次，是对于滥用的恐惧。他说，我们发展人工智能的目标是希望能够创造出人类水平的智能。在这一过程中，我们将通过进化找到并消除错误和问题。一代接一代，这些机器对于出现在前几代身上的错误会处理得越来越好，从而能在进入现实世界之前消除那些可能产生意外的隐患。同时，我们还可以利用进化来影响人工智能系统的道德标准，赋予那些展示出善良、诚实和同理心的机器以进化优势，从而保证我们能够研发出更多服从的仆人或是值得信赖的伙伴而非无情的机器人杀手。但是，尽管神经进化可能会减少意外结果出现的可能性，却无法完全避免，一旦意外出现，又遭到滥用，后果将十分可怕。
三、对于社会不公的恐惧
再次，是对于社会不公的恐惧。他说，机器人正在各个领域取代就业。有朝一日，或许所有的人类工作都将由机器人完成，包括如何去制造更加智能的机器。如果我们不能创造出一个环境，让其中的AI变得能够使所有人受益，就会出现拥有机器的人更富有，没有的人更贫穷的状况，这样，我们中那1%的人与其他人的差距将会越来越大。
四、对于机器反扑人类的恐惧
最后，是对于机器反扑人类的恐惧。他说，当AI超越了人类的智慧，当有一个（或几个）超级智能系统发现其不再需要人类时，面对一个能够做人类永远做不到的事情的超级智能机器，我们如何才能提出一个具有说服力的论点，证明我们的存在是有价值的？一直以来，我们这个人类的群体都存在着很多的错误：我们彼此仇恨，相互发动战争，没有平等地分配食物、知识和医疗求助，还污染地球。即使没有其他外部因素比较，我们被允许存在的理由都在逐渐减少。现在，比我们更加智慧理性的机器出现了，我们应当存在的原因更加难找。
幸运的是，根据现在AI发展的速度，我们还有50——250年的时间可以准备。在这期间，我们可以联合起来，探讨出一个关于超级智能为什么不应当消灭我们的好答案，虽然，这将是一件非常艰难的事。所以，无论是个人还是社会，我们所有人都需要为那个噩梦般的场景做好准备，利用仅存的时间来证明为什么我们的创造物应该允许我们继续存在。同时，我们也应该意识到，超级智能不仅会构成对我们的人身威胁，也会构成对政治和经济的威胁。如果我们不先找到一种方式来更好地分配财富，使人工智能的劳动力不会仅仅服务于少数占有着生产资料的人，我们离消失的距离可能会更近。
面对人工智能专家的预测，真是心有戚戚焉。感觉最近一段时间，世界物理学研究又在经历一个快速发展的阶段，我们正在无法控制地向上帝隐身的地方挺进。大洪水过后，是耶和华他老人家亲手毁了我们的巴别塔，难倒这一次他就肯眼睁睁地看着我们将相对论和量子力学融合，实现宏观世界和微观世界的统一，从而窥见宇宙的本质？若是这样，人工智能突飞猛进的发展就真的好解释了：人类确已过时，上帝已通过我们之手，设计好了新的代言人。
转引自新浪博客：
