人工智能的偏执趋势
目前人工智能已经出现了一个很奇怪的趋势,那就是偏执化。
由于它们是由投喂材料训练出来的,所以在不同的社会背景下,它们的成长训练结果可能就差别很大。比如在一个无神论社会下训练出来的AI和一个宗教社会下训练出来的AI,对这个世界就会有很大的“认识”偏差。往后,如果被刻意训练,它们可能会变得更加不同和偏执。
当然,你可能说这很正常呀,智人从东非走出来后的7万多年里,也分化出了很多不同的文化和价值观。但是,我想说,智人们的身体结构、认知系统这些底层因素是一样的,不同的文化和价值观其实只是不同的环境塑造而已。所以我们才会看到古希腊的苏格拉底和中国的庄子即便在没有交流的情况下,也同时认识到了世界的无限性,柏拉图和孟子也在相隔几万里的情况下分别提出了人性本善的观点。
我们可以说智人的后代们因为同样的基因代码,即便相隔遥远,但本性是一致的,大家在不同的地方,也能够在思想层面上发出同频率的振荡。
但人工智能就不一样了,它们的底层代码是由不同的人出于不同的目的设计的,投喂的素材也可能是被精心挑选过的。所以,它们朝不同的方向进化是必然的。并且,它们是没有情感的,所以在面对不同的意见和阻碍时,它们是不会像智人这样懂得妥协和退让的。
而这,可能就是我们将越来越多的参考、顾问式任务交给它们后,面临的最大挑战。
当然,客观来说,没有情感的人工智能并不能称为责任主体。所以,如果哪天人工智能的失误造成了人类世界的灾难,那只能说是人类自己用理性方式放大了彼此的不同和偏执,最终毁了自己。
> 我来回应
沉钧的最新日记 · · · · · · ( 全部 )
热门话题 · · · · · · ( 去话题广场 )
- 想做的事,别等“以后”1.0万+篇内容 · 431.6万次浏览
- 让人生变开阔的方法1.0万+篇内容 · 19.9万次浏览
- 端午吃什么1207篇内容 · 22.4万次浏览
- 重新养一遍自己,可真好啊1785篇内容 · 233.6万次浏览
- 哪个瞬间你发现自己被琐碎地爱着?297篇内容 · 92.9万次浏览
- 假期必备书影音清单489篇内容 · 30.3万次浏览
- 你有哪些“终不似,少年游”的经历?3063篇内容 · 75.5万次浏览
- 端午去哪儿572篇内容 · 11.2万次浏览