westworld--细思恐极的AI
晚上实在论文看得累了，就看了一集美剧西部世界，是关于A.I.暗黑题材。看完后决定以后每看一部电影，剧，或者书，都记录下来当时的感想，一来加深对这部剧的印象想法，二来有个文字记录的东西可供自己以后回忆，生怕自己这个记性，到老了可能啥也记不住了。
晚上只看了第一集，就胡乱写点对第一集的感想吧。首先表白一下编剧之一兼导演Jonathan Nolan一开头就被Evan Rachel Wood所演的女主Doleres德洛里斯dazzle到了，一席长裙，骑上马背，一路驰骋，背景是西部广袤的山貌，一下子就震慑到了。但是虐心的是接下来本以为女主和他的旧相识又重聚了，没想到马上就出现了血淋淋的杀戮场景，父母被杀，情人也惨遭毒手。但是谁曾想到第二天，德洛里斯竟然又想第一天那样复活了，从梦中醒来，爱人父亲也都还在。继续观看才发现，原来这是一个人为设定的高级机器人小镇，这个小镇被设定为西部世界的场景，游客new comer可以体验感受其中的种种游戏游戏，可滥交，可杀戮，可观赏，可游玩。而其中的AI都是被特定的程序和编码所操控，被屠杀之后只需重新再被修复改造又可投入使用。这些机器人的背后就是人--扮演着上帝造物主一样的角色，可随意编码回收机器人，这一切的背后又是可怕的商业链和利益链在操控，为了获得高利益，他们可对这些非常像人类的机器人进行控制、甚至将他们关进地窖一样的黑暗屋子中，等待着再被利用。看到这个突然觉得毛骨悚然，设想如果是我们的背后其实也是有人在进行操控我们的行为、语言、意识呢？
剧中的问题在于当这些机器人出现了bug,他们开始有意识，有自己的认知的时候。当女主在教一个游客喂马观察马时，小男孩看出来了女主也是机器人吧，女主表情开始变得非常不自然并很快离开那个地方。从这个细节说明女主开始有自己的意识了，而他父亲在看守牛羊的时候，从土里捡到一张女主的照片时开始思考这张照片跟女主的关系时，他也开始萌发出意识了。而这些都不在其背后的程序员的掌控之中。程序员是老戏骨，Anthony Hopkins（他演沉默羔羊真是把我吓得够呛），所扮演。在实验室的管理人员大规模召回更新的机器人时，发现了这对父女的异常，他们也开始着急了吧，这下可实在是玩火上身了。看到这我想到去年看的一个英剧the real humans 真实的人类，内容也是讲geek赋予机器人意识，结果和人类展开斗智斗勇相爱相杀的局面。所以这个西部世界接下来也一定会出现机器人开始疯狂报复人类的行为吧，而机器人一旦他们掌握有意识，加上他们身体的特异功能，不死之身，那么到头来人类必将灭亡。
我们现在依旧不断在发展高新科技，可是在AI方面真的还要再继续探索下去吗？我们想要机器人来解放人类的劳动力，可是如果机器人也有意识思维，那么我们便仿佛又回到了奴隶制的社会，因为我们想要将机器人当作奴隶一样来使用，来被我们操控，听从我们的指挥。那么从伦理道德这个层面来看科技带给我们的是进步还是倒退呢？真是细思恐极。
写到这又想到石黑一雄的never let me go，看的是电影版本，但是作者显然更直接的揭露出人类在这方面发展的贪婪和残暴，这些被克隆出来的生物，他们的目标就是为人类服务，不断捐献器官，直到死亡，生命枯竭。他们无法恋爱，娶妻生子，宿命是要在生命最好的时刻贡献自己。但是，这些克隆出来的生物也是活生生的人，有意思，有思考能力的人，从这个层面来说他们比机器人更悲哀，他们甚至连反抗逃生的能力都没有。
所以科技的发展带来的伦理道德问题值得深思。在这些发明发展过程中，人类贪婪、自私、暴力的一面也在一步步显露出来。但是随着时间之箭的指示，我们不可能倒退，还是只能往前，往前的路上是进步、是方便、是福利、是利益？还是战争、杀戮、暴力、血腥呢？只有靠人类自己自求多福了~~
晚上只看了第一集，就胡乱写点对第一集的感想吧。首先表白一下编剧之一兼导演Jonathan Nolan一开头就被Evan Rachel Wood所演的女主Doleres德洛里斯dazzle到了，一席长裙，骑上马背，一路驰骋，背景是西部广袤的山貌，一下子就震慑到了。但是虐心的是接下来本以为女主和他的旧相识又重聚了，没想到马上就出现了血淋淋的杀戮场景，父母被杀，情人也惨遭毒手。但是谁曾想到第二天，德洛里斯竟然又想第一天那样复活了，从梦中醒来，爱人父亲也都还在。继续观看才发现，原来这是一个人为设定的高级机器人小镇，这个小镇被设定为西部世界的场景，游客new comer可以体验感受其中的种种游戏游戏，可滥交，可杀戮，可观赏，可游玩。而其中的AI都是被特定的程序和编码所操控，被屠杀之后只需重新再被修复改造又可投入使用。这些机器人的背后就是人--扮演着上帝造物主一样的角色，可随意编码回收机器人，这一切的背后又是可怕的商业链和利益链在操控，为了获得高利益，他们可对这些非常像人类的机器人进行控制、甚至将他们关进地窖一样的黑暗屋子中，等待着再被利用。看到这个突然觉得毛骨悚然，设想如果是我们的背后其实也是有人在进行操控我们的行为、语言、意识呢？
剧中的问题在于当这些机器人出现了bug,他们开始有意识，有自己的认知的时候。当女主在教一个游客喂马观察马时，小男孩看出来了女主也是机器人吧，女主表情开始变得非常不自然并很快离开那个地方。从这个细节说明女主开始有自己的意识了，而他父亲在看守牛羊的时候，从土里捡到一张女主的照片时开始思考这张照片跟女主的关系时，他也开始萌发出意识了。而这些都不在其背后的程序员的掌控之中。程序员是老戏骨，Anthony Hopkins（他演沉默羔羊真是把我吓得够呛），所扮演。在实验室的管理人员大规模召回更新的机器人时，发现了这对父女的异常，他们也开始着急了吧，这下可实在是玩火上身了。看到这我想到去年看的一个英剧the real humans 真实的人类，内容也是讲geek赋予机器人意识，结果和人类展开斗智斗勇相爱相杀的局面。所以这个西部世界接下来也一定会出现机器人开始疯狂报复人类的行为吧，而机器人一旦他们掌握有意识，加上他们身体的特异功能，不死之身，那么到头来人类必将灭亡。
我们现在依旧不断在发展高新科技，可是在AI方面真的还要再继续探索下去吗？我们想要机器人来解放人类的劳动力，可是如果机器人也有意识思维，那么我们便仿佛又回到了奴隶制的社会，因为我们想要将机器人当作奴隶一样来使用，来被我们操控，听从我们的指挥。那么从伦理道德这个层面来看科技带给我们的是进步还是倒退呢？真是细思恐极。
写到这又想到石黑一雄的never let me go，看的是电影版本，但是作者显然更直接的揭露出人类在这方面发展的贪婪和残暴，这些被克隆出来的生物，他们的目标就是为人类服务，不断捐献器官，直到死亡，生命枯竭。他们无法恋爱，娶妻生子，宿命是要在生命最好的时刻贡献自己。但是，这些克隆出来的生物也是活生生的人，有意思，有思考能力的人，从这个层面来说他们比机器人更悲哀，他们甚至连反抗逃生的能力都没有。
所以科技的发展带来的伦理道德问题值得深思。在这些发明发展过程中，人类贪婪、自私、暴力的一面也在一步步显露出来。但是随着时间之箭的指示，我们不可能倒退，还是只能往前，往前的路上是进步、是方便、是福利、是利益？还是战争、杀戮、暴力、血腥呢？只有靠人类自己自求多福了~~
