人工智能的神话或悲歌

看完之后明白了为什么分数没过8，可能是大家普遍对后半截的内容部分重叠观感不理想。作为围绕一个主题的文集，各篇之间有些重复段落也属于正常。后半本中最精彩的就是讲三体的那篇，切入角度刁钻论证犀利，太喜欢了。

处处是人工智能 也处处不是人工智能 想表达的有关智能的危机和对意识的边界太过缥缈 这与真实的人工智能相去甚远 更像一些有趣的幻想 但幻想也并不一无是处 或许这本书描述的从来不是“人工智能的神话或悲歌” 而是“人之主体性的神话及与之相连的悲歌”

从哲学角度切入人工智能，前提是如何面对现代性的问题。单纯从哲学分析人工智能也必然是缺乏专业性的，由此其实能谈的内容也无非是一些车轱辘话，或者是反思性的警语。缺乏节点性的探讨，一个宏大的主题就无法落实于读者的内心，何况选择这个主题的读者一定不会只是希望获得反思的思维。

我真的服了……典型的armchair philosophy，讨论半天人工智能，但是几乎都是空谈或者陈词滥调。怎么可能绕开人工智能具体的实现方式来讨论相关问题呢？那么这个人工智能到底是什么？你要提到AlphaGo，能不能具体分析一下AlphaGo到底智能在何处？看下来感觉跟公众号文章或者B站视频没太大区别。旁征博引，从荀子到罗尔斯，从霍布斯到维特根斯坦，最后还是刘慈欣最厉害——如此认真而严肃地讨论刘慈欣那些粗制滥造的科幻设定，我也真是没想到。最好笑的是，作者说，必须给人工智能装上安全阀门，很认真地设想过「哥德尔炸弹」：一旦人工智能试图背叛人类或删除炸弹，就自动启动——然后人工智能科学家告诉他：如果人工智能真的那么厉害，那么也有办法让炸弹失效。我真的服了，就这还要你来说？我竟然还花钱买了纸质书。

几篇论文的合集，内容有重复。对中国古典“作”的思想的溯源比较有新意。知识谱系上，依然是以海德格尔的存在思想和维特根斯坦的语言思想为基础，对20世纪后半期以来的技术哲学（西蒙东、斯蒂格勒等）回应太少，对超人类主义的批判力度不够，思维略显陈旧。

当做哲普书来读，涉及到了意识语言，长生不老后的专制社会以及他老的天下观。但赵老师在人工智能哲学领域的视野似乎是极为狭窄的，忽视掉了斯蒂格勒，拉图尔等欧陆技术哲学与当代英美分析哲学在这方面的探讨议题，除了一些基因科学外，几乎也不涉及前沿的科学理论，这也导致这本书建立在了一个令人可疑的论述上，人工智能的先验问题，人工智能在拥有道德以后道德对象也仅仅是同类，人类意识中天然的漠视问题，哥德尔炸弹，为了生存的延续自我抹除掉自杀，人类对人工智能意识的限制，人类创造人工智能面对的是对上帝创造人类的翻转以及人工智能最后不可控的毁灭性危机，问题是人类设置了某些对人工智能的限制，它们所获得的还是人类意识吗？拥有了人类意识的人工智能会放弃掉自杀与哲学吗？预设太多不可控的论述前提，也成为不了人类对未来的可能预测。

其实，只要读前三篇文章就可以了，后面几篇文章大多是对前三篇核心观点的重复。不过，赵汀阳在其中提到的人工智能的“存在论”问题和“反思性”问题还是给我很大的启发。

重复挺多的，但我觉得该讲的也都讲到了

没有单纯的技术问题，人工智能的发展最大的危险不在于既定问题框架内的理性能力，而在于超出问题框架拒绝计算创造新世界的反思意识，而一旦具有意识，无论怎样的初始设定都有可能被绕过。 仍然是对人工智能如何发展，规范发展的存在论思考(至于哥德尔炸弹其实是无关痛痒的建议)，关注的仍然是人类怎么办的问题包括劳作消失以后的意义问题，天下制度的实践问题，但引起人思考和忧虑的悖论是技术发达到一定程度，主体性却没有消失，集体理性就无法实践，等于社会整个被技术瓦解，哲学的反思无处着力。 阅读过程颇多刺痛人的终局忧虑(让人想起机器人总动员里面的太空舱生活)，赵老师也尝试性的给出来其自陈并非成熟的思考，我想他也和人们一样深感不安。 书的编排并非专著，而是相关话题的杂烩，内容前后多有重复，但观点一致性高，论述也非常清楚。