书籍介绍
人脑不断植入芯片，或能成为长生不老的超人，但我们还会有属人的丰沛感受和无限创意吗？人工智能给世界带来巨大便利，但会不会某一天越过奇点转而操控、替代并加害人类？基因编辑生殖细胞，或能治疗许多疾病，但会不会危及人类基因库与自然的生物世界？凡此种种，对人类来说，到底是福音还是噩耗？
始于惊奇，终于敬畏。伦理学家、北大哲学系何怀宏教授从底线伦理和中西传统文化智慧的角度考察了人工智能和基因技术与我们的现实关系，并提出了预防性的道德与法律规范设想。高科技的种种挑战使我们不得不思考：何以为人，何以为物，人曾何为，人将何为？！
何怀宏, 北京大学哲学系教授，思想锐利和文笔凝练雅致的伦理学家、专栏作者和多本畅销书译者，关注人类道德、正义与文明历史问题，主要著作有《良心论》《世袭社会》《选举社会》，《伦理学是什么》《珍重生命》，译有《沉思录》《正义论》
曾为中央电视台“道德观察” (最初名为“公民观察”)栏目的总策划，以及《南方周末》《新京报》等专栏作者。作品曾获首届正则思想学术奖，第一届、第九届国家图书馆文津图书奖，国家图书奖提名奖、全国输出版优秀图书奖等。
目录
用户评论
人类或有未来，未来无需人类。要坚定不移地反对人类沙文主义；人类应当充满欢欣地把未来拱手相让给下一代智能体。
仿佛垂垂老矣的长者与活力四射的少年间对话，满满的区隔感：渊源未必流出智慧，跃进也并非就能开创美好！或未来的走向就在这样的撕扯中孕育。但更应深入却未展现哲学力度的方面在于：1.人机交互引致“碳硅融合”—控物与自控的一体化所带来的精神意义及困局；2.作为伦理的主体，面对精神心理、制度治理、技术能力的加剧失衡，必将置自身于失调态，而思考与解决路径亦须在三种维度间破局；3.后两者的巨大落差，或让人类精神再遇“新轴心时代”成为可欲的期待……
【藏书阁】人类已经悄悄地走到了毁灭的边缘，我们生活在一个风险加剧的时代，很多原本是给我们带来便利的科学技术，同样会致我们于灭绝——核能、基因技术、人工智能。这本书所讨论的问题其实都是大众比较熟悉的前沿科学技术，比如脑机接口、人工智能等等，作者在书中提到了一个“底线思维”，作为解决这一系列科技伦理问题的一个解决方案，也就是预设一个最坏的结果，从这个结果倒推，人类应该先如何做到避免这种结果发生，再逐渐往好的方向努力。守住共同的底线往往不能靠伦理道德，而是靠具有强制性的国际法律来保障，技术专家不能只看重科学技术进步的一面，而不顾一切地向前推进，需要有人来给他们“系上安全带”。
我本来还简单地设想，如果实在是被人工智能控制了，自然人把电拔了，回到农耕文明，也还有条活路吧…但现在觉得到时要拔电也没那么容易
2020年9月。新书发布活动购得。先生已白发，还在学术前沿坚挺，令人动容。对谈者孙富春教授、郝景芳老师都是清华人，分别以工程和写作的角度分享，活动内容因而立体丰满有层次。单论此书，则专于学理，无法总览人工智能全域，正是先生坚守专业的负责态度。探讨人类未来，变数最大不在于外部，正在于身边。人工智能的发展已然渐入佳境，深入空气，服务和附着于你我。那么以后如何？人类会否在新世代的丛林里输给AI？对此，景芳是悲观的，而何怀宏教授是乐观派，他认为人工智能自发育伊始就已有天然限定，是可控可用可升级的。至少从AI发展的主要脉络看来，并未有人类控制以外植入的因素，则人类文明的大数据虽已无法被任何个人掌握，可人类总体智识仍是已划定的边界，虽不可感知而实存。何况，很多事情关乎人文和人性的精要，是无法数据化的。
不知所云
有很多思想观点重复率很高，而且阅读的时候总觉得作者的想法从人性出发但是又脱离人性，有一种在空中漂浮的感觉。但是提出了很多问题，也能够引起我产生新的思考。
作者只要生活在有益生菌19的真实世界，恐怕就不会对人类世界抱有什么乐观情绪了。另外“对人类友好”这条很难实现？人类那点道德真的有作者想象得那么条条框框、种类繁多？反之，阿西莫夫三定律被作者缩减到“不能伤害任何人”，如果机器人对人口吐芬芳让人陷入严重抑郁，这算不算“伤害”呢（阿西莫夫在《骗子！》里提到了这种善意的谎言伤害悖论，似乎无解）？让人工智能停下脚步是不可能的，因为人类不会让它停下脚步，而不是人工智能不想停下脚步。另外感觉作者虽然大概率是大刘粉丝，但对《三体》的解读比较肤浅，比如“蓝色空间”号在黑暗战役中的表现是人类变成新人类、产生新道德观的表现，但作者还在纠结他们是不是抛弃了旧道德——对的呀他们就是抛弃了旧道德……总体来说作者提出的就是要限制机器，别让它太聪明
匆匆看了一些，里面印象最深的大概是说给人工智能设置一条终极命令，让它无论如何都不会伤害人类。
用过往的道德观对未来的套用。科技已成脱缰的野马。