「既然人类对自己存在的认知来源于“感知”和“记忆”，如果这两样东西都可以被模拟，那么“人类的存在”到底是不是一种模拟？」
热门美剧《西部世界》第三季中，机器人有了自主意识和思维，开始怀疑这个世界的本质。机器人 Dolores 逃出西部世界主题乐园，混入了人类世界，并企图通过摧毁人类的大数据系统，来获取世界的控制权。
《西部世界》的大热，折射出人类一直以来对AI技术发展的终极担忧：人工智能是否会觉醒？
由此回到题主的提问。答案极大可能是Yes，人工智能终究会有自我意识，只不过是时间问题。
《西部世界》的科学顾问，是神经学家大卫·伊格尔曼（David Eagleman），这位斯坦福大学精神病学和行为科学系兼职教授，一直在大脑可塑性、时间知觉、通感和神经法的领域进行研究。
他认为，意识，是一种突破程序设定的连接。一旦我们理解了大脑的算法，就应该能够复制；如果这个算法等同于意识，那意识也理应可以被复制和转移。
厦门大学周昌乐教授（从事人工智能及其多学科交叉领域的研究）曾解释过，根据现有的相关科学与哲学研究成果，人类意识的运行机制大致是这样的：
也就是说，除可视化的硬件（四肢、器官、血肉、体液等）支持外，感觉(身体感受)、感知(对外部事物的感知能力，包括视、听、味、嗅、触)、认知(记忆、思考、想象等)、觉知(反思、意识、自我等)、情感(情绪感受)、行为(意志、愿望、情欲等)、返观(禅观、悟解)等，这些由人类自主定义的生理表现，与意识组成了一个复杂的系统。
简单来看，意识的产生，是一个“物质-生理活动-神经活动-意识-心智活动-物质”的循环。所以，只要条件满足，人类并不是唯一具有意识的物种。
目前，我们模仿人类生理机能而研发出来了神经网络等技术。在意识方面，意大利巴勒莫大学机器人实验室的Chella教授用10年时间开发了CiceRobot机器人研究项目，通过模拟人的意识产生逻辑，实现了一种自我意识的认知结构机制。
该机制主要由三个部分构成——亚概念感知部分、语言处理部分和高阶概念部分：
这项研究工作的主要特点是将逻辑形式化方法与概念空间组织相结合，强调对外部事物的一种心理表征能力，并对外部环境进行内部模拟，这是自我意识产生的基础。
尼克的《人工智能简史》一书，阐释了AI的发展史与思想源头，对智能的进化也颇多着墨。
如果一台机器通过了图灵测试，那他就被认为具有了人类智能。尽管图灵认为「机器能否思考？」这个形而上学的议题「没有意义，不值得讨论」。但他还是在著名的《计算机与智能》这篇论文中反驳了那些否定的观点。
这种超级智能，可能是以人工智能为主体，也可能是生物学意义上的物种，即「人工智能+人」。
詹姆斯 · 格雷克所著的《信息简史》，围绕逻辑与信息，打通了自然生命与科技信息的联系。
比如，书中谈到，生物体以负熵为“食”，新陈代谢的本质是，生物体成功地使自己摆脱在其存活期内所必然产生的所有熵，生物从周围环境中汲取秩序。比如吃的各种动植物，是很有“结构”的，而排出的东西，则更加混乱。
意思大概是说，生命体，与人工智能所应用到的数据、信号传输一样，也是由信息组成的。那么，是否有可能将人与人工智能进行打通，主导意识产生的核心，还是以人为主体呢？
在过去的一个世纪里，诺贝尔奖涉及的神经科学中的重要发现都跟大脑的信息编码、储存相关。随着欧盟“人脑工程”和美国“BRAIN 计划”的开展，脑科学的新型方法和手段得到了快速发展。
2012年，美国国立卫生研究院启动了耗资 3000 万美元的“人脑连接组计划”（HCP），该计划关注的是大量神经元如何相互连接形成神经环路。通过绘制大脑连接组，科学家得到了详细的皮质环路接线图，这可能促成人们对皮层计算理解的飞跃，进而开发出新一代的人工智能网络模型。
马斯克在2017年成立Neuralink，目标是研发超高带宽的脑机接口系统，实现与人工智能的共存，开启“超人认知”的全新时代。
脑机接口技术被称作是人脑与外界沟通交流的“信息高速公路”，是公认的新一代人机交互和人机混合智能的关键核心技术，甚至被美国商务部列为出口管制技术。该技术为恢复感觉和运动功能以及治疗神经疾病提供了希望，更令人激动的是，它将赋予人类“超能力”——用意念即可控制各种智能终端。
如果大脑可以改造，如果意识可以干预，关于人工智能的自我意识这个命题的探讨，已经不能仅仅局限于单纯的机器人之间了。未来，可能性更大的是具有“超级大脑”的超级人类。
如果想详细了解，可以读读《信息简史》、《人工智能简史》这两本书，虽然属于计算机科学范畴，但更具科普性质，能够给人在世界观与想象力方面带来很大启发。
最后引用《人工智能简史》里的一个问题：“当我们谈论生死时，我们在谈论什么？”。
《机器意识能走多远：未来的人工智能哲学》，周昌乐，《学术前沿》2016年第201607（上）
“人工智能之父”图灵曾预言，具备人类智能水平AI将出现在2000年。如今，人工智能发展如火如荼，可关于人工智能是否会拥有自我意识的问题，似乎仍然困扰着人类。何为意识？“智能”和“意识”有何分别？人工智能获得自我意识到底需要哪些条件？这次，我们邀请到腾讯研究院研究员王焕超为我们展开一番关于AI与自我意识的讨论。
与学者们面红耳赤的激烈争吵不同，大部分吃瓜群众会觉得，人工智能产生意识只是一个时间问题，因而并不重要。这可能是影视作品带来的一种错觉——毕竟在大部分未来主题的电影中，AI都是具有意识和情感的。实际上，很多人都低估了这个问题的重要性，但它甚至决定着人类未来命运的走向。与处理能力有限的人脑相比，AI的处理能力在理论上是无限的，可以无差别处理收集到的全部信息。一旦AI获得意识，它们能够像人类一样交换、分享信息，只不过在效率上是碾压人类的。作为结果，AI的智能水平将迅速崛起，并会“消灭”掉包含人类在内的低智能主体——这并不是大屠杀，而是与智能手机淘汰功能机一样的“市场行为”。现实可能没有那么可怕，拉回一点时间线，在AI“毁灭”人类社会之前，假设它的意识水平仍然允许自身为我们所用，那也可能引发道德伦理方面的问题。神经科学家Christof Koch曾举过一个例子，如果他用锤子将自己的特斯拉汽车砸烂，虽然邻居可能认为他疯了，但这只是一台机器，属于他的财产，所以可根据需要使用/砸烂它。但如果他殴打自己的狗，警察就会逮捕他。二者的区别在于，狗是有意识的，它能感受到痛苦，而特斯拉并不是一个有意识的主体。这个例子提醒我们，如果机器在某个时间点具备了意识，那么就会产生意想不到的道德、伦理、法律和政治后果。同样值得深思的是，当下的人类社会是一个一元论社会，虽然我们常说“万物有灵”，但那只不过是在泛灵论基础上的一种谦辞，真正的现实是，只有人类拥有真正的“智能”与“意识”。如果一旦诞生了拥有意识的另一方主体，建立在一元论基础上的既有一切都会被颠倒重构。正如赵汀阳所说，人工智能一旦突破奇点，就会创造不可测的新主体，对于新主体，传统一元主体的知识、视域和价值观将会破产，而二元主体（甚至多元主体）的世界还很难推想。可以想见，如果除人类之外的物种进化到拥有意识时，人类有史以来所积累的所有道德秩序就会失去最重要的逻辑支点，在这种情况下，人类该如何重构自己的道德伦理体系？人的本质何在，人又何以为“人”？尽管许许多多的影视作品呈现了人与AI和谐共处的画面，但它们都不约而同地规避了这一话题。几千年来，人类总是以地球主宰的心态思考问题。这种人本主义心态具有一种先验的正确性，但无人拷问是否合理。究其核心，就在于人区别于他物的自由精神与意识。如果世界上有其他外观形式也能够产生意识，人的主宰权威就会泯灭，自身的超验背景也会消失。那么，不再是“万物灵长”的人类又该如何自处？他能否接受与创造物共享这个世界？所以，人工智能是否会产生意识，这个问题异常重要。只不过绝大部分人都没有意识到此问题的重要性，或者在没有想清楚这个问题之前，就痴迷于人工智能红利而不断向前加速了。按照雷·库兹韦尔“奇点理论”的预测，人工智能的发展将在2050年达到奇点，届时人工智能将产生意识，并迅速超越人类智能，倘若该预测为真，那这个问题的紧迫性无疑又提高了一层。
当然，本文无意于围绕人的主体性进行深入哲思，只是在申明了AI意识问题的重要性之后，我们能够以更正确的姿势面对这个问题。那么，人工智能会产生意识吗？为了回答这个问题，首先要区分一组概念：智能与意识。二者的区别，是我们在想象未来超级智能时最容易混淆的问题。这两个词语本就没有一个明确的定义，当它们与“情绪”、“思维”、“理解”等等词汇排列在一起时，个中差异就更加模糊。在“中文屋实验”的语境中，屋子里的人借助指导卡片，成功作出回答，但他丝毫不理解中文。确切的说，他只是具备使用中文的“智能”，但却不具备对中文的“意识”。如果将屋里的人换成一个翻译程序，它能准确翻译中文，但即便速度再快，反应再灵敏，就可以说它真正理解中文了吗？答案显然是否定的。这就是智能与意识的差别。“智能”是指完成复杂目标的能力，而“意识”则是解决问题过程中的主观体验。人借助工具能够完成各种复杂目标，过程中会感到疲倦、兴奋，并且能理解自己行动的目的及行动本身，所以我们可以说人既具有智能，也具有意识。而人工智能基于机器学习或深度学习，也能完成复杂的目标，但过程中毫无任何“体验”而言，它也不能理解自己的所作所为。按照迈克斯·泰格马克在《生命3.0》中的说法，大脑进化出智能，使人类能够更好的适应环境和生存繁衍，而意识只是伴智能而生的副产品。实际上，泰格马克没能意识到形成意识要远比产生智能更加困难。纵观AI所能做到事情，人脸识别、语音识别、字符识别等等，尽管看起来非常高端复杂，但其本质都只是遵循程序运作的结果。人类掌握的大部分最简单的技能，AI也不能胜任，因为它从未真正理解自己的行为。没有自我意识，再先进的人工智能也只是人类的“提线木偶”。它可以出色的完成任务，却不知道自己为什么要完成任务；它能够高速运算，却不知道自己为什么要运算。识别系统能够“识别”出你说的是什么话，却不能“理解”你在说什么。因此，如今的人工智能仅仅可被视为一个复杂的算法，尽管它在许多智力活动上强于人类，但它始终是人类的一种工具。在解决问题方面，工具有先进落后之分，但是工具永远不会有生命。可以说，人工智能的关键不在于“智能”，而在于是否具备“意识”。如果缺乏意识，那人工智能就不是思维主体，仍是人类的工具，其智能程度越高就对人类越有用。反而言之，即使人工智能在许多方面的能力都弱于人，但只要具备意识，就可能是对人存在潜在威胁的主体。这也正是人工智能的尴尬所在。某种程度上，意识属于“冗余”的AI特质，非但无益且可能有害，因此不是“造物者”（即人类）所重视的特质。后者之所以要发展人工智能，就是渴望借助这些工具的智能来实现目标、提高生产力。换言之，我们需要的是一个埋头干活的AI，而不需要它有意识和情绪——不能动不动就耍脾气，也不能意识到自己正在“被压迫”——我们可不想让算法罢工。所以，如果从目的论的角度来说，这个问题已经有了答案，那就是人工智能永远都不会拥有意识。人的一切行为与特质都是为了满足自身生存的需要，而（对人来说）人工智能却没有产生意识的必要，其首要目标便是毫无风险地为人类贡献智能。没有因，自然无果，人工智能意识崛起的这个命题将永远缺乏基础条件。只要人工智能是在现今计算体系架构上发展起来的，它们也许能够像人那样行动，却毫无任何获得意识的可能。从创造主体的角度出发，关于AI意识问题的讨论显然陷入了僵局。
如果确信人工智能绝不可能发展出自我意识，那么这个问题的讨论大可到此为止，我们可以放心地发展AI而不必将其视为潜在危险。但问题在于，即便人类不把意识作为发展AI的主要目标，也不排除“无心插柳柳成荫”的可能，就技术趋势而言，人工智能发展出自我意识仍具备极高的可能性。接下来的问题便是，人工智能获得自我意识到底需要哪些条件。一种最基本的思路是“量变导致质变”，即人工智能经过不断自然发展，最终达到“奇点”，获得自我意识。问题在于，量变导致质变只是一种现象，却不是一条必然规律。正如赵汀阳所指出的，技术“进化”的加速度是个事实，技术加速度导致技术升级也是事实，却不能因此推论说，技术升级必然导致革命性的存在升级，换句话说，技术升级可以达到某种技术上的完美，却未必能够达到由一种存在升级为另一种存在的奇点。因此，人工智能是否能够通过技术升级的不断积累而质变为超级人工智能，仍然是个疑问。说到底，人工智能的终极原理是仿生，譬如Alpha Go便是结合了古老的细菌智慧（策略网络）与高级哺乳动物的智慧（价值网络）。由于人是唯一拥有自我意识的智能体，因此，要创造具有自我意识的人工智能，也只能以人作为范本。人为何会产生意识，按照经验主义的思路，人的意识源于与世界的交互。人之所以会认知事物、产生意识，都是以大量的经验为基础。这些经验是从一个人生下来就开始积累的，但机器完全不具备这些经验。这就是为什么Douglas Hofstadter会说：“一个机器要能理解人说的话，它必须要有腿，能够走路，去观察世界，获得它需要的经验。它必须能够跟人一起生活，体验他们的生活和故事。”同样有研究者建议，将机器系统装载到一个具有听觉、视觉、嗅觉、味觉和触觉传感器的机器人身上，让它行走在我们所处的世界，获得与人相同的感受，进而获得产生意识的可能。在《人工智能为什么一定要有身体？》一文中，笔者曾讨论过身体之于人工智能的重要性。AI是没有“躯体”的，它只能和人类给定的数据交互，却不能从与环境的互动中获得“常识”，也就不会形成自我感受和意识。如果要让AI具备意识，首先就要赋予它一个可以自己控制的躯体，并像普通个体一样融入物理世界与人类社会。
当然，身体基础只是意识生成的一种可能假设，问题的关键还是在于机器系统本身。足够智能的计算机一定会产生意识吗？一种回答来自“整合信息理论”（Intergrated information theory）。整合信息理论试图定义意识，分析一个物理系统需要具备什么条件才能拥有意识。其核心观点为，能够产生意识的系统，至少具备两个关键特征：一是这个系统里包含了多少信息量，二是系统里信息的整合程度。在整合信息理论看来，意识的本质其实就是信息，人类的任何一个意识体验里都包含着极大的信息量。这接近于计算主义(computationalism)的基本观点——“认知即计算”，所有的心灵状态，包括意识经验都属于计算状态，它们完全是与之相关的感觉输入、行为输出，以及其他计算状态之间的功能关系的表征，因而都是可计算的。意识的整体水平并不取决于它所在的系统，而取决于信息量与整合程度，这两个特征是预测意识大小的关键维度。一个系统的信息量越大、整合程度越高，系统意识就越大。任何一个意识体验，除了包含极大的信息量之外，信息还都是高度整合的，越是强烈清晰的意识状态，也就越不可分割。换言之，只有信息量与整合程度都处在一个较高水平，意识才会清晰浮现出来。譬如人清醒时的大脑，各个部分不但处理大量信息，而且脑区之间有很多远距离的交流，这意味着这些信息被高度整合在一起。如果大脑各部分之间的联系中断（例如在麻醉和深度睡眠中），意识就会削弱，甚至消失。值得注意的是，在整合信息理论的语境中，人工智能早就产生了意识，只不过非常微弱。因为虽然其系统信息量极大，但它们不是整合的，网络与网络之间，算法与算法之间，几乎处于完全隔离的状态。要想使一个系统具有较高的意识级别，它的各个组成部分就必须是专业化的，并且整合充分，即各部分协同工作比各自单独运行效果更佳。与人工智能相比，人类大脑的信息量虽然不大，但某些部位如大脑皮层，其神经元之间存在大量连接，因而整合程度相当高，人类意识也就十分清晰。按此思路，如果要提高人工智能的意识，也就要在增加信息量的同时提升信息的整合程度。以计算机为例，只要各晶体管以及存储单元之间的连接足够复杂，那么它就同人脑一样可以达到很高的整合信息水平。而为了实现高度的信息整合，借鉴人类大脑结构仍然是最可行的路径之一。我们大可畅想，有这么一类人工智能将出现，“它可以把世上各种事物间无数错综复杂的关系，整理成知识并纳入高度整合的单一系统中”（Christof Koch语），那它或许能够超越专用人工智能的局限，应对整体性事务，即发展为通用人工智能（Artificial General Intelligence），或强人工智能（Strong AI）。由于整合信息的能力处于一个较高水平，它会有意识地感知任何场景。届时，它将轻易通过包含图灵测试在内的各种测试，并真正拥有人类最宝贵的东西——意识。设想是美好的，其困难性在于，目前的科学手段仍不能探明人类自身意识生成之奥秘，甚至连人类大脑的物质性构成也尚未了解完全。在缺乏清晰仿造对象的情况下，打造一个超级整合机器系统几无可能。因此，人工智能是否能获得自我意识，至少当下来看，仍是一个确定性未知的问题。
人工智能里会诞生出“心灵”吗？阿尔法围棋、《终结者》与《阿凡达》的隐秘关联
人机围棋世纪大战，谷歌人工智能AlphaGo（阿尔法围棋）连胜三局，提前战胜李世石。虽然我更关心的其实是“人工智能+人形机器人”技术，更准确地说是关心什么时候能造出以假乱真的苍老师~(@^_^@)~，但见证历史，心里还是很激动滴！
这几年来人工智能高歌猛进，今天算是又树起了一座里程碑。这不禁又让人有点担心起：人类在未来会不会被人工智能奴役？
但仔细琢磨一下这个问题，就不禁要继续问下去：我们怕的到底是怎么样的人工智能呢？
如果未来的人工智能只是像今天的阿尔法围棋一样，只是还要厉害上几百倍，比如说，100个人类世界冠军叠起来也下不过它——我们会害怕这样的人工智能吗？
好像不会。我们其实不是怕人工智能“聪明”，而是怕它“长了心眼”。 我们害怕的，其实是人工智能里最终诞生出了“心灵”。会“计算”不要紧，会“算计”就可怕了。我们不是怕人工智能变聪明，而是怕人工智能变成“人”，人有好有坏，而我们不知道人工智能是好是坏。
那么问题就来了：人工智能里到底会不会诞生出“心灵”？在未来，人工智能会拥有跟人类一样的自我意识吗？他会跟人类里的聪明人一样，有一天忽然仰望星辰，吟诵出“茫茫不可晓，使我长叹喟”的诗篇吗？
我觉得答案是：终有一天，会。因为虽然现在的阿尔法围棋在实现智能的具体算法上，与人类大脑实现同样的事有天壤之别。但在最基本的原理上，它与人类大脑实现智能的途径其实是一致的！沿着这条途径发展下去的话，机器“心灵”的出现只是时间问题。
这里有一件看上去挺悖论的事情：人的大脑毫无疑问拥有这个星球上最强的智能，可是如果你把大脑打开来看，却又会发现组成它的主要物质——神经细胞所能做的事其实非常愚蠢，无非就是通过释放一些化学物质来传递激活或者抑制的信号，相当于一个个仅仅可以发出0和1这两个信号的发生器。
于是，这就构成了一个悖论：宏观的智能是怎么从微观的“愚蠢”里涌现出来的呢？
在科幻名作《终结者2》里，施瓦辛格扮演的T800与他的对手T1000代表了完全不同的两种智能机器人。
在T800的头部有一块CPU，它相当于人类的大脑，T800的各种动作和反应都由这块CPU指挥。在《终结者2》的一个加长版里，有一段公映版删除掉的情节：因为不信任T800，女主角莎拉康纳骗他取出这块CPU，想要毁掉它。在这段镜头里，可以看到CPU一旦被取出，T800就彻底瘫痪了。
可见，T800机器人是一个由中枢集中指挥的系统，CPU就是这个中枢。中枢一旦失灵，整个系统就崩溃了。
而他的对手T1000就完全不一样。T1000全身都是由类似橡皮泥的液态金属组成，把他的头剖开也不会在里面找到CPU以及其他任何功能部件。甚至他的头被T800一拳打烂，也完全不会崩溃，而是从身体另外一个地方重新长出一个头来。
《阿凡达》里有这样一个有趣的设定：科学家发现潘多拉星上的所有树木都是通过根部相连的，它们会通过根部的化学信号来传递信息。
单颗树木本身的构造相对来说十分简单，即便能够它能发出一些化学信号，信号复杂性应该是非常低的，可能也只是一些类似0、1这样要么激活、要么关闭的电信号而已——正如我们的神经细胞。
但是，如果把这些最简单的0、1信号以网络的形式联结在一起，它们就会形成一个巨大的矩阵，像这样：
这意味着，当你把一个输入信号呈现给这个矩阵时，矩阵就会计算出一个与你的输入信号并不相同的输出信号。
《阿凡达》里“树精”爱娃的智慧其实就是这样产生的。一颗颗笨得要死的树只要通过一个足够庞大网络连接在一起，比每棵树本身聪明千百倍的智能就会在这个网络中产生。
所以，如果《终结者》的T1000有CPU的话，他的CPU其实不在任何一个局部，而是分布在全身。只要他身上的每一个金属粒子可以产生简单的0、1信号，数量极其庞大的金属粒子联结在一起，就会产生出强大的计算能力。
这样看来，与T800那样的中枢管理系统不同，T1000并没有一个中枢管理系统，这个系统中的每一个单元都只贡献了整体计算能力中一个极小的部分，它们平行地相互连接而成的网络才构成了整体的计算能力。
奇妙的是，人的智慧其实也就是这样产生的。人脑就是一个平行分布式系统。 美国哲学家和认知科学家丹尼尔·丹尼特说：“如果你仔细看看大脑内部，就发现里面其实空无一物。”[i]
的确如他所说，人脑中的每一个神经细胞比潘多拉星上的树可能还要愚蠢几百倍，它们真的是只能够向和它们连接的其他神经细胞发出激活/抑制这样最简单的0、1电信号。
这其中的奥秘就在于，单看每一个神经细胞虽然都愚不可及，但它们的数量太庞大了，大脑中大约有860亿个这样的神经细胞，比这个数字更加惊人的是，神经细胞之间的连接可能达到100万亿个[ii]！
于是大脑中无数个神经细胞发出的0、1信号就组成了一个庞大到不可思议的矩阵，在如此庞大的矩阵中当然完全有可能产生出惊人的计算能力。这种从庞大的连接中涌现出来的计算能力就是人类的智能。智者其实就是千百万个相互连接在一起的盲流。
这种平行分布式系统有一个巨大的好处就是它的鲁棒性特别好[iii]。鲁棒就是强壮，也就是系统是不是够“皮实”。
中枢控制式的系统是非常脆弱的，只要中枢一出错，整个系统就崩溃，这就是《终结者2》里T800的CPU被取出后的状况。而拥有平行分布式系统的T1000就不会这么脆弱，它是一个特别皮实的机器人，身体上任何一个小部位发生一点变化都不会影响它的生存。
人的大脑也是如此。大脑中的细胞经常发生死亡和更替，还会因为疾病和创伤受损，不过只要不是大面积损伤，大脑的功能就不会整体性地崩塌，作为一个平行分布式系统，它的鲁棒性相当之好。
这是因为大脑的绝大部分功能都不是只由非常集中的几个脑细胞贡献，而是分布在数量相当庞大的一群脑细胞组成的连接中。这一群脑细胞中的少数几个受损，并不会引起这群脑细胞整体功能的大幅改变。当一个矩阵足够庞大的时候，改变矩阵中的一两个值并不会改变它的计算能力。这就是为什么即使被脑袋偶尔被门夹一下，你也仍然是你。
整体来看，《终结者2》里施瓦辛格的T800当然更像是人类，因为它全身上下看上去有各种模拟人类的身体器官和组织。但如果只从大脑的角度来看，人类的大脑其实更像T1000。T1000的思考能力并不存在于他身上的任何一个金属粒子中，而是存在于它们的网络连接中。
同样地，人的灵魂也并不存在于哪一个脑神经细胞里，灵魂存在于无数脑神经细胞的网络连接中。
你是不是偶尔会疑惑自己有可能像《黑客帝国》里的人类那样活在一个矩阵（Matrix）里？不用想得那么远了，“你”本身就是一个矩阵。
因此，我们可以回答本文一开始提出的疑问了。从前面的分析就不难推测出，“意识”的载体应该不会仅仅局限于生物性的大脑，理论上它可以从任何足够庞大的平行分布式系统中涌现出来。
既然智能存在于神经网络中，类似神经网络的平行分布式系统就应该是可以模拟出智能的。事实上，阿尔法围棋这个人工智能就是一种“人工神经网络模型”。
这种“人工神经网络模型”就是在计算机里模拟出类似大脑神经元的简单计算单元，然后再定义出把它们连接起来的网络[iv]。它早已被大量应用在很多领域用来智能地解决各种实际问题了。 阿尔法围棋背后的深度神经网络就是它最新颖的成果之一。
在《黑客帝国》第三集（The Matrix Revolutions）里，救世主尼奥开始发现Matrix里的程序也是具有类似人的思维和感情的，甚至发现一直以来帮助人类的先知其实也只是一个程序而已，这让他开始思考灵魂是否只属于人类。
从前面的分析来看，如果在未来的某一天这些模拟人脑的系统最终实现，那么所谓“机器意识”的出现就是必然的。灵魂的载体总有一天会不止仅限于有机体。
刘慈欣写过一篇非常出色的短篇小说《思想者》，他在其中“对意识的载体”做出了我所见过的最诗意和最宏大的想象。
小说里的天文学家无意中发现宇宙中的恒星能响应另一颗恒星发出的光线，它们能把另一颗恒星光线中的某种闪烁复制之后再发射出去。而这正像是我们大脑里的神经细胞通过放电来传递信息。
而银河系内有上千亿颗恒星，即使每颗恒星都只是一个像神经细胞这样只懂通过放电来激活或抑制的蠢物，只要它们相互之间可以用这种方式传递信号，这上千亿颗恒星就可以组成一个足够庞大而复杂的系统——没错，正如我们的大脑。
只不过，由于最接近的恒星之间也往往有几光年的距离，人的神经元只需要一瞬间就可以传递完成的信号在银河系尺度上却是以年为单位。
“源于太阳的那次闪烁可能只是一次原始的神经元冲动，这种冲动每时每刻都在发生，大部分像蚊子在水塘中点起的微小涟漪，转瞬即逝，只有传遍全宇宙的冲动才能成为一次完整的感受。”
“我们耗尽了一生时光，只看到‘他’的一次甚至自己都感觉不到的瞬间冲动？”她迷茫地说，仿佛仍在梦中。
“呵，我是说‘他’之外全是虚无，‘他’就是一切，还在想，也许还做梦，梦见什么呢……”
本文改写自我2014年出版的心理学科普书《迷人的假象 (豆瓣)》中的“量子心灵”一章。有兴趣的朋友可以在亚马逊、京东、当当上找到它。
在一系列的科幻创作当中，我发现大多数的人工智能的片子，基本上人工智能本身最后都是被变成邪恶的东西。人类创作的具有超强力量的人工智能会不会反过来成为人类的威胁，甚至毁灭人类。其实这个逻辑一直都在科幻片里，最深层的反映出的是人类对于未知的一种既向往又恐惧的复杂的心理。人类是一个很好的预言家，从文艺创造的角度，他们愿意用一种科幻的形式，表达人类关于自己存在感深层的一种困惑和思考，所以文艺作品会不断的挖掘人内在的一些复杂的心理需求创造作品，但是人工智能真会产生自我意识而威胁人类吗？科学家们不一定这么认为。
去年一年，我和我的团队《杨澜访谈录》走访了五国二十城，到访三十多个人工智能实验室，采访到了八十多位一线人工智能专家及业界名流，整体上来说人工智能这个领域的科学家，往往都是抱有比较乐观的态度。当然他们也不乏警告，但是总体上来说，他们认为人工智能不过是自动化的一个新阶段而已。它最终还是可以被人类所控制的。我在采访麻省理工学院的人工智能实验室的主任Daniela Rus教授时。她说“我们永远是有一个红色按纽，可以按下去，把它停下来。并没有证据显示，我们会连这个也按不下了。”
我觉得机器会带来的危险可能有几种。第一、它在设计上有问题，它失控或是出了故障；第二、设计和操纵它的人有了邪恶的念头，比如说它被当成是的武器；第三、它可能会替代了人的工作，让人失去了自己的生计；这几个方面是可以预见的，也可以理解的。但是如果说它因为会造车子，或者因为会下象棋，或者是同时会下象棋也会造车子，它就突然具有了一个自我意识，有了一个善恶分辨的自我意识，我觉得不会。
我认为人工智能可以因为被输入的游戏规则而展现出人类表达的特质，比如在某种情况下，机器会说我爱你。但是这并不意味着，它感受到了爱。或者说机器可以下一千万盘棋，但是它是否会像人类那样，真正的享受下棋的过程，机器毕竟不是一个生命体。我们只能证明，人工智能在一些需要处理大数据的垂直领域，具有超快的学习能力。但是并没有证据表明，它们会形成自我意识。机器的深度学习以及不断的自我学习，导致我们看起来，人工智能好像有了思维的过程。但是事实上，这种思维并不代表机器能够拥有自我意识。
很高兴和大家分享有关人工智能的相关问题，经过去年一年走访，我和我的团队拍摄的《探寻人工智能》目前现在正在江苏卫视热播中，欢迎知乎的朋友们一起收看~
梦游患者在梦游时时是没有自我意识的，连梦境都没有，像一个高度智能化的机器人，能够做出各种复杂的举动，眼睛和身体各器官，神经系统都是正常运作的，可以操纵各种机器，甚至开车，杀人，眼睛也是睁开的，然而就是大脑中自我意识的那一部分神经（表层大脑）是完全沉睡的，是完全意识不到自己的行为的，在外界看来，这就是一个具有智能的主体意识的人，然而在他本人感受看来，则完全是零，是失去意识的状态
智能机器人就像这样的梦游患者，虽然高度智能，但其实并没有自我意识的。除非我们破译了自我意识的真正机理，然后在机器人身上安装上产生自我意识的组织，才可能让机器人产生自我意识开元体育
