《末世救亡计划》第114章：天启也有天神思[2]

末世救亡计划最新章节目录
  
    这会促使大型人工智能将计算过程委派给尽可能小的子系统以加快速度，就像人类的意识智能系统将眨眼反射委派给一个小而快的无意识子系统一样。
    天神看到这里也是感到震惊，这就像他现在所掌握的分体一样的道理。
    虽然人类前面已经看到人脑中有意识的信息处理过程，似乎只是一个巨大的无意识的冰山的一角，但人类有理由相信，对未来的人工智能来说，情况可能会更加极端。
    如果它拥有一个单一的意识，那其中发生的绝大部分信息处理过程可能都是无意识的。此外，虽然它的意识体验可能非常复杂，但与其内部较小部分的快速活动相比，它们就像蜗牛一样慢。
    这使得前面提到的一个争议变得更加尖锐了，这个争议就是：意识实体的组成部分是否也可以拥有独立的意识？信息整合理论的预测是“不可以”。
    这意味着如果未来一个巨大的人工智能拥有了意识，那么它的几乎所有信息处理过程都是无意识的。
    这也意味着，如果一个由较小人工智能组成的文明突然提升了其交流能力，从而涌现出了一个有意识的蜂群智能，那么那些速度更快的个体意识就会突然消失。
    然而如果信息整合理论的预测是错误的，那么蜂群心智就可以与那些较小的意识心智共存。的确甚至可以想象，意识可能组成了一个嵌套式的层级结构，从微观尺度一直嵌套到宏观的宇宙尺度。
    正如人类前面所看到的那样，人类人脑中的无意识信息处理过程似乎与心理学家所谓的“系统1”有关，也就是不费力气、快速自动的思维方式。
    比如，你的系统1可能会告诉你的意识，经过它对视觉输入数据进行高度复杂的分析后，确定你的好朋友已经来到了你的面前，但它不会告诉你这个计算是如何进行的。
    如果事实证明系统与意识之间的这种联系是有效的，那人类会忍不住将这个术语推广到人工智能，给人工智能也定义一个系统1，也就是所有委派给无意识子单元的快速程式化任务。
    而那些需要花费力气、缓慢且受控的全局思考过程，如果有意识的话，就可以称为人工智能的系统2。
    人类人类还拥有一种意识体验，我称为“系统0”，那就是原始而被动的感知，也就是当人类坐着不动或什么也不想，只是静静观察周遭世界时体验到的感觉。
    系统0、系统1和系统2的复杂程度似乎一个比一个高，但令人惊讶的是，系统0和系统2似乎都有意识，而只有中间的系统1是无意识的。
    对此信息整合理论解释说，系统0中的原始感官信息存储在信息整合度非常高的网格状大脑结构中；系统2的整合度也很高，因为它拥有反馈回路，在其中，你某一时刻意识到的所有信息都能影响你未来的大脑状态。
    然而正是这种“意识网格”的预测，引发了曙光组对信息整合理论的批评。
    总而言之，如果一个理论能解决“相当难的问题”，而它又能通过严格的实验验证，从而使人类开始认真对待它的预测，那么它也将大大缩小“未来有意识的人工智能可能体验到什么”这一“更难的问题”的选项范围。
    人类主观体验的某些方面显然可以追溯到人类的进化，例如与自我保护和繁殖有关的情绪欲望，比如吃东西、喝水、避免被杀等。
    这意味着创造一个无法体会饥饿、口渴、恐惧和性欲这些感质的人工智能应该是可能的。正如人类如今看到的那样，如果一个高度智能的人工智能被设计出来并拥有一个野心勃勃的目标，不管这个目标是什么，那它就可能产生自我保护的行为，以便能够实现它的目标。
    但是如果它们是人工智能社会的一部分，那它们在面对死亡时可能会缺乏人类那样强烈的恐惧，因为它们只需将自己备份一下。
    那么即使它被消灭，失去的东西也并不多，最多是最近一次备份点到现在为止累积的记忆而已。
    此外，人工智能之间可以随意复制信息和软件，这可能会削弱个性，而个性正是人类意识的特色，如果我与你事无巨细地共享着记忆和能力，那你和我之间还有什么差别呢？
    所以一群相距不远的人工智能可能会感觉它们是同一个生物，拥有同一个蜂群智能。
     ;