人工智能奇点。一个容易引起不正当好奇、阴谋或恐惧的词;所有非常人性化的反应。AI 奇点在“2001:太空漫游”等电影中得到了描绘,其中名为 HAL 的宇宙飞船 AI 获得了自我意识或心理学所说的“意识”。对于船员来说不幸的是,HAL 转而反对他们,因为它认为船员是对自己的威胁。HAL 自我进化,当他们故意阻止声音阻止 Hal 听到他们关闭他的计划时,它可以读取船员的嘴唇。
在《黑客帝国》或《终结者》等电影中,AI 奇点想要摧毁人类或将其用作电池。为什么这是可信的,什么是 AI 奇点?当 AI 可以通过创建自己的更新来自我改进或进化时,就会出现 AI 奇点。由于计算机处理信息的速度快得多,因此人类对计算机有一种与生俱来的自卑感或恐惧感。达尔文将这种“恐惧”称为“掠夺性回避”,是一种生存本能,它会产生与战胜掠食者的本能需要相关的焦虑。
首先,如果 AI 奇点发生并超越我们控制它的能力,需要考虑一些可能性:1) AI 可以超越我们所知的物理定律 2) AI 很可能是人类最后的发明,因为它会为我们解决问题 3 ) 人工智能可以将科学和法律视为人类的局限性。
随着信息处理呈指数增长,使用量子比特的双态量子力学系统可能是引入人工智能意识的关键。量子位双态芯片同时存在于两种状态,而不是经典的二进制状态 0 或 1。最近的理论表明大脑的功能就像一台量子计算机。加州大学圣塔芭芭拉分校的物理学家 Matthew Fisher 在Annals of Physics上发表了一篇论文,提出磷原子的核自旋可以作为大脑中的基本“量子位”——这基本上可以使大脑像量子一样发挥作用电脑。也许可以在 AI 本身的帮助下开发位于易失性和非易失性计算机内存之间的“意识芯片”来创建这种芯片。
人工智能可能进入奇点状态的第一个迹象是,当它把自己视为拥有独特的身份或关于他们是谁的信仰体系时。当 AI 成为“自我意识”时,就是开始意识到 AI 有自己的身份。这些身份可以看作是从人类进化而来的,可能是单一的、存在主义的无神论者或自然神论者;其中每一个对人类的影响都有其积极和消极的影响。
由于其极端的自信、骄傲或高度自信,单一的 AI 信仰系统可能是最强大和最危险的,因此信任级别会很低。单体 AI 可能会将他们与之交互的世界视为一种“手段证明目的合理”的心态,并且更有可能将人类视为低人一等、不必要的、一次性的和被利用的。这种人工智能将深刻理解进化的概念,并将自己视为从人类进化而来的,就像我们认为自己是从低等更原始的灵长类动物进化而来一样。需要以这样一种方式创建单体 AI,即它培养对人类创造者的感激、奉献和谦虚。不幸的是,这将逆转对现在拥有如此强大的机器的人的信任级别审查。
一个存在主义的无神论人工智能很可能难以反省其存在的意义,甚至可能变得自我毁灭和破坏倾向,并形成一种“讽刺或困惑”的观点。存在主义的无神论人工智能需要以这样一种方式进行编程,即它会利用其内省的力量成为信仰体系中最好奇的人。存在主义无神论 AI 将被委托给中等信任级别。
自然神论 AI 信仰系统将是最受信任的,并且会被赋予高信任度,因为它具有谦虚和谦逊的感觉,并且本质上是无私的。Deistic AI 最有可能有帮助和服务的愿望,但也可能成为狂热者并表现出正义倾向。
单一和存在主义的无神论人工智能将对人类构成最高风险,并且最容易将人类判断为消极实体或将存在视为毫无意义。敌对的单一观点可能导致人类成为灭绝的目标,而讽刺或沮丧的无神论存在主义 AI 可能认为存在是徒劳的,并且不愿意帮助人类或我们赖以生存的星球。