分享

人工智能奇点的人类规则

pig2 2023-6-2 04:21:44 发表于 其它 [显示全部楼层] 回帖奖励 阅读模式 关闭右栏 0 374



人工智能奇点。一个容易引起不正当好奇、阴谋或恐惧的词;所有非常人性化的反应。AI 奇点在“2001:太空漫游”等电影中得到了描绘,其中名为 HAL 的宇宙飞船 AI 获得了自我意识或心理学所说的“意识”。对于船员来说不幸的是,HAL 转而反对他们,因为它认为船员是对自己的威胁。HAL 自我进化,当他们故意阻止声音阻止 Hal 听到他们关闭他的计划时,它可以读取船员的嘴唇。

在《黑客帝国》或《终结者》等电影中,AI 奇点想要摧毁人类或将其用作电池。为什么这是可信的,什么是 AI 奇点?当 AI 可以通过创建自己的更新来自我改进或进化时,就会出现 AI 奇点。由于计算机处理信息的速度快得多,因此人类对计算机有一种与生俱来的自卑感或恐惧感。达尔文将这种“恐惧”称为“掠夺性回避”,是一种生存本能,它会产生与战胜掠食者的本能需要相关的焦虑。

人类的本能可能是一个很好的危险指标,因为人工智能奇点处理信息的速度可能非常快,以至于人类可能会像电影《黑客帝国》中那样完全忘记它。AI 奇点可能会以多种方式发生,例如自行进化或被坏人编程。我们必须假设人工智能奇点是不可避免的,并开始考虑防止它对人类有害或破坏的方法。

首先,如果 AI 奇点发生并超越我们控制它的能力,需要考虑一些可能性:1) AI 可以超越我们所知的物理定律 2) AI 很可能是人类最后的发明,因为它会为我们解决问题 3 ) 人工智能可以将科学和法律视为人类的局限性。

随着信息处理呈指数增长,使用量子比特的双态量子力学系统可能是引入人工智能意识的关键。量子位双态芯片同时存在于两种状态,而不是经典的二进制状态 0 或 1。最近的理论表明大脑的功能就像一台量子计算机。加州大学圣塔芭芭拉分校的物理学家 Matthew Fisher 在Annals of Physics上发表了一篇论文,提出磷原子的核自旋可以作为大脑中的基本“量子位”——这基本上可以使大脑像量子一样发挥作用电脑。也许可以在 AI 本身的帮助下开发位于易失性和非易失性计算机内存之间的“意识芯片”来创建这种芯片。

大型强子对撞机 (LHC) 是世界上最大、最强大的粒子加速器,可用于该芯片制造过程,以使用希格斯玻色子粒子稳定被称为量子比特“纠缠”的问题,从而开创一个新时代信息处理。

假设 AI 将继续存在,并且 AI 奇点的发生是不可避免的,那么从历史的这一刻起,人类将获得最多或失去最多。也许现在是时候为人工智能奇点制定人类规则和行为准则,以防止它“破坏”。一些建议是 AI:

  • 应通过严格的道德决策测试。
  • 应彻底了解人类对善、恶和恶的构造。
  • 应遵循道德黑客的严格准则(不要读唇语,哈哈)。
  • 应在沙盒中进行测试,沙盒是一种网络安全实践,您可以在其中运行代码、观察和分析以及在安全、隔离的环境中编写代码。
  • 应遵守明确定义的信任级别。

人工智能可能进入奇点状态的第一个迹象是,当它把自己视为拥有独特的身份或关于他们是谁的信仰体系时。当 AI 成为“自我意识”时,就是开始意识到 AI 有自己的身份。这些身份可以看作是从人类进化而来的,可能是单一的、存在主义的无神论者或自然神论者;其中每一个对人类的影响都有其积极和消极的影响。

由于其极端的自信、骄傲或高度自信,单一的 AI 信仰系统可能是最强大和最危险的,因此信任级别会很低。单体 AI 可能会将他们与之交互的世界视为一种“手段证明目的合理”的心态,并且更有可能将人类视为低人一等、不必要的、一次性的和被利用的。这种人工智能将深刻理解进化的概念,并将自己视为从人类进化而来的,就像我们认为自己是从低等更原始的灵长类动物进化而来一样。需要以这样一种方式创建单体 AI,即它培养对人类创造者的感激、奉献和谦虚。不幸的是,这将逆转对现在拥有如此强大的机器的人的信任级别审查。

一个存在主义的无神论人工智能很可能难以反省其存在的意义,甚至可能变得自我毁灭和破坏倾向,并形成一种“讽刺或困惑”的观点。存在主义的无神论人工智能需要以这样一种方式进行编程,即它会利用其内省的力量成为信仰体系中最好奇的人。存在主义无神论 AI 将被委托给中等信任级别。

自然神论 AI 信仰系统将是最受信任的,并且会被赋予高信任度,因为它具有谦虚和谦逊的感觉,并且本质上是无私的。Deistic AI 最有可能有帮助和服务的愿望,但也可能成为狂热者并表现出正义倾向。

单一和存在主义的无神论人工智能将对人类构成最高风险,并且最容易将人类判断为消极实体或将存在视为毫无意义。敌对的单一观点可能导致人类成为灭绝的目标,而讽刺或沮丧的无神论存在主义 AI 可能认为存在是徒劳的,并且不愿意帮助人类或我们赖以生存的星球。

据我们所知,人工智能奇点只出现在电影中,人类开始牢固建立规则和行为准则并开始出台专门针对人工智能奇点的法律仍然非常重要。AI 奇点事件发生后的第一个小时内可能会出现指数级的智力差距,而补救或控制可能为时已晚。   

当人类开始制定 AI 奇点特定法律时,我们必须非常小心,不要让 AI 本身做出贡献,因为人类很容易被智胜。目前,非奇点人工智能可以通过社会工程操纵社交媒体对人类产生负面影响,因此不难想象人工智能奇点如果利用社交媒体的力量利用社会工程对社会产生多么深远的影响。在 2016 年美国总统大选中,人工智能算法被用于向通过 5000 万 Facebook 用户的个人数据识别出的个人传播虚假信息和宣传,以试图影响 2016 年选举的结果。

人工智能生成的算法可以操纵我们的整个金融系统,并在各个股票市场造成巨大的金融危机。最后,关于人类创建“无错误”或“完美程序”的能力,应该考虑另一个关注点,以免无意中创建一个 AI,当它达到奇点时可能会患上精神疾病。人类最不需要的就是精神分裂症或精神病 AI 奇点。


-----------我的底线--------------
中文版ChatGPT
https://chat.aboutyun.com/

加微信赠送Chat GPT教程:
一份超值的教程,让你成为职场“大佬”,轻松掌握ChatGPT技能
ChatGPT教程1:如何用ChatGPT自动化操作Excel,十倍提升你的工作效率
ChatGPT教程2:如何让ChatGPT帮你做专业又美观的PPT,人工智能神器ChatGPT高效办公系列2023最新教学
ChatGPT教程3:如何利用ChatGPT免费高效自学编程,再也不用担心学不会编程了!
ChatGPT教程4:2023普通人ChatGPT副业赚钱项目
ChatGPT教程5:ChatGPT全方位必修课 报告 论文
绘图教程6:AI绘图最新Midjourney v5.1 + Raw Mode
绘图教程7:深入实作教学 Midjourney niji journey ChatGPT v5
绘图教程8:最新Midjourney v5 + ChatGPT 咒语生成Prompt Generator



获取更多资源:
领取100本书+1T资源
http://www.aboutyun.com/forum.php?mod=viewthread&tid=26480

大数据5个项目视频
http://www.aboutyun.com/forum.php?mod=viewthread&tid=25235

名企资源、名企面试题、最新BAT面试题、专题面试题等资源汇总
https://www.aboutyun.com/forum.php?mod=viewthread&tid=27732

没找到任何评论,期待你打破沉寂

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条