讨论人工智能经常把它描述成一个技术与人类智能。事实上,最广泛的明显担忧之一是,AI可能实现人类在这个过程中人类智力和过时。
之一,然而,世界上最大的人工智能科学家现在描述人工智能作为一种新形式的情报——一个有着独特的风险,因此需要独特的解决方案。
杰弗里•辛顿一家领先的人工智能科学家和2018年图灵奖,刚从他的角色在谷歌下台警告世界关于人工智能的危险。他遵循的步骤1000多技术领导人签署了一封公开信,呼吁全球停止在发展先进的人工智能至少六个月。
辛顿的论点是微妙。虽然他也认为人工智能的能力已经成为比人类聪明,他还提出,应该被认为是一个完全不同的情报,以自己的形式。
为什么辛顿的想法重要吗
尽管专家一直提高红旗数月,辛顿声音他的担忧是重大的决定。
艾城的被称为“教父”,他帮助先锋的许多方法潜在的我们今天所看到的现代人工智能系统。他早期的工作神经网络导致他被授予三个人之一2018年图灵奖。和他的一个学生,Ilya Sutskever,后来成为OpenAI创始人之一ChatGPT背后的组织。
当辛顿说,人工智能世界听。如果我们认真考虑他的人工智能作为一个智能非人实体框架,可能有人会说我们一直在思考这一切都错了。
假等价陷阱
一方面,大型语言基于模型的工具,如ChatGPT产生非常类似于人类写的文本。ChatGPT甚至使东西,或“幻象”,辛顿指出是人类做的事情。但是我们被还原的风险当我们考虑这种相似性比较AI智能与人类智能的基础。
我们可以找到一个有用的类比发明的人工飞行。几千年来,人类试图通过模仿鸟类飞行:拍动双臂与一些装置模拟羽毛。这没有工作。最后,我们意识到固定机翼产生隆起,使用不同的原则,这预示着发明的飞行。
飞机比鸟类没有更好或更糟;它们是不同的。他们做不同的事情,面临不同的风险。
人工智能和计算,是一个类似的故事。GPT-3等大型语言模型与人类智慧在许多方面,但以不同的方式工作。ChatGPT仰卧起坐大片的文字来预测下一个单词一个句子中去。人类需要一种不同的方法形成的句子。都是让人印象深刻。
AI智能有何独到之处?
人工智能专家和非专家长期以来吸引了人工智能与人类智能之间的联系——更不用说的倾向将人工智能。但人工智能在几个方面是完全不同的。作为辛顿解释了:
如果你或我学到一些东西,想这些知识转让给别人,我们不能只送他们一份[…]但我可以有10000个神经网络,各有自己的经历,其中的任何一个可以分享他们学习。这是一个巨大的差异。好像有10000人,只要一个人学习什么,我们都知道它。
AI优于人类在许多任务,包括任何任务依赖于组装模式,从大型数据集信息。相比人类是缓慢缓慢,不到AI的记忆的一小部分。
然而,人类在某些方面占上风。弥补我们可怜的记忆和使用常识和逻辑处理速度慢。我们可以快速、轻松地学习世界是如何工作的,并使用这些知识来预测事件的可能性。人工智能仍然挣扎这(尽管研究人员正在研究它)。
人类也很节能,而AI需要强大的计算机(特别是学习)使用数量级比我们更多的能量。正如辛顿所说:
人类可以想象未来[…]在一杯咖啡和一块面包。
好的,如果AI是不同的?
如果AI根本上是不同的与我们的情报,然后接下去我们不能(或不应该)进行比较。
一个新的情报给社会带来了新的危险和需要我们讨论和管理方式的转变的人工智能系统。特别是,我们可能需要重新评估我们的思考方式防范禽流感的风险。
主导这些辩论的基本问题之一是如何定义AI。毕竟,AI不是二进制;智力上存在一个光谱,光谱对人类智力可能非常不同于机器智能。
这个观点是最早的规范的垮台AI在纽约早在2017年,当审计人员无法达成一致,系统应该归类为人工智能。定义AI在设计规定非常具有挑战性。
所以也许我们应该少关注定义AI以二进制的方式,和更多的具体的后果AI-driven行动。
我们面临的风险是什么?
AI行业吸收的速度让所有人吃了一惊,有些专家担心未来的工作。
本周,IBM首席执行官Arvind Krishna该公司宣布可以用人工智能代替7800后勤工作在接下来的五年。我们需要适应我们如何管理人工智能,因为它变得越来越部署任务一旦完成的人类。
更令人担忧的是,AI的能力产生假的文本、图像和视频正在引领我们进入一个新时代的信息操作。我们当前的方法处理,人为错误信息不足以解决这个问题。
辛顿也担心的危险AI-driven自动武器,多么糟糕的演员可以利用他们提交所有形式的暴行。
这些只是一些例子的人工智能,具体来说,不同的人工智能的特点,可以给人类世界带来风险。调节AI有效和积极,我们需要考虑这些特殊性,不适用配方专为人类智慧。
好消息是人类已经学会了管理潜在的有害技术之前,和AI也不例外。
如果你想听到更多关于本文中讨论的问题,查看CSIRO的日常AI播客。
奥利弗Salvado、铅AI的使命,CSIRO和乔恩·惠特尔、导演、Data61
