“Memory-Centric AI”(上)铠侠顶级工程师开发的以“记忆”为中心的人工智能 ― 正在进行时 用 “记忆”与“技术”拓展未来的地平线 ―

2022.07.05 “Memory-Centric AI”(上) 铠侠顶级工程师开发的以“记忆”为中心的人工智能 ― 正在进行时 用 “记忆”与“技术”拓展未来的地平线 ―

利用一个人一生的记忆,我们是否能够创建一个比自己更了解自己的人工智能?如果答案是肯定的,人类和社会又将如何变化?这个想法听起来像是科幻小说,但铠侠的工程师已经在探索这种可能性了。这一次,我们与记忆技术研究所的出口淳和吉水康人,以及艺术家Sputniko!针对这一话题展开了讨论。

不断成长的 “Memory-Centric AI”

在铠侠的内存技术研究所,出口淳领导的团队正在开发一种他称之为“Memory-Centric AI”。传统人工智能需要大量训练数据进行学习,然后通过计算产生决策,而“Memory-Centric AI”则将其训练数据(或“知识”)存储在外部存储介质中,通过参考相关知识来执行任务。这种类型的人工智能不需要对每项任务进行再培训。这不仅能节省电力,而且在解决传统人工智能的黑匣子、偏见等问题方面也有很大的潜力。

Sputniko!:首先,你能告诉我们 “Memory-Centric AI”与传统人工智能的区别吗?

出口:简单来说,传统的人工智能就是闭卷考试,不能携带参考书入考场。

吉水:具体一点说的话,传统人工智能只记住了参考书中的粗体字,甚至只记住了测试中出现的部分。比如丰臣秀吉做过的事,参考书上都有介绍,但人工智能只记得“丰臣秀吉”和“大阪城”。

出口:我们提出的“Memory-Centric AI”可以通过阅读参考书的内容来进行记忆,这就比较像开卷考试。进一步说就是你拥有的参考书越多,拥有的知识越多,你的人工智能就会越聪明。这与传统人工智能的使用方法不同。

Sputniko!:传统人工智能的思维方式是首先从大量数据中学习,学习完毕后“制造”人工智能。而这种“Memory-Centric AI”在每次执行新任务或做出新决策时,都会搜索相关知识然后执行,这样说没错吧?

出口:完全正确。人工智能通过不断积累新知识和记忆而稳步增长。这是一项让人工智能能够持续发展的技术。

吉水:比如在数学方面,传统人工智能会用计算器进行计算。 而“Memory-Centric AI”有一个包含计算过程和答案的字典,就像从“关于这个问题,答案在这一页”的目录中搜索答案一样。

Sputniko!:不是每次都从头重新计算,而是知道“我以前做过这道题!”,然后去搜索答案作答。

吉水:是的。

出口:传统的人工智能只有效地记住了测试中出现的部分,与测试不相关的主题被剥离,这就导致了很多数据资源,甚至很好的学习数据被浪费。这是个很大的问题。

Sputniko!:“不断成长的人工智能”,这个想法很有趣。当人工智能解决问题时,它会通过接触不同的数据将其作为自己的记忆进行保存。人工智能对某一主题检索的次数越多,储存的相关知识也就越多,对该领域也就更了解。“Memory-Centric AI”,如果和我接触的机会越多,对我就越了解。

吉水:是的。我们可以将“数据”和“模型”这两个词置换成“思考”,将获取的信息消化并转化为记忆,这是人类成长的过程。如今看来,“记忆”对于计算机世界的发展也很重要。

出口:如果你从小培养一个人工智能,就像养育一个人类的孩子一样,人工智能会和你一起成长,非常了解你。使用人工智能其实有一个前提:你必须能够信任它。传统的人工智能很难让人信赖,因为它们的中心是一个黑匣子。我们不知道神经网络内部——人工智能内部到底发生了什么。这是个需要解决的大问题。

偏见与黑匣子问题

Sputniko!:我知道偏见问题是人工智能中的一个话题。我自己从小就喜欢数学和计算机,但不幸的是,整个社会都有一种科学和工程属于男性的刻板印象。这就是为什么如果有人送我一个芭比娃娃,认为这是女孩子应当喜欢的玩具时,我感到非常失望……(苦笑)

或许传统人工智能的问题在于它也有“女性一般都喜欢这个”的刻板判断。但如果我有一个从小就了解我并和我一起长大的人工智能,它就会给我买我真正想要的火车或编程玩具。

出口:正如你所说。使用传统的人工智能,我们无法知道它究竟为什么会推荐一个娃娃,但是“Memory-Centric AI”会利用存储的记忆来给你答案,你可以通过查看它的背景知识来了解它作答的依据。这样的话,如果它给出了你不喜欢的答案,你就可以轻松删除或重写信息,以你自己的方式对其进行自定义和个性化。

Sputniko!:这太重要了。当人工智能通过黑匣子做出决定时,即使您对结果感到困惑,也无能为力,这很令人沮丧。而“Memory-Centric AI”,能够让用户查看数据并了解其决策背后的原因。

出口:这样你就会觉得也许你可以信任这个人工智能,这是人工智能个性化的很重要的一步。

小型、大容量、低功耗闪存的作用

Sputniko!:如果可以参考迄今为止积累的数据,将减少大量的运算,这意味着功耗也会降低。

出口:是的。我们现在正在做的是开发一种能够搜索并引用记忆的人工智能。当然这里面也会包括运算,但当记忆搜索取代了传统人工智能中的大量运算时,运算次数就减少了,从而降低了功耗。那么问题就变成了在哪里存储这么多记忆,这就是闪存的用武之地。

吉水:我们认为闪存的巨大优势在于它能够在几乎不消耗电力的情况下存储信息。

Sputniko!:这太聪明了!为什么至今为止的人工智能没有这样设计呢。到目前为止,人工智能必须在黑匣子中为每一个决定进行大量计算。如果我们能够积累足够的数据和知识(记忆)并随时按需使用,计算就会变得更有效率。

出口:为了使用存储的数据,人工智能必须能够读取它。这意味着人工智能访问闪存的速度很重要。如果速度太慢,人工智能将找不到所需的信息。现在访问速度提高了,技术的进化和人工智能的进化是不可分割的。我认为现在提出“Memory-Centric AI”恰逢其时。

Sputniko!:刚学完的新知识的时候,我们会想把书放在手边,这样需要的时候可以很快地看一眼。人工智能也是同样,可以迅速参考已有知识(记忆)的人工智能,比每次解决问题都从头开始计算的人工智能效率高太多了。是不是因为硬件问题,所以目前还没有“Memory-Centric AI”?

吉水:我们过去常常将照片保存在相册中,这些相册占用了我们橱柜和书架的空间。然后我们开始将它们刻录到CD、DVD和ROM设备上,但这仍然需要一个驱动程序来读取图像数据和一个显示器来显示照片。通过发展闪存读取大量数据的技术,我们将能够积累每个人的经验记录并迅速将它们提供给人工智能,这将成为一种崭新的解决方案。

Sputniko!:我一直在想为什么至今为止没有人开发能够存储知识的人工智能,因为很明显无论在理论和实践中它都会比传统人工智能优越很多。现在我明白了,这也是需要时机的,硬件的发展与算法契合的时机就是现在。

与用户一起成长的个性化人工智能

出口:传统的人工智能要学习新事物,需要从无到有地学习大量数据。这需要服务器级别的巨大计算能力,因此很难开发由用户主导,与用户一起成长的人工智能。然而,“Memory-Centric AI”会在外部存储它获取的每一个新知识,这意味着理论上我们可以在自己的个人设备上构建人工智能,而无需服务器。

吉水:现在云端有很多数据,人工智能把它当作大数据来处理,这些是来自于大家的数据。简而言之,这些数据反映的是“世界平均值”。

Sputniko!:典型的例子就是我们经常在网络商城里看到的符合刻板印象的推荐。

吉水:如果能通过与身边的人工智能对话,让它成长为符合你希望的样子,结果就会不一样了。

Sputniko!:那将是革命性的。传统人工智能所反映的平均值,导致了人工智能通过云端数据投放定向广告的结果并不理想。如果人工智能能够多了解学习我的数据,在我身边和我一起做出决定的话,我会更加信任并依赖它。

出口:还有一个优点是你对数据的掌控权将更大。关于我的数据,隐私很重要,我们不愿意将不希望其他人看到的数据上传到云端。将数据存储在个人设备上,并以此为基础发展人工智能,从隐私的角度来看,私人的、非公开数据构建的人工智能是很重要的。

Sputniko!:如果不向庞大的服务平台提供数据,我们使用的许多人工智能是无法访问的。我一直认为魔鬼的契约是迄今为止技术世界不可分割的一部分,基本上是“我同意给你我的数据以换取你便利的技术工具”。但如果能将数据保存在自己的设备中,交给人工智能用于决策,就能在不出卖个人隐私的情况下获得便利。能够自己管理和控制数据将会给用户更高的地位,更多的权利。

出口:再比如,你还可以获取一些其他人拥有的知识并交给你的人工智能用于决策。吉水先生的人工智能给出了这样的答案,但我的人工智能可能会给出不同的答案。在不同的人工智能之间销售或交换知识将成为可能。

Sputniko!:有意思! 我不太喜欢所谓的“集体智慧”,因为它是平均化的结果。但这种崭新的人工智能意味着你可以编辑属于你自己的集体智慧。比如将出口先生的观点融入到自己的观点中,像搭乐高那样将知识进行组合。想想就让我对未来充满期待!

本文中提及的某些公司、产品、服务和其他名称是注册商标。

刊登内容为2022年3月的采访内容。