第390章 胜负不在棋盘上 鸦的碎碎念
;奥特曼坐在桌子一端,秘书打开了大屏幕,显示着openai研究人员根据林燃提出的左右脑晶片架构所做的架构图。
首先发言的是技术总监克里斯&183;瓦尔霍,他冷静地分析道:
「从理论上讲,左右脑分工的想法无疑有一定道理。
感知任务与推理任务的确有着不同的计算特性,但我认为林教授是不是高估了硬体在这种分工中的作用?
目前的深度学习框架可以做到任务的并行化处理,并且大多数高效的推理任务也可以在同一硬体上完成。
不同的计算方式,能否真的改变现有架构?我对此持怀疑态度。」
克里斯的问题让人有些质疑,但并不轻易放弃。
就在他刚说完,人在东京的首席架构师伊利亚&183;苏茨凯弗立刻回应了他:「你说得没错,现有的框架能处理某些任务的并行化,但这只是对感知任务的部分优化。
但我们都知道,现有的硬体瓶颈存在。
在gpt系列模型的推理过程,大量的推理计算涉及长时间的推理链和符号计算,现在的gpu处理起来其实效率并不高,尤其在模型规模不断增加时。
我们完全可以借鉴林教授的概念,构建一种专门的逻辑推理处理单元,与感知任务处理单元分开。」
伊利亚顿了顿,接着补充道:「而且,我们必须注意,ib和英特尔在这一方向上已有多年探索。
早在十年前,ib就提出过多重处理单元架构的概念,旨在通过将计算任务划分为不同的模块来提高ai的推理和感知效率。
英特尔则是在18年的时候提出了神经形态计算晶片的概念,试图模仿大脑的功能,优化感知和推理任务之间的计算交互。
我认为林教授只是把英特尔的做法用一种更通俗易懂的方式总结了出来。
林教授站在ib和英特尔的基础上,从理论层面论证了,要想把人工智慧继续往通用agi的道路上推,我们需要也必须走这条路。」
研究员安德鲁&183;卡普兰说道:「没错,我在看完林教授关于人工智慧的讲话后,我特意去找了资料来看,英特尔在2017年的时候推出了他们第一款神经拟态晶片loihi。」
「神经拟态晶片?」山姆&183;奥特曼重复了这个词语。
安德鲁点头道:「没错,众所周知我们现在用的晶片只有0和1,它通过二极体模拟0和1的状态,构建起庞大的计算网络,它的内核是二进位。
但是我们人类大脑,不止有两个信号,神经元和神经元之间是通过突触来连接,一个神经元可以同时和很多个神经元连接在一起。
而loihi则是模拟神经元的晶片。
第一代的loihi每60平方毫米的晶片就有13万个神经元,他们在2021年推出的第二代loihi晶片,拥有128个神经形态核心,loihi 2每个核心的神经元是第一代的8倍的神经元。
同时,loihi 2每个神经元可根据模型分配达到4096个状态,第一代的限制只有24个,神经元模型类似fpga,完全可编程,具有更大灵活性。
简单来说,硅谷已经具备了
章节内容不完整,请退出阅读模式查看完整内容!