李东礼貌的把筷子放了下来。
“邱总您好,我是高老师的学生,李东。”
邱明丽愣了一下。
然後就有些惊喜的说道。
“你就是李东?”
“那个降维算法的李东?”
“我的天,你这也太年轻了吧。”
旁边几个原本没对上号的,听见“降维算法”这四个字,也反应了过来,纷纷看向李东。
李东被这麽多双眼睛盯着,多少有点不自在。
“邱总过奖了,我就是个大学生。”
“我就瞎搞的。”
李总在旁边哈哈大笑。
“瞎搞?你这要是瞎搞,那我们这帮人全都白干了。”
桌上一片善意的笑声。
笑声落下之後,邱明丽率先说道。
“李东啊,我特别想听听你的看法。”
“你看刚才咱们聊的,算力、数据……这些东西”
“那你心里对‘怎麽追上去’这件事,有没有什麽想法?”
说实话在座的人是真的想听,毕竟李东算法的去向他们不知道,不知道本身就很说明问题了。
所以他们对李东是特别的好奇的。
李东沉默了几秒锺。
老实讲,他心里其实并没有什麽完整的能拿出来讲的想法。
他只是……
只是想到了牛顿的小黑。
那玩意儿,怎麽看都不像是用现在这一套大语言模型的路子搞出来的。
他斟酌了一下措辞,慢慢开口。
“我没什麽很专业的看法。”
“就是有个特别外行的问题,大家别笑我哈。”
桌上的人都笑着说不会的。
李东这才继续说道。
“为什麽……人工智能就一定要按照现在这种路子做呢?”
“我说的是,为什麽不能更接近人脑真正的工作方式?”
“你看,人脑大概有八百多亿个神经元,每天大概就消耗二十瓦的功率。”
“但它能听、能看、能想、能学、能在一秒锺之内认出一张脸,还能在两年之内学会一门语言。”
“而我们现在最先进的大模型……”
“训练一次要烧几千万度电,推理一次也得调动一整个机房的卡。”
“在做某些事情的时候还不如一个三岁小孩。”
“差距在哪儿?”
“我觉得不是在算力上,是在……根本路子上。”
说实话AI这块李东确实不太懂,所以就是吧自己的想法说出来。
桌上的人没有一个出声的。
他们就那样静静地听着。
李东顿了一下,继续往下讲。
“我前一阵子翻文献的时候看到过一个方向,叫脉冲神经网络。”
“它的思路就是不用现在这种连续值的激活函数,而是模仿人脑里神经元放电的方式。”
“只有放和不放两种状态,平时不工作,只有信号攒到一定程度才发一个脉冲。”
“理论上这种网络的能效比要比现在的ANN高几个量级。”
“还有更激进一点的,叫神经形态计算,干脆把芯片本身就做成模拟神经元的结构。”
“IBM的TrueNorth、英特尔的Loihi,都是这条路上的嚐试。”
“我就在想……”
“是不是有一天,我们真的能造出一个不用一万张A100,而是用一颗类脑芯片,就能完成同样事情的东西?”
李东说完,桌上一片安静。
倒不是说大家被震惊到了,而是……
“哦,原来你也只是个会做白日梦的小孩”
李总最先反应过来。
他脸上的笑容有点复杂,但看得出来,是真心想跟李东讲点东西。
“李东啊。”
“你这个想法,其实在学术圈不算新。”
“不光不新,可以说是非常老了。”
“早在上世纪八十年代,就有人提了。”
李东点了点头。
李总继续说。
“但是这条路为什麽这麽多年了都没起来?”
“因为它太难了。”
他放下杯子,两只手一摊。
“我们对人脑本身的了解,远远没有外行想象的那麽多。”
“目前为止,全世界唯一一个被完整测出来的连接组。”
“是秀丽隐杆线虫。”
“它一共就三百零二个神经元。”
“光是这三百零二个神经元的连接图,科学家整整测了三十年。”
“果蝇的连接组前两年才刚刚做完一部分,而一只老鼠脑子里大概七千万个神经元,目前连零头都没测完。”
“人脑?八百亿个神经元,每个神经元平均连一万个突触。”
“我们离把它彻底搞清楚,还差着十万八千里。”
李总看着李东说道。
“就算我们了解了大脑,我们也没法在矽基芯片上
高效地复现它。”
“人脑的神经元和我们的芯片。”
“是两套完全不同的逻辑。”
“你硬要在GPU上模拟一个脉冲神经网络,效率比直接跑ANN还低。”
“这就是为什麽SNN吹了这麽多年,到现在主流的AI公司也没真的allin的原因。”
“它现在能做的任务规模,比ANN差得很远。”
李总叹了口气继续说道。
“还有,我们没有成熟的训练方法。”
“ANN为什麽这十年突飞猛进?因为我们有反向传播。”
“反向传播这个东西在数学上是很高效的。”
“但人脑里有反向传播吗?没有。”
“那SNN要怎麽训练?目前学术界还没有一个公认的、和反向传播一样好用的方法。”
“很多团队在试,但都还没试出来。”
李总把手放下,端起杯子。
“所以李东啊。”
“你这个方向,理论上当然是对的。”
“长远来看,类脑计算很可能就是未来。”
“但是……”
他还是强调了一下。
“在可见的五年、十年之内,能落地、能赚钱、能让中国的AI追上世界第一梯队的,只能是现在这条transformer的大模型路子。”
“不是因为它最好。”
“是因为它最现实。”
李总说完,桌上的几个人都纷纷点头。
显然这是行业内已经形成的共识。
李东没说话。
但心里有一个声音,在很坚定地反驳。
不可能?
我亲眼“见过”有人做出来啊。
那就是牛顿的“小黑”。
既然有人能在那个时代、把它做出来。
那就说明,这条路是走得通的。
至於眼前这些困难……
对大脑的理解也好,硬件的底层逻辑也好,训练方法也好……
一步一步克服就是了。