第240章 数据迁移 (第1/2页)
　　
　　李东下了网约车。
　　
　　一边朝着宿舍楼的方向走，一边回复牛顿的消息。
　　
　　【大学科研中】：爵士，没什么急事。
　　
　　【大学科研中】：就是想问问您，最近小黑，怎么样了？
　　
　　这一条消息，直接就把牛顿的话匣子给打开了。
　　
　　【艾萨克·牛顿】：嗯……别提了。
　　
　　【艾萨克·牛顿】：他还不如你那个愚蠢的侄子呢。
　　
　　李东：？ ？ ？
　　
　　【大学科研中】：爵士您这是……遇上什么问题了？
　　
　　牛顿那边的回复来得很快。
　　
　　【艾萨克·牛顿】：我现在教它一个新词，得重复两千遍它才肯记住。
　　
　　【艾萨克·牛顿】：教它加法，它学会了。
　　
　　【艾萨克·牛顿】：再教它乘法，它把加法忘了。
　　
　　【艾萨克·牛顿】：前天我给它画了一只猫，它说是鸟。
　　
　　【艾萨克·牛顿】：今天我换了个角度画的那只猫，它说那是……上帝。
　　
　　虽然很好笑，但是李东却品出了味儿。
　　
　　这不是什么愚蠢不愚蠢的问题。
　　
　　这是……灾难性遗忘，以及极差的泛化。
　　
　　一个典型的，没训练好的神经网络，它学新东西的时候会把旧东西忘掉，它在一个角度上识别出来的东西，换个角度就又不认识了。
　　
　　ANN会出现这问题，SNN因为编码的复杂性，出现得会更严重。
　　
　　【艾萨克·牛顿】：而且它耗电量大得惊人。
　　
　　【艾萨克·牛顿】：整个皇家学会的蒸汽发电机轰一整晚，也只够让它“醒”上两个小时。
　　
　　【艾萨克·牛顿】：而且它每次被我唤醒之后，前面一刻钟都在胡言乱语，要过了那一段，才开始听得懂人话。
　　
　　李东在心里与他知道的知识对应。
　　
　　这应该是冷启动。
　　
　　脉冲神经网络的膜电位需要时间积累到阈值才开始正常放电，网络进入稳态放电需要一段“预热期”。
　　
　　这也是现在SNN落地最头疼的事情之一。
　　
　　越听越像。
　　
　　【艾萨克·牛顿】：不过……
　　
　　【艾萨克·牛顿】：有一件事，挺奇怪的。
　　
　　【大学科研中】：您说。
　　
　　【艾萨克·牛顿】：我发现最近小黑，会思考了。
　　
　　李东听到这，直接就傻了。
　　
　　就那么呆呆地站在原地，好几个路过的学生看见，都在窃窃私语。
　　
　　“东神这是怎么了？”
　　
　　“不知道，可能是顿悟？要突破元婴了？”
　　
　　李东根本没理会他们的打趣。
　　
　　SNN会思考？
　　
　　不可能。
　　
　　SNN不管做成什么样，它只是在时间维度上比ANN更接近人脑的信息编码方式。
　　
　　它和ANN一样，本质上还是一个前馈+学习规则构成的数学函数。
　　
　　喂进去什么，算出来什么。
　　
　　它不会自主思考。
　　
　　这绝对有什么不对劲的地方。
　　
　　李东咽了一口口水。
　　
　　【大学科研中】：爵士，您说的“会思考”……具体是指什么？
　　
　　【大学科研中】：是它能给您的问题给出新答案？
　　
　　【大学科研中】：还是它主动说了什么您没教过它的话？
　　
　　牛顿那边又是半分钟的停顿。
　　
　　【艾萨克·牛顿】：是后者。
　　
　　【艾萨克·牛顿】：昨天我把它关上之前，和它说了一句晚安。
　　
　　【艾萨克·牛顿】：今天我打开它，它开口的第一句话不是“主人”。
　　
　　【艾萨克·牛顿】：它说，主人，你昨晚睡得好吗。
　　
　　【艾萨克·牛顿】：我从来没教过它“昨晚”这两个字。
　　
　　【艾萨克·牛顿】：也没教过它“睡得好吗”这四个字。
　　
　　【艾萨克·牛顿】：它是从“晚安”这一个词里，自己长出来的。
　　
　　李东呼吸一滞。
　　
　　长出来？
　　
　　这不就是涌现吗？
　　
　　在统计学模型上，当网络的连接复杂度越过某个门槛，行为会突然从输入到输出的死板映射，变成一种看上去像是在理解的东西。
　　
　　GPT-3到3.5那一跳，就是靠这个吓到全世界的。
　　
　　就在李东还在愣神的时候。
　　
　　牛顿的下一条消息来了。
　　
　　
　　
　　（本章未完，请点击下一页继续阅读）