第九百八十三章 别把门关死了

作品:《重生1998:从下岗工人到全球首富》

    方教授的实验室里堆着三台服务器,全是二手货,风扇转起来跟拖拉机似的。

    课题是国家重点实验室的子项目,手写数字识别。

    听起来简单,做起来要命。

    方教授带着蒋旭和另外两个研究生搞了快两个月,准确率卡在百分之八十七,怎么调都上不去。

    训练一次要跑十四个小时,慢得人想砸机器。

    那天下午,陆远照常来实验室。

    方教授不在,去市里开会了。

    蒋旭坐在屏幕前,眼睛熬得通红。

    他看见陆远进来,指了指屏幕上的代码。

    “陆哥,你帮我看看。这损失函数降到零点零三就下不去了。再练就过拟合。方老师试了三种优化器,没用。”

    陆远拉过凳子坐下来。

    他先把代码从上到下翻了一遍,又点开训练日志看了两组数据,手指在桌面上敲了两下。

    “学习率怎么设的。”

    “零点零一。”

    “固定的?”

    “嗯。方老师说这个最稳。”

    陆远没说话。

    他把代码拉到最底下,看了几行权重初始化的部分。

    然后他站起来,走到白板前,拿起记号笔。

    “你过来。”

    蒋旭凑过去。

    陆远画了个横轴,标上迭代次数。

    又画了个纵轴,标上损失。

    曲线先陡后平,最后几乎不降了。

    “学习率不是越小越好。刚开始要大,步子迈开,先找到大致方向。快到谷底了再调小,慢慢摸。”

    他用笔在曲线中段画了个点。

    “你从这里开始,每隔一千步,把学习率乘零点一。这叫衰减。”

    蒋旭盯着白板:“就这么简单?”

    “就这么简单。还有,”陆远转身回到电脑前,敲了几行代码。他把原本逐样本计算的梯度改成了一批一批算。

    每次取六十四张图,算平均梯度,再更新权重。

    “批量训练。别一张一张喂。内存扛得住的话,取一百二十八。”

    蒋旭张了张嘴:“这也行?”

    “行不行跑了再说。”

    他们重新启动训练。

    屏幕上,损失曲线开始往下走,比之前陡得多。

    前一千步直接降到零点零二五。

    蒋旭眼睛瞪大了。

    “还没完。”陆远又敲了几行。

    他打开数据加载模块,把输入图像的像素值从零到二五五归一化到零到一之间。

    “数据范围先统一。不然梯度忽大忽小,学习率再对也没用。”

    第三处改完,他让蒋旭重新跑了一遍完整训练。

    这一次,屏幕上跳出的数字让蒋旭直接从凳子上弹了起来。

    百分之九十四。

    训练时间从原来的十四小时缩短到不到五小时。

    蒋旭盯着屏幕看了十几秒,然后转头看陆远。

    陆远已经把键盘推回原位,端起杯子喝了口茶。

    “陆哥。”

    “嗯。”

    “这是你写的?”

    “随便调了调。”

    “随便调了调?”蒋旭的声音都变了调,“方老师带着我们三个人搞了两个月。你来了四十分钟。”

    “你们方法不对。力气使在刀背上了。”

    蒋旭坐回凳子上,脸色复杂。

    他摘下眼镜擦了擦,又戴上,盯着屏幕上的准确率数字看了很久。

    “陆哥。”

    “嗯。”

    “你家里给你留了脑子。我家里只给我留了书。”

    陆远笑了:“书多好。书不咬人。”

    蒋旭苦笑:“我读了七年计算机,不如你修三个月主板。”

    “修主板跟算法一个道理。哪条线断了,信号就到不了终点。找出来,接上。就这么简单。”

    蒋旭摇头,说不出话。

    方教授第二天回来,看到训练日志和新的准确率,在实验室里站了很久。

    他先问蒋旭,蒋旭说是陆远调的。

    方教授走到陆远面前。

    “你改了几处。”

    “三处。”

    “哪三处。”

    “学习率衰减。批量梯度。数据归一化。”

    方教授沉默了十几秒。

    他看陆远的目光和第一次见面时完全不一样了。

    “陆远,你这三处改动,我明天要写进结题报告。”

    “写吧。又不是什么新东西。”

    方教授乐了:“你倒大方。”

    半个月后,国家重点实验室来人交流。

    方教授把项目成果做了汇报,重点提了那三处改动。

    台下的专家坐不住了,问了七八个技术问题。

    方教授答了几个,剩下的他推给蒋旭。

    蒋旭又推给陆远。

    陆远从最后一排站起来。

    他穿得还是那件灰夹克,袖口磨了边。方教授让他上台讲。

    陆远走上去,没拿稿子。

    他站在投影幕布前,把三处改动用最直白的话讲了一遍。

    学习率像下山,步子得先大后小。

    批量像流水线,一箱一箱搬比一个一个搬快。

    数据像尺子,长短不统一量什么都是歪的。

    三分钟,他就讲了三分钟。

    台下安静了几秒,然后一个老专家带头鼓掌。

    掌声不多,但很实。

    陆远鞠了个躬,下台回到最后一排。

    蒋旭在旁边戳他胳膊:“陆哥,你刚才那三分钟,比我讲三十分钟都管用。”

    交流会散场后,老专家私下找到方教授。

    “老方,那个修电器的,不简单。”

    方教授点头:“我知道。”

    “你该送他出去读。这种脑子,搁维修铺里可惜了。”

    方教授沉默了一会儿:“他连本科文凭都没有。英语也一般。”

    “那也得试试。有些人是老天爷硬往你门上送的。你别把门关死了。”

    方教授没接话。

    他掏出烟盒,抖了一根出来,没点,夹在指间转了两圈。

    老专家拍了拍他肩膀:“你那个课题,他出了多少力。”

    “核心的改动全是他调的。”

    “那你还等什么。结题之后立刻办。别拖。这种人你留不住太久。你不给他路,他自己也会找出路。”

    方教授终于把那根烟点上了。

    他吸了一口,吐出来的烟被走廊里的穿堂风扯成一条细线。

    “我试试。他这人怪。不愿意挂名,不愿意露脸。我上周说给他申请个临时工补助,他连表都没填。”

    老专家笑了:“有本事的人都有脾气。你当年不也这样。”

    方教授哼了一声:“我当年可没他这么犟。”

    他回头看了一眼。

    陆远正帮蒋旭收拾投影仪的线。

    他动作利落,把线绕成整齐的一圈,用绑带扎好,塞进布袋里。

    蒋旭在旁边说什么,陆远点点头,又摇摇头。

    然后他背上那个旧帆布包,朝方教授的方向挥了挥手,走出教学楼。

    方教授站在窗口,看着他的背影穿过操场。

    梧桐树荫一段一段落在他身上,又一段一段移开。

    他步子不快,走得很稳,帆布包带子在肩上勒出一道浅痕。

    方教授把烟慢慢抽完。

    烟灰掉在窗台上,他用手指碾了碾。

    “等这茬项目结题再说。”他对自己说。

    可他自己也知道,这话说得有点虚。

    结题还有三个月,三个月够干什么。

    够他把那本旧论文集翻烂,够他把白皮书再抄两遍,够他把那四个人一个一个摸清楚。

    方教授站在窗口没动。

    直到陆远的背影彻底消失在梧桐树尽头,他才转身回了办公室。

    那根烟的烟蒂还留在窗台上。

    很短,没抽完。

    像他刚才那个决定,说到一半,剩下的一半悬着。