第一百九十七章 这个,是哪家公司做的? (第2/2页)
但是他没问出来。
赵文渊接着讲进度:「我们现在的预训练是在鼎盛提供的N卡集群上跑的,预计二月中旬结束,之後开始後训练。韩总定的目标是,第一版的模型训练出来之後,三月初我们要把自己的国产卡集群建起来,能在上面跑推理。」
「等等,你说什麽?在国产卡上跑推理,什麽时候?」江松然忍不住问了出来。
「三月初。」赵文渊回答。
「今年?今年三月初?」江松然又问了一遍。
「对,今年三月初。」赵文渊给了肯定的答覆。
江松然一瞬间陷入了自我怀疑。
他不确定他和赵文渊之间哪个人不对劲。
明明他的论文和刚才的交谈都显示出他是一个务实的计算机科学家,现在说出来的话却像一个画大饼的骗子?
而且就算你要骗,你去骗骗投资人,骗骗领导也就罢了,也没必要骗我吧?这怎麽骗得过?
赵文渊看了江松然一眼,似乎看出他神色不对,微微一笑。
「江博士,对我们的开发流程感到好奇吗?」赵文渊开口道。
「愿闻其详。」江松然耐着性子说道。
赵文渊把自己的椅子推给江松然,说:「你坐。」
然後他拉了另一把椅子过来自己坐下。
赵文渊把桌面上的文档关掉,打开代码编辑器和终端,在终端里运行了编程智能体。
赵文渊一边敲键盘,一边给江松然解释。
「我们用的是「算子打靶法」,韩总定的路径。」赵文渊说,「先选一个算子,设个基准,一般是N卡同类实现的百分之八十。然後让智能体生成初版,跑测试,不达标就根据测试报告再叠代一轮。」
江松然把目光从赵文渊脸上移开,落到屏幕上。
他刚才听见「智能体」三个字的时候没在意,以为是某个跑测试的脚本,或者哪个开源的代码生成模型套了个壳。
但是他看见赵文渊在终端里打开了一个新的算子文件夹,是空的。
两人之前看过别的文件夹了,每个里面都有十几轮的叠代记录,每一轮记录都对应着代码、测试报告、性能分析报告。
赵文渊打了一段提示词,大意是生成这个算子的国产适配,以及其他一些技术细节的约束,然後把提示词发了出去。
终端里出现了一串绿色的思考过程,一行一行地描述智能体的运行状态:
智能体先是拆解任务、规划步骤。
然後是代码生成,几百行的算子核心,CUDA风格但是面向国产卡的适配代码,很快就生成完了。
再然後是自动写测试用例,覆盖各种边界情况。
最後是跑测试。
测试用例一个一个跑,前面三十多个都是绿色的PASS。
跑到一个标记着「performancebenchmark」(性能基准)的测试,输出变成了黄色一【Functional:PASS】
【Performance vs Nvidia:67.3%】
【Threshold:80%】
【Status:FAIL(below threshold)】
江松然看的真切:功能实现了,但是性能没达标。
测试失败了。
但这不代表个流程不惊人。
江松然现在心里的想法不好形容。
首先他松了一口气一如果看着以前要花几个人月的项目五分钟就被做出来,他可能会吓死。
但是,第一次叠代能达到N卡的67.3%已经很惊人了。
而这仅仅花了不到五分钟。
赵文渊把滑鼠停在屏幕上的输出上,向江松然解释道:「没过基准,但是我们同时也有完整的分析报告,下一步往哪个方向调整,非常清晰。工程师只需要想好下一轮的方向,变成新的提示词,再丢回去跑一轮就行。」
江松然没说话。
他从刚才开始,倒吸的那一口气憋在胸口,憋了半天才吐出来,到现在还没喘匀气。
江松然不是被这一轮算子适配的哪个具体数据震惊了。
适配数据当然也惊人,但更让他震惊的是拿到这个结果的过程。
那是一个会自己拆解任务、自己写算子适配代码、自己生成测试、自己跑性能分析的东西。
那是个新范式、新工具。
不是代码补全,不是一问一答的聊天界面。
一是介入式的,能自主编排多步骤、复杂任务的编程工具。
「Agenticprogramming。」江松然喃喃道。
他不是做这个方向的,但他回国之後还听矽谷的朋友提起过,这是最近在矽谷的AI公司、大模型团队中讨论的最热门的话题。
每个相关领域的专家都在谈论它。
大家都说这个东西有可能改变人类和计算机交互的方式。
但是在他印象里,还没有人真的把东西做出来。
可是现在,在海城,矽谷一万公里之外,在一个创业公司里,江松然亲眼看见了人们讨论的、「还没做出来」的产品。
而且,这是一个完成度很高的新工具。
这个新工具现在正在做的,是谷歌这种级别的公司也要花几个工程师的团队、几个月的时间去磨的精细活。
江松然咽了一下口水。
他终於把目光抬起来,看向赵文渊。
「赵总,」他听见自己的声音有点干,「这个「智能体」————是哪家公司做的?」
>