第九十二章 名字想好了吗(2 / 2)

「开物上线到现在,累计二十三万条提示词—代码配对,」韩路一把屏幕转向赵文渊,「全部来自用户主动分享。」

赵文渊扫了一眼总数:「二十三万条————量是够了。但有个问题,ai生成的代码本身就有bug,直接拿来训练不还是垃圾进垃圾出?」

「所以有第二步。」

韩路一切换到另一个界面,bugkiller的数据管线看板。

「开物每一条生成的代码,都会自动过一遍bugkiller的检测引擎,有bug的标出来,能自动修复的直接修复,修不了的丢弃。」

赵文渊凑近屏幕。

数据流很清晰:用户提示词→原始生成代码→bugkiller自动检测→修复後代码→入库。

每一条数据都带着状态标签,「通过」或「已修复」,没有「未修复」。

「原始代码通过率60%上下,经过bugkiller修复後,最终入库率96%。」

赵文渊没说话,他伸手拿过笔记本,开始自己翻数据。

他先看了几条「已修复」的,原始代码里确实有bug,修复後的代码乾净利落。然後他翻「通过」的那些,原始生成就没问题,代码结构清晰,变量命名规范。

一条丶两条丶五条丶十条。

他逐行看修复逻辑。

二十条丶三十条。

瑞幸店里的音乐换了几首,赵文渊都没有抬头。

翻到五十条左右的时候,他停了。

「这个检测引擎就是bugkiller的核心?」

「对,核心算法是我自己写的,」韩路一说,「这是技术壁垒。」

「你这个数据的确不可能是偷来的,客户的代码良莠不齐,偷来的没有这麽高的质量。」赵文渊叹了一口气,「怪不得codesafe会输给你,我心服口服了。」

「这个准确率,这种用法,」他接着说,「你手里的是一条自动化的数据清洗流水线,别人要花几千万请人标注的事,你用算法跑一遍就完了。」

他又想了想,语速突然变快。

「而且,bugkiller检出来的那些bug代码和修复後的版本,这不就是现成的dpo训练对吗?有bug的是坏例子,修复後的是好例子,天然的偏好数据。」

韩路一点了点头。

「sft用乾净的提示词丶代码对,dpo用bug丶修复对,两条管线同时跑。」赵文渊的手在桌上敲了两下,越说越兴奋,「数据飞轮,这个别人偷不走。就算把数据偷走,没有这个检测引擎,也做不出同等质量的清洗。」

韩路一没说话,文渊,入吾彀中矣。

赵文渊拿过那张写满数字的纸巾,翻到背面,接着写。

「後训练不需要预训练那种千卡集群,但也不便宜。h100单卡现在市场价二十到二十五万,8卡一台伺服器,一台一百六到两百万。」

他给纸巾拍了照,放进手机备忘录里,然後在备忘录里敲了一串数字。

「中等规模模型,几十亿参数,後训练至少需要十六到三十二张卡。」

「先租。」韩路一接过话头。

赵文渊抬头。

「第一版跑通之前不锁定硬体。」韩路一说,「万一方向要调,买的卡可退不了。」

赵文渊笑了,以前在谷歌的时候,训练模型还真没这麽抠搜过。

「你挺清醒的。」

「穷过,谢谢。」

赵文渊在备忘录里快速敲着数字:「算力租赁首批八百万,数据清洗和补充标注三百到五百一这个可能可以省下来,团队薪资六个月四百万上下,工具链杂项三百万,再预留一千万。」

他把手机推过来让韩路一看。

「够用了,先跑起来。」

两人越聊越快,瑞幸下午三点多的店里不算吵,但他俩的声音在不自觉地变大。

旁边桌一个戴耳机的女生摘下一只耳机看了他们一眼,两个装逼犯加一个肌肉男,这组合可太奇怪了。

店员走过来:「几位要不要再来一杯?」

韩路一这才注意到自己坐下来到现在还没点单。

「一杯生椰拿铁。」

「两杯。」赵文渊头都没抬。

张彪跟着店员去扫码下单了,韩路一看了一眼桌面,几张写满数字的纸巾,一台笔记本电脑,两个手机,在瑞幸谈几千万预算,是有点好笑。

「我明天就来上班。」

韩路一看着他:「这麽急?」

「等不了了,想快点上手。」

「对了。」他说,「最难的问题,大模型叫什麽?名字想好了吗?」

韩路一看着他笑了:「我早就想好了——」

「天工。」

>

举报本章错误( 无需登录 )