第一百一十八章 第三条路 (第1/2页)
虽然没有明说,但赵文渊兴奋的语气让韩路一听出来,第三条是他最想走的路。
“自训基座模型。”
“现在市面上的开源底座,不够用了?”
“别人开源的底座本身,从我们现在的角度来看,有很多的优化空间。如果我们从零开始训练一个代码专用大模型,架构可以针对代码生成做优化一一上下文窗口、依赖追踪、多文件理解,全部可以从底层设计。这种方式上限最高,完全自主可控,首轮正确率有可能能做到九十以上。”
“成本也很高,对吧。”韩路一说。
“三千万人民币起步。”赵文渊说,“而且是每一次。如果跑飞了一一参数配错、数据有问题、损失不收敛,那就得推倒重来,又是三千万。”
韩路一暗自为这个数字咋舌。
这就是那种,你心里早就知道它贵,真听到数字还是会感慨:真他妈的贵。
赵文渊看了他一眼,继续说:“这个方案预估时间六到十二个月,风险极高,但是如果成了一”他没把话说完。
不需要说完。如果成了,天工就不只是微调模型,源码在AI时代就有了核心竞争力,这是谁也拿不走的王牌。
自己的模型。
自己的底座。
自己的护城河。
这一刻,韩路一其实比谁都清楚,这就是他最想要的东西。
因为AI这个行业,本质上是飞轮型竞争。
越早进场,越早积累数据,越早迭代模型,越早建立产品闭环,就越容易把後面的人甩开。领先者不是领先一步。
而是一步之後,还能借这一小步,再滚出下一步、下下一步。
飞轮一旦转起来,後面的人想追,除非前面的人自己犯错。
韩路一看着窗外的江面,心里很清楚:
这条路,越早开始越好。
但是,自研模型是个无底洞,究竟能不能成,没人知道。
三条路,三个价格。
五百万、一千万、三千万。
最後一条路是三千万,每次。
韩路一沉默了一会儿。
赵文渊没催。
韩路一站起来走到窗边,太阳照在江面上,亮得有点晃眼。
他在想的不是技术,技术的部分赵文渊已经足够好了,即使他用视界辅助他自己自学的大模型知识,相比赵文渊的水平也高不出太多。赵文渊的研究水平是业内领先的,他信任视界在这方面的判断。他想,现在的困境是钱。
A轮融了两个亿,但花钱的速度远超预期。团队扩张到五十人,薪资开支翻了快十倍,尤其是模型组,每个人都很贵;服务器成本每个月都在涨,开物的免费用户越多,推理成本就越高。和青岳云签了不限量的年框协议,但问题是云服务商的资源也不是无限的,尤其是GPU,用量上来了之後高峰时段会不够用,开物团队已经在做高峰时段分流到其他服务商的改进了。
而收入端,千帆白标接入开物API才刚刚起步,能提供一个很好的助力,加上开物用户暴涨,BugKiller的收入也在稳定增长,财务情况看起来还算健康,但这是从运营的角度上来说。
想训练自有模型,那是远远不够的。
源码科技在做应用这条路上已经走的很好了。转型做模型,是一个艰难的决定。
“这三条路,”韩路一转过身来,“你个人倾向哪条?”
“你问我个人?”赵文渊说,“当然是自主训练。”
他没有解释为什麽,也不需要解释,这是作为研究者的追求。
“但我知道,”赵文渊接着说,“这不是技术问题。”
韩路一拿出手机,看了一下日程软件。
一会儿和陆明洲有个财务数据的对齐会,聊完之後,对财务状况会有更直观的了解。接下来怎麽走,还是先看兜里有多少钱再说。
“你放心。”他说,“我知道该怎麽做。”
赵文渊站起来,把笔记本电脑和笔记本都夹在腋下,准备往外走:“至少现在的後训练已经阶段性成功了,我先回去把接口整理好。”
韩路一“嗯”了一声。
赵文渊拉开门,迈出半步。
“文渊,等一下。”
赵文渊停住了。
(本章未完,请点击下一页继续阅读)