

这是铅笔说念与TTC(True Talents Connect)的纠合专栏。TTC是由AI Agent驱动的东说念主才工作平台,专注东说念主工智能规模,用科技高效邻接东说念主才与契机。找AI东说念主才,就找TTC。
口述 | 清程极智 师天麾
访谈丨铅笔说念 松格
剪辑 | 铅笔说念 王方
最近,AI行业有个声息很热:Token太贵,烧不起了——某些平台,价钱飙升463%。
也就在这个时候,中国版“OpenRouter”出现了,恰好能帮人人省算力的钱。
OpenRouter,干啥的?它是家好意思国公司,成立两年,估值35亿元。它的业务,有点像“大模子转换器”,你提任务需求,它匹配最相宜的模子帮你干活。
筹商词这个赛说念,最近在国内也快速生根发芽。
清程极智,由一群90后清华博士创立,最近完成新一轮融资,清华大学财富管束公司入股。昔时1年,该公司一语气融资三轮。
它的业务,比OpenRouter更进一步,作念“智能路由器”,帮用户匹配最优模子,从而裁减算力销耗。

清程极智业务简介
针对这个赛说念的契机,铅笔说念与清程极智纠合创始东说念主师天麾聊了聊,精华如下:
1、这个赛说念,属于产业链哪个秩序?
答:AI基础设施。
2、这个契机,要处分什么痛点?
答:AI Token太烧钱了,工作质料也不褂讪。
3、这个行业,什么时候被意思的?
答:DeepSeek发布后。
4、行业传统决议有多贵?
答:有个客户,部署DeepSeek满血版,要花四五百万。
5、新决议能裁减若干资本?
答:效果不打折,裁减20%-50%。
6、“智能路由器”,这个契机共鸣了吗?
答:没共鸣,人人才初始尝试。
读完这篇著作,你会收货一个判辨:帮人人裁减算力资本,这个赛说念这样值钱。
- 01 -
AI基础设施,为什么是契机?
铅笔说念:思听听您的创业故事。
师天麾:咱们是在2023年头始防备谋略,要不要创业。
其时有一个很赫然的变化:AI曾经从“能不可作念出来”,变成了“作念出来之后若何用”。
大模子历练的效果越来越好,人人都看到了应用落地的但愿,于是各式大模子公司一下子都冒出来了。但问题也很快泄露——太烧钱了。
一是算力不够,中国能用的高端显卡本来就有限;
二是即便有卡,历练一次模子的资本也高得惊东说念主,动辄即是几千万致使上亿。
这些年咱们其实一直在斟酌一件事:若何让AI Token更低廉。通过编译优化、历练和推理优化,让通常的显卡,颖悟更多活,花更少钱。
是以当大模子初始彭湃发展的时候,咱们认为是时候不错进展长处了,是以初创举业。
铅笔说念:哪件事情,是您创业的临门一脚?
师天麾:读博时我发了几篇论文,挺顺的。但频频困惑:这些斟酌到底有什么用?名字出目下会议上、Google Scholar上援用数+1,然后呢?升沉点出目下博三博四。
我和蚂聚会作,把论文效果用在金融风控上——判断速率大幅擢升,风险往还识别更准,还在中关村拿了奖。
那一刻澄澈感受到:技巧确切颖悟实事。
其后在大厂实习过多段,感受很深:单干太细,自主性低,"安排什么干什么",没意思,也不明放。
底本操办毕业先去大厂——华为"天才少年"Offer也拿到了,思先攒训诫、拿title,过几年再创业。但契机提前来了:信任的敦厚和师兄能够一说念创业。既然晨夕要创业,不如早点初始。
铅笔说念:若何最世俗地形色你们在作念的事?
师天麾:咱们作念的事,即是给市集提供"多、快、好、省"的Token。
要是把AI产业比作手机,芯片是硬件,咱们是操作系统,豆包、DeepSeek这些模子是上头的App。
咱们作念的,即是让AI的"操作系统"不卡、好用、省钱。
铅笔说念:创业到目下,场地有莫得大的变化?
师天麾:咱们作念的事一直没变,变化的是订单场地。
2024年历练需求火,厂商拿着钱找上门,咱们就主攻历练优化;2025年DeepSeek带火开源模子,推理需求爆发,咱们便转向推理优化。
恰好咱们在超算、大限制集群上有十几年积聚,而行业正需要大限制推贤慧商,业务切换水到渠成。
- 02 -
DeepSeek对行业的影响
铅笔说念:AI很火,但为什么落地难?
师天麾:AI落地难,主要有三个坎。
第一,效果不够真。 以前AI生成的视频、图片一眼假,"AI感"太重,没法工业化用。目下可灵这类器具出来了,画面当然多了,才真实具备大限制落地的基础。
第二,缺行业数据。 基座模子不懂行,落地得作念微调。但微调不是简单的事——得先相识业务、清洗数据、反复调试,周期客不雅存在,急不来。
第三,缺复合东说念主才。 懂业务的不懂AI,懂AI的不懂业务。咱们跟企业互助时,频频得先培训他们的东说念主,双方才智对上话。这种东说念主才断层,调换和落地资本都很高。
铅笔说念:AI基础设施,是什么时候初始真实被行业意思的?
师天麾:DeepSeek开源后,行业判辨透顶变了。
2024年咱们融资,还得跟投资东说念主阐明什么是AI Infra。
2025年,DeepSeek"开源周"时(2025.2.24-2.28),险些一天发一个方法,全是AI基础设施筹商的,让行业看到:原来软件优化就能把性能提上去、资本降下来。
投资东说念主立马懂了,主动找上门说要投"AI Infra最强的公司",咱们再无须科普了。
铅笔说念:那DeepSeek火了之后,你其时若何判断这个趋势的?
师天麾:春节时间,咱们就被拉着天天开会。
DeepSeek火了,三类客户找上门:国产显卡公司要适配,云厂商和运营商要卖货,国企客户要部署——带领催得急,但预算没作念,临时改不了。
痛点很快泄露:按原决议,部署DeepSeek满血版要四五百万,客户只思"试试",一听价钱懵了。
咱们趁势推出软件优化决议,让不扶植低精度算力的国产显卡,通过软件兑现肖似智商。四台工作器变一两台,资本直降到20%-50%,效果还不打折。
决议一出就火了,精确击中"低资骨子验满血版"的需求。
铅笔说念:有莫得比拟典型的客户案例,以及带来了什么效果?
师天麾:金融和石油动力行业咱们落地了不少案例。
这些国央企客户有个共同痛点:没东说念主预判到DeepSeek会火,没留预算,但带领条件快速部署落地,临时改预算又费劲。
咱们的决议恰恰相宜——把资本压进原有预算,还能体验满血版性能。
比如中石油的智能采购平台,纯信创场景,底层算力到表层昆仑大模子都要国产,咱们优化推理引擎后,实测算力资本裁减40%,省下来的资源还颖悟别的。
其后这个方法还拿了一个行业奖项。
铅笔说念:DeepSeek这一波把AI带火之后,企业对AI基础设施的需求,发生了哪些变化?
师天麾:2025年行业有两个赫然变化。
一是模子适配需求激增。 开源模子迭代快,国产显卡型号多,用户买了硬件最挂牵"新模子出来能不可跑"。咱们要点在华为、沐曦、海光等主流国产显卡上,第一时期适配最新模子,处分兼容慌张。
二是大限制推理和MaaS爆发。 DeepSeek让人人看到,新技巧能把资本降好多。MaaS模式(模子即工作)成了云厂商新利润点——以前卖卡价钱透明,目下看工作质料订价,技巧强就能多赢利。
但云厂商有卡、有东说念主手,米兰体育官网但缺AI Infra东说念主才,咱们有技巧不作念运营,双方互补。目下互助多家云厂商,尤其是中小厂商,但愿转型Token业务但劳作Infra智商,需求格外热烈。
- 03 -
最新契机:智能路由器
铅笔说念:目下AI创业公司好多,哪些场地更有契机跑出来?
师天麾:咱们看好真切行业的AI应用和底层的AI技巧改变。
原因很简单:模子迭代太快。你目下经心遐想的责任流,可能三个月后被新模子、新框架径直颠覆,前期进入全陡然。要是莫得行业壁垒或技巧壁垒,很容易被替代。
更有契机的是扎进行业里——有行业数据、懂业务进程、处分真实痛点。这类场景可替代性低,壁垒高,活得久。
铅笔说念:你们会不会挂牵,畴昔芯片厂商或者大模子厂商也抢你们的饭碗?
师天麾:这个质疑从成立第一天就有,但市集如实需要中间层。
第一,生态太漫步。国内芯片厂商十几家,每家生态闭塞,互不兼容。莫得一家能隐蔽统共模子,要是硬要作念通用适配,资本极高、收之桑榆。客户需要一套"通用邻接器",这即是咱们存在的价值。
第二,客户要"好用"而不是"斟酌底层"。 国央企势必混用多家芯片,但不同芯片软件栈不和洽,换一家就得换一套软件,版块功能还不一样,管束起来头疼。客户只思用,不思斟酌底层若何弄。
第三,咱们能作念定制化优化。 芯片厂商作念的是通用优化,跑起来就行;但咱们能针对不同场景、不同限制——4台、16台、128台机器跑DeepSeek,瓶颈各不一样——作念深度优化。尤其是大限制场景,咱们的性能上风特地赫然。
铅笔说念:国产芯片自己来看,目下有哪些短板,反而给你们带来了契机?
师天麾:我认为国产芯片有三个漏洞,这反而是咱们的契机。
第一,软件生态弱。兼容性错落不王人,用户买之前必问"能不可跑这个模子"。咱们用一套软件买通不同显卡,把使用门槛降下来,让国产芯片真实"好用"。
第二,性价比不够。 目下国产卡价钱照旧相对较贵,咱们通过推理引擎优化,擢升硬件垄断率,把全体性价比拉上去。
第三,新特点缺失。好多国产卡不扶植FP8、FP4,硬件换代资本极高。咱们用软件兑现肖似智商,让用户提前用上这些特点,花小钱办大事。
铅笔说念:从AI Infra这个行业来看,你认为本年有那些契机有风险,但值得去粉碎?
师天麾:咱们本年稳当市集需求推出AI Ping的"智能路由"智商,这个有点像是个模子工作的智能路由器,它能帮用户免却两个费劲。
一是“模子路由器”,帮你处分"选模子"的费劲。
简单问题用低廉的小模子,复杂问题才用贵的大模子。咱们实测过,把主流大模子搭配着用,效果比单用一个好,资本还能降5-10倍。
二是“云工作路由器”,帮你处分"选云工作"的费劲。
市面上几十家云工作商,性能时好时坏。咱们及时监控,自动帮你挑刻下最快、最低廉的。你说"要用DeepSeek",咱们自动选最佳的那家,你无须管背后是阿里照旧火山。
最终蓄意:你只管提需求,咱们自动匹配模子和平台,你径直拿抑遏。就像打车软件自动派单,你无须我方挑司机。
铅笔说念:“智能路由”这个场地,目下在行业里曾经共鸣了吗?
师天麾:智能路由照旧个新场地。
模子路由——业内某个大厂两三个月前放了个Demo,情谊奉陪、游戏NPC这类对话场景也在试点。难点在于模子厂商从交易考量来说,更得意保举自家的模子。咱们接了600多个模子工作,算作中立平台更有上风。
工作路由——目下来看企业用户选择度特地高,通俗情况下,用了工作路由蒙眬擢升近一倍,资本降一半,模子输出质料还不变,很受企业接待。
是以咱们的核心壁垒就在这:咱们既不作念模子,也不作念算力运营,纯中立团聚,才智作念好这个"智能转换"的事。
铅笔说念:这个场地,你们若何判断出来的?
师天麾:咱们判断这个场地,基于两点。
用户需求施行——用户要的是处分问题,不是选模子、选工作商。给问题,径直给谜底,省去选型费劲,这是势必趋势。
技巧时机锻练——小模子智商目下满盈强,能处分大部分简单问题;大模子又贵又缺。大小搭配,降本增效,水到渠成。
最大挑战是信任。用户俗例了"一个模子用到底",挂牵模子路由换来换去,效果不褂讪。这需要时期培养心智,不外惟一客户用起来看到效果,信任会快速建设。
铅笔说念:从交易角度来看,你认为这是一门好生意吗?
师天麾:我认为是门好生意。
第一,用户得意买单。 有东说念主为褂讪性付费,有东说念主为性价比付费,需求真实存在。
第三,限制效应。单个用户去谈没扣头,咱们聚了几百家一说念采购,能拿到很好的价钱,就像团购,诱导者的价钱当然会降下来。
第四,处分真痛点。目下模子和工作商太多,各种榜单好多,用户遴荐繁难,咱们帮人人减少了决策资本。
咱们作念的评测和路由,能帮用户作念出更靠谱的决策,这事自己很有价值。
铅笔说念:2025年来看,您的收入大致是什么结构?
师天麾:2025年的收入主要有几部分:比如大模子特有化部署,还有帮芯片厂商作念一些优化方法。另外AI Ping(智能路由平台)这块,曾经经初始酿成收入了。
铅笔说念:本年你们要点思打造的核心智商是什么?
师天麾:本年咱们 AI Ping 小团队的核心蓄意,把“智能路由”作念好,往技巧、生态和交易三个场地蔓延。
先说技巧价值。它处分的是一个很现实的问题:大模子 API 不褂讪。咱们作念了一套监测系统。及时看每个模子的延迟、蒙眬、褂讪性和资本。工作质料变成可量化、可臆想。
有了这些数据,系统会自动分拨恳求。字据任务类型,选最相宜的模子和节点。既保证效果,也尽量省钱。要是某个节点出问题,系统会在秒级切换,不影响业务。
再说生态价值。智能路由让 AI Ping 成为一个“核心”。邻接诱导者和模子厂商。
对诱导者来说,一个进口就够了,无须对接多个平台,少作念重叠责任,效用更高;对模子厂商来说,流量分拨更自制,中小厂商也有契机被用到,惟一性价比好,就能获取曝光;对行业来说,算力不错更高效地流转。
竞争回到两件事:性能和资本,AI更容易落地。
路由越智能,接入的诱导者和厂商越多,生态就越繁盛。生态越繁盛,数据和场景越多。又会反过来擢升路由智商。
第三是限制壁垒。智能路由会带来“越作念越强”的效果。
用户越多,数据就越多。数据越多,路由就越精确。体验更好,资本更低。体验好了,又会蛊卦更多用户。
大批数据还能鼓动算法握续优化。转换更高效、更褂讪。抑遏是,咱们一直跳跃,竞品的空间会被不断压缩。
最终,咱们的蓄意是:让智能路由不仅仅一个功能,而是一说念壁垒。
它由限制和数据共同酿成:用户加多,数据加多;数据加多,智商擢升。酿成轮回,也更难被替代。
本文不组成任何投资提议米兰体育官网。
开云体育中国官方网站
备案号: