亚洲财经

搜索

失业小哥7000行代码,复刻了AMD重金收购的AI芯片!

失业小哥7000行代码,复刻了AMD重金收购的AI芯片!

谁能想到,2026年硅谷最魔幻的科技爽文,不是巨头之间的烧钱大战,而是一个破产小哥,单枪匹马挑战千亿市值的芯片巨头。

就在今年8月6日,芯片巨头AMD意气风发地宣布,正式收购AI推理芯片领域的当红炸子鸡——Taalas。

这笔交易被视为AMD向英伟达发起挑战的「秘密武器」。

然而,AMD高层们庆祝收购的香槟还没开完,X上的一条帖子,直接把科技圈的下巴惊掉了。

一位失业工程师,轻描淡写地说——

「过去6个月,我把Taalas的专利拆解研究了一遍。我觉得他们的方案还能做得更好……所以我写了一个大约7000行代码的编译器。」

不仅如此,他还直接放出豪言:自己的方案不仅能比Taalas的技术节省100倍的内存调用,甚至能将推理速度直接翻倍。

他在推文的最后心酸地喊话:「你们想看 40,000 tokens/秒 的速度吗?但我现在破产了,还失业了,全网在线等一个便宜的流片渠道。」

一个人,7000行代码,一台电脑,单挑AMD刚收入麾下的顶尖技术团队。

这个魔幻的故事,立刻在圈内引爆了病毒式的传播。

人们惊呼:难道连最硬核、最烧钱的底层芯片制造,也要迎来「车库创业」时代了?

把「AI刻进硅片里」

要看懂失业小哥的操作有多逆天,我们必须先弄明白AMD到底花重金买了个什么神仙公司。

在目前的AI世界里,英伟达的GPU是绝对的霸主。但是,随着大模型越来越庞大,GPU遇到了一堵不可逾越的内存墙。

简单来说,传统的GPU架构(冯·诺依曼架构)中,计算单元和存储单元是分开的。每次计算,GPU都要跑去HBM里把模型的「权重」搬出来,算完了再放回去。

而成立于2023年的加拿大初创公司 Taalas,直接掀翻了这张桌子。

他们的创始人Ljubisa Bajic(前Tenstorrent CEO)提出了一个疯狂的逆向思维:既然搬运数据太慢,那我们为什么不直接把大模型的权重,物理「刻」进芯片的晶体管里?

这就是Taalas的杀手锏——特定模型集成电路。

他们不搞通用的GPU,而是直接围绕着某一个AI模型来定制硅片。将模型的权重和数据流硬连线成电路。

结果极其震撼——

他们的第一代测试芯片HC1(基于台积电6纳米工艺),在运行Meta的Llama 3.1 8B模型时,达到了恐怖的17,000 tokens/秒/用户 的推理速度!

根据Taalas早前的说法,这个速度是英伟达H200的73倍,而功耗却只有其十分之一!虽然代价是「一颗芯片只能跑一个特定的模型」,但由于流片周期短至两个月,成本被极大摊薄。

这就是为什么AMD毫不犹豫地将其买下。

看起来,这是一种极其高端、昂贵、只有顶尖硬件团队才能玩得转的「黑科技」。

直到这位失业小哥的出现。

7000行代码的「炼金术」

面对估值过亿的Taalas,他没有被吓倒。相反,在失业的这半年里,他像一个沉迷解谜的黑客,一头扎进了Taalas公开的专利文件中。

看了几个月后,他想到:「Taalas的设计思路,依然有优化的空间!」

他在X上毫不留情地指出,Taalas的技术虽然厉害,但他们依然是从一个只读存储器(ROM)里去读取数据(bitROM)。而在他看来,这种能量消耗是可以「完全跳过的」。

于是,这位老哥闭关爆肝,用大约7000行人类可读的代码,徒手搓出了一个「AI模型硬件编译器」。

这套编译器的逻辑简单粗暴:它能把HuggingFace上的大模型,直接「翻译」成一块硅片电路!

他公布的这个流水线工作流,堪称魔法。

1.输入模型: 直接丢进去一个 HuggingFace 的 checkpoint(模型权重文件)。

2.模型量化: 编译器自动将模型进行极致的量化(他声称自己纯软件驱动的量化,比Taalas硬件团队做得更好)。

3.权重下沉: 将量化后的权重,直接沿着金属层「下沉」转换为 RTL(寄存器传输级,芯片设计的逻辑代码)和 GDS(芯片制造的光刻掩模版图)。

4.物理验证: 自动跑完 DRC(设计规则检查)、Yosys(开源综合工具)、PEX(寄生参数提取)。

5.最终产出: 一张可以直接把 HuggingFace 模型中的矩阵乘法变成电子波形执行的物理电路图!

这个流水线,可以一键输入大模型,一键输出AI芯片图纸。

听起来像天方夜谭,而性能预测更是让人倒吸一口凉气。

他声称,通过这种更彻底的「硬编码」方式,他的设计比Taalas的bitROM减少了100倍的内存获取。

在推特上,他直接艾特了几位大V,发出了灵魂拷问:「想看 40,000 tokens/sec 吗?」

要知道,Taalas跑出17,000 tokens/s已经被AMD视为珍宝,而他的目标,直接把性能翻了一倍还多!

人才招聘现场

其实,这个故事真正让人印象深刻的,失业小哥在帖子中求助——

「顺便问一下,谁有晶圆厂的人脉?或者能弄到7nm的PDK(工艺设计套件)?再或者欧洲PTW班车(一种廉价的多项目晶圆流片服务)的联系方式?……我破产了,而且失业了。」

最高端的技术,最落魄的处境,太令人唏嘘了。

一位网友感慨道:「真没想到,单靠研究专利就能把整套方案做出来,还只有七千行代码……这执行力真强,个人英雄主义的浪漫。」

这篇X,也立刻成了硅谷的「人才招聘现场」。

知名AI研究员 Stanislav Fort 留言:「你能拿这个去融一笔VC的钱吗?如果这是真的,绝对是个灌篮级别的扣篮得分。」 小哥激动回复:「我们正在找钱!」

就连因为操纵药价名噪一时的「医药界华尔街之狼」 Martin Shkreli 都跑来凑热闹:「我雇你,把芯片造出来。」

一群VC合伙人、科技公司高管也纷纷留言:「快看私信,我想我们应该谈谈。」

当然,懂行的工程师也提出了最致命的问题:为什么你第一版就要头铁去挑战 7nm 工艺?

小哥的回答揭示了芯片制造残酷的物理法则:「因为大模型太复杂了,13nm的工艺光刻面积根本装不下。只有TSMC能做7nm及以下。但想做5nm或6nm,你必须是英伟达、苹果或博通这种大鳄,TSMC才会坐下来跟你谈判。」

这就形成了一个巨大的悖论:一个人可以用7000行代码在卧室里颠覆千亿巨头的逻辑设计。

但他却因为掏不起台积电的几百万美元流片费,只能在网上化身赛博乞丐。

这件事也告诉我们:AI芯片的设计,正在从一个「硬件工程」,降维成一个「软件编译」问题。

长期以来,设计一款芯片是一项耗时数年、需要几百名硬件工程师协同、花费数千万美元的浩大工程。但现在的逻辑变了。

如果大模型的最终归宿就是变成「ASIC」,如果输入一个AI模型,经过编译、量化、自动生成电路的流水线能够被彻底打通……

那么,未来的芯片设计,将不再是一砖一瓦的物理搭建,而仅仅是软件编译器的一个Target。

正如一位大V所写:「这个项目现在还只是预硅片阶段,但释放的信号极其有趣。如果这个流水线(checkpoint → quantization → RTL → GDS)变得自动化,定制AI芯片将越来越不像一个多年的硬件项目,而更像是一次代码编译。

本文来源:新智元

风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。

资讯来源:新智元