专栏文章 2025.5--记录一下

magicyang · 1 月前 · 最后由 magicyang 回复于 1 月前 · 7044 次阅读

这两天有点不太爽。
起因是因为一个年轻的小朋友知乎问我,是去华为做算子开发好,还是去国企好。
我把他怼了一顿,我个人觉得当你家庭没有托底,其实你看上的可以有的选择,又能有多大的区别呢?
来问对你不熟悉,不熟悉你个性,心性,背景的人,就几句话决定你一个重要节点的重要选择,也太过儿戏。
这么一想,想想年轻时候的自己又何尝不是。

昨天和老婆聊到一个问题,我说看新闻联播的人很幸福。为什么幸福,因为你发现周围的人和事都是正面阳光的,充满了希望。
但是你再让我们去看新闻联播,难。

裸辞两个月了,陆陆续续还在聊,总不太得劲。
我完全擅长的领域,现在还没有起来,包括头部大厂在内,还没有明确的技术路线和投入,导致基本没有 hc。
我这个年纪,今天再去做云端、服务端的推理加速,在目前已经做完 80% 的前提下,还有多少值得去做的内容,我现在一说服不了高层级的面试官,二说服不了我自己。
因此只能拖着随缘。

这两个月聊下来,可以清晰的感受到技术是技术,实践是实践,目前有这么几个点:

  1. 原先认为国产卡可能会有适配的场景,实际上傻子才用国产卡,自己重新搭一套不开源的适配框架,疯了么。这意味着国产卡的适配经验对厂商来说属于鸡肋。
  2. 复杂的调度操作,以前天天看 pp 并行是网络带宽低的最优解,实际上就算是 4090,单纯推理,在非超大模型下,pcie 对你带宽的影响和 hbm 对你的影响相比,那是 9 牛一毛。而大厂又都是标品,标品下的优化,怕是需要更多的实战经验,而这是我蹲在南京,就不可能有的机会。未来也不会再有。
  3. nvidia 框架层面诸协作组,graph 自定义内存,这些偏底层的,连 pytorch 里都没有,那是 nvidia 自己玩的东西,去不了 nvidia 的,看看就好,落地还是算了吧。
  4. transformer 算子越固定,算子层面,包括 compiler 层面可操作的东西越来越卷,越来越少。

还得看点新玩意,找点新点子,要不这故事肯定是没法闭环了。

共收到 19 条回复 时间 点赞

老哥屈才了

magicyang #2 · 1 月前 Author
赵又廷 #19 回复

才有啥用。--又没高到远超别人,还不是普通人。
老老实实提供情绪价值比现在老想着提供技术价值活得轻松多了。

老哥 裸辞没有车贷房贷养孩子的压力吗

mai #4 · 1 月前

纯外行的问下,现在国产的算力卡是啥水平

dun #5 · 1 月前

我们的国产工程软件也一样,都是为了不被卡脖子,政治因素大于实际使用,国产的东西刚出来跟市面上成熟的产品没法比,能力就像 3 岁小孩一样,能沟通但很幼稚

magicyang #14 · 1 月前 Author

我没贷款了。。。
前面挣得也不多,计划蹲 6 个月慢慢看。。。
也不想妥协的太多。
最后两个月开始看初创吧,现在么,大家都没 HC。

magicyang #13 · 1 月前 Author
mai #4 回复

实际基本只有信创用。
谁用谁傻。
接 4090 不好么,性价比杠杠的。

裸辞好有勇气

dun #9 · 1 月前
magicyang #14 回复

我也没贷款,但是不敢裸辞,家里还有刚出生的小宝宝,这 3 年都不敢裸辞

dun #10 · 1 月前
magicyang #13 回复

国产化大部分都是为了能有独立自主的能力就行,不到特殊时期不会用

Joo #11 · 1 月前

华为 910C 应用的场景还可以吧,最起码央国企会用

dun #12 · 1 月前
Joo #11 回复

央国企都是裙带关系,并不一定会选择华为的,他们的采购并不是国产的谁好用就用谁,就比如云服务器,阿里云好吧、腾讯云也不赖、华为云市场用的多勉强可以,但是最后用了一个很少见、没有较大市场的厂商的云服务器

magicyang #13 · 1 月前 Author
Joo #11 回复

信创,主要是政企服务。
还有最头部的国企才有国产化的要求。
实际上这部分也是依靠海量的 fae 支持去解决的。
从单客价来说,很高,只有华为能这么玩,可以这么玩。
其他企业只要不被 nvidia 告,不会用国产的。

除了华为,其他厂商主要是依靠各种关系,接一些单子。
在目前这个阶段,好不好用,质量好不好,只要大差不差,区别不大。--所以实际上都在缩编。技术在这个阶段,其实也没有想象的那么重要。

ai 最大的可怕在于他把经验的门槛几乎清空,导致技术迭代越来越快。
实际是在加速内卷,同时除了内卷以外,很少能看到新的创新机会。
比如:diffusion,cursor 卷的都是普通人的生产力,并没有把蛋糕画大。

风子 #8 回复

别提了,昨天还被老婆说了,人家都是想着办法保工作,你倒好。
我跟她说,我已经拒绝老板一次了,上面开始看你不爽的时候,你想摸鱼混日子都没办法,有的是办法让你难受。
哎,前面膨胀了,得罪人太多了。

如果看经济决定百姓幸不幸福,那宋朝百姓一定很开心

Joo #16 · 1 月前
magicyang #13 回复

老哥看的透彻,也差不多自由了吧,可以享受生活了,别卷了 😂 😂 😂

Joo #16 回复

想啥呢。
两个娃,4 个老人,存款不到 100w,老婆还在上班。
努力了,找不到工作那是客观原因,自己不找那是主观问题。

可以挑一挑合适的,完全躺平,那不得众叛亲离。😓

Joo #18 · 1 月前
magicyang #17 回复

老哥有兴趣来讯飞看看吗,在合肥😂 😂 😂

magicyang #19 · 1 月前 Author
Joo #18 回复

不考虑了,我最近一直都在看上海的机会。
合肥和南京差不多。南京是越来越菜了。
我做优化的,优化首先需要量,没量谈啥优化,所以难找,没办法。
年纪大,不爽了还喜欢裸辞,不是很缺人的为啥还要找个可能要稍微照顾你情绪的人来,更难。

需要 登录 后方可回复, 如果你还没有账号请点击这里 注册