研究院三年了。
地方政府没钱咯,改签孵化公司咯。

老婆问我,你们转孵化算合同继续么?
我跟她说,烦不了,至少这个 3 年周期要走也一定是我自己跑路。

花了 1 个星期想到底干啥。
摸了一下 vllm,triton,结果发现卧槽,随便一个模型训练就得 4,50G 的显存。只有单卡的我不配玩。
考虑玩小型化,看了 MLC 的量化,看了 AWQ 的开源。
然后 B 呼有人告诉我,你这落伍了,现在都是 XXX 的实现。
你妹的,去年一年卷出天际了。。。

最近再看某算子实现,发现指令完全看不懂。记得自己 2 年前,B 呼问过一个问题,CUDA PTX 到底在哪有用,根本就没人鸟我。好吧,这下暂时面前有目标了。
其实吧,最近我很摸鱼,沉迷小丑牌。上班 50% 的时间在到处扯皮,所以找点新玩意看看,万一出啥幺蛾子,只能靠技术吃饭,不能荒废的太狠。。。


↙↙↙阅读原文可查看相关链接,并与作者交流