最核心的还是一条:信心。
要重新建立那种舍我其谁的技术信心。。。
如果这次折腾还没结果,索性就放弃技术追求了,开始混日子吧。
主要准备积累的内容包括:
- CUDA 的最新特性,这部分已经梳理完了。
- CUDA CUTE 的适用场景、边界和部分底层代码走读,GO ON.
- NCCL 的底层通讯原语梳理和适用范围。
- PYTORCH COMPILE 的原理。
- 最后开始跟 VLLM 最新的更新,以及读一部分论文,了解 AI SYS 的原理。
具体来说不知道要多久。。。
有愿意聊的就去聊聊。。。
随缘吧。。。
↙↙↙阅读原文可查看相关链接,并与作者交流