https://ftxj.github.io/zh/ Recent content on JXIN's Home Hugo zh Thu, 08 Aug 2024 01:02:27 +0800 https://ftxj.github.io/zh/about/ Thu, 08 Aug 2024 01:02:27 +0800 https://ftxj.github.io/zh/about/ <p>我是 NVIDIA 的高级计算架构师，专注于在 Hopper、Blackwell 和 Rubin 等前沿 GPU 上加速深度学习软件栈。</p> <p>目前，我主要从事深度学习编译器的开发和端到端训练性能优化。研究兴趣涵盖编译器优化、高性能计算和 AI 系统，致力于将前沿深度学习模型推向业界领先的性能水平。</p> <p>业余时间，我对新兴的深度学习算法保持浓厚兴趣，包括具身智能、AI4Science、大语言模型和 AI4Graphics。此外，我热爱摄影，喜欢徒步旅行，探索各地的自然风光。</p> <hr> <h2 id="-深度学习编译器">🔨 深度学习编译器</h2> <p>参与的编译器项目：</p> <ul> <li><strong>Triton-to-TileIR</strong> (2024–2025): 连接 Triton 和 CuTile 生态系统 <a href="https://github.com/triton-lang/Triton-to-tile-IR">[代码]</a></li> <li><strong>CuTile</strong> (2023–至今): 实现优化 Pass 和 Bug 修复 <a href="https://github.com/NVIDIA/cutile-python/tree/main">[代码]</a> <a href="https://developer.nvidia.com/blog/tag/cutile/">[博客]</a> <a href="https://developer.nvidia.com/cuda/tile">[GTC]</a></li> <li><strong>Fuser</strong> (2022): 支持 gather、scatter、index_select 等图操作 <a href="https://github.com/csarofeen/pytorch/commits/devel/?author=ftxj">[代码]</a> <a href="https://pytorch.org/blog/introducing-nvfuser-a-deep-learning-compiler-for-pytorch/">[博客]</a></li> </ul> <h2 id="-深度学习模型">🚀 深度学习模型</h2> <p>生产系统的训练优化：</p> <ul> <li><strong>OpenFold2</strong> (2023): <a href="https://mlcommons.org/benchmarks/training-hpc/">MLPerf Training HPC 基准测试</a>，v3.1 轮次 <a href="https://github.com/mlcommons/hpc_results_v3.0/tree/main/NVIDIA/benchmarks/openfold/implementations/pytorch">[代码]</a> <a href="https://developer.nvidia.com/blog/optimizing-openfold-training-for-drug-discovery/">[博客]</a> <a href="https://arxiv.org/abs/2404.11068">[论文]</a></li> <li><strong>GPT-3</strong> (2023): <a href="https://mlcommons.org/benchmarks/training/">MLPerf Training 基准测试</a>，v4.0 轮次 <a href="https://github.com/NVIDIA/Megatron-LM/commit/fbb375d4b5e88ce52f5f7125053068caff47f93f">[megatron-lm]</a> <a href="https://github.com/NVIDIA/NeMo/commit/ac53e2296fcd9f699c928b62948a0b673c3817bc">[nemo]</a></li> <li><strong>GNN</strong> (2022): 为 PyG 社区添加 TorchScript 支持 <a href="https://github.com/pyg-team/pytorch_geometric/commits/master/?author=ftxj">[代码]</a></li> </ul> <h2 id="-高性能计算核函数">⚡ 高性能计算核函数</h2> <p>GPU 计算优化：</p> <ul> <li><strong>SpMM</strong> (2021): 🏆 <a href="https://graphchallenge.mit.edu/champions">Graph Challenge</a> 冠军 <a href="https://github.com/CGCL-codes/Graphchallenge21">[代码]</a> · <a href="https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=9622791">[论文]</a> <a href="https://www.peopleapp.com/column/30038423769-500003439573">[报道]</a></li> <li><strong>K-Truss</strong> (2021): <a href="https://doi.org/10.1109/HPEC49654.2021.9622792">[论文]</a></li> </ul> <hr> <h2 id="-联系方式">📬 联系方式</h2> <p>欢迎通过 <a href="https://github.com/ftxj">GitHub</a> 或邮件 <a href="mailto:cs.xinjie@gmail.com">cs.xinjie@gmail.com</a> 联系我</p>