CUDA Rust: NVIDIA Compila Rust Directo a PTX — Dos Tracks para Kernels GPU
NVIDIA acaba de anunciar CUDA Rust: escribir kernels GPU directamente en Rust, compilado nativo a PTX. Dos proyectos open source, Apache 2.0, cubriendo los dos modelos de programación de CUDA.
#CUDA #Rust #GPU #NVIDIA #CUDA-Rust #PTX #B200 #HPC #OpenSource
⏱️ CAPÍTULOS
00:00 CUDA en Rust — Rust real compilado a PTX
00:17 Dos tracks: SIMT y Tile
00:34 CUDA-Oxide — Intercepta la compilación MIR→PTX
00:52 Memoria segura en GPU con DisjointSlice
01:11 Cutile-rs — Rust estable, tile-based
01:30 Ownership antes que unsafe
01:43 2 PFLOP/s en B200 — Benchmarks contundentes
02:04 Rust seguro vs unsafe: menos del 0.3%
02:21 Qwen3 en Rust con Grout — HuggingFace usa cutile
02:41 Requisitos: Linux, GPU CC 8.0+, CUDA
03:03 Rust en infraestructura NVIDIA
03:26 Roadmap hasta 2027 y más allá
03:43 Fearless Concurrency on the GPU
03:59 Los dos proyectos: CUDA-Oxide y Cutile-rs
📊 DATOS CLAVE
• CUDA-Oxide: MIR → Pliron IR → LLVM IR → PTX nativo, early alpha
• Cutile-rs: Tile-based, JIT a CUDA Tile IR, Rust estable 1.89+, ya en crates.io
• Benchmarks B200: 7 TB/s element-wise, 2.07 PFLOP/s GEMM (96.4% cuBLAS)
• Rust seguro vs unsafe: diferencia menor al 0.3%, sin overhead medible
• HuggingFace usa cutile-rs en Grout: Qwen3-4B a 171 tok/s en RTX 5090
• Apache 2.0, open source, repositorios en NVlabs en GitHub
🔗 FUENTES
📄 NVIDIA Developer Blog: Introducing CUDA Rust — developer.nvidia.com
📄 CUDA-Oxide en GitHub — NVlabs/cuda-oxide
📄 Cutile-rs en GitHub — nvlabs/cutile-rs
📄 Cutile-rs Docs — nvlabs.github.io
📄 CUDA-Oxide Book — nvlabs.github.io
👍 Si te interesa el futuro de los kernels GPU en Rust, dale like, suscríbete y activa la campanita para no perderte nada.
🌐 nramos.dev · 💼 linkedin.com/in/nramosdev · 🐙 github.com/nicolasramos
#CUDA #Rust #NVIDIA #GPU #PTX #MachineLearning #HPC #OpenSource #CUDA-Rust #B200 #Quantum #AI
14 views
Mentions
CUDA Rust: NVIDIA Compila Rust Directo a PTX — Dos Tracks para Kernels GPU NVIDIA acaba de anunciar CUDA Rust: escribir kernels GPU directamente en Rust, compilado nativo a PTX. Dos proyectos open source, Apache 2.0, cubriendo los dos modelos de programación de CUDA. #CUDA #Rust #GPU #NVIDIA #CUDA-Rust #PTX #B200 #HPC #OpenSource ⏱️ CAPÍTULOS 00:00 CUDA en Rust — Rust real compilado a PTX 00:17 Dos tracks: SIMT y Tile 00:34 CUDA-Oxide — Intercepta la compilación MIR→PTX 00:52 Memoria segura en GPU con DisjointSlice 01:11 Cutile-rs — Rust estable, tile-based 01:30 Ownership antes que unsafe 01:43 2 PFLOP/s en B200 — Benchmarks contundentes 02:04 Rust seguro vs unsafe: menos del 0.3% 02:21 Qwen3 en Rust con Grout — HuggingFace usa cutile 02:41 Requisitos: Linux, GPU CC 8.0+, CUDA 03:03 Rust en infraestructura NVIDIA 03:26 Roadmap hasta 2027 y más allá 03:43 Fearless Concurrency on the GPU 03:59 Los dos proyectos: CUDA-Oxide y Cutile-rs 📊 DATOS CLAVE • CUDA-Oxide: MIR → Pliron IR → LLVM IR → PTX nativo, early alpha • Cutile-rs: Tile-based, JIT a CUDA Tile IR, Rust estable 1.89+, ya en crates.io • Benchmarks B200: 7 TB/s element-wise, 2.07 PFLOP/s GEMM (96.4% cuBLAS) • Rust seguro vs unsafe: diferencia menor al 0.3%, sin overhead medible • HuggingFace usa cutile-rs en Grout: Qwen3-4B a 171 tok/s en RTX 5090 • Apache 2.0, open source, repositorios en NVlabs en GitHub 🔗 FUENTES 📄 NVIDIA Developer Blog: Introducing CUDA Rust — developer.nvidia.com 📄 CUDA-Oxide en GitHub — NVlabs/cuda-oxide 📄 Cutile-rs en GitHub — nvlabs/cutile-rs 📄 Cutile-rs Docs — nvlabs.github.io 📄 CUDA-Oxide Book — nvlabs.github.io 👍 Si te interesa el futuro de los kernels GPU en Rust, dale like, suscríbete y activa la campanita para no perderte nada. 🌐 nramos.dev · 💼 linkedin.com/in/nramosdev · 🐙 github.com/nicolasramos #CUDA #Rust #NVIDIA #GPU #PTX #MachineLearning #HPC #OpenSource #CUDA-Rust #B200 #Quantum #AI