Zusammen mit CUDA 13.3 veröffentlicht Nvidia CUDA Python 1.0 als direkte CUDA-Schnittstelle für Python auf der gleichen Ebene wie C++. Dabei bündelt der Hersteller verschiedene Pakete und stellt sie unter einen einheitlichen Plan für Versionierung und Breaking Changes.

Nach Aussagen von Nvidia macht das Paket Bibliotheken wie PyTorch, CuPy oder RAPIDS überflüssig, die Python-Entwicklerinnen und -Entwickler bislang benötigten, um die C++-Funktionen von CUDA nutzen zu können.

Die Kern-Komponente von CUDA Python, cuda.core, stellt Objekte für Geräte, Streams und Speicher zur Verfügung, die Entwickler auf verschiedenen Ebenen einsetzen können, beispielsweise für eigene Kernels oder zur Optimierung von bestehenden Anwendungen. Das Objektmodell sorgt auch für einen störungsfreien gemeinsamen Zugriff verschiedener Komponenten auf CUDA, da sie die gleichen zugrunde liegenden Objekte nutzen. Objekte lassen sich so über die Grenzen der Bibliotheken und Anwendungen hinweg verwalten, was insbesondere auch für in der Latenz privilegierte Kernel (Green Context) gilt.

cuda.core (unten) stellt den Python-Bibliotheken in der Mitte CUDA-Objekte zur Verfügung.

(Bild: Nvidia)