NVIDIA

NVIDIA

NemoClaw

★ 22 463

Exécutez des agents comme Hermes, LangChain Deep Agents et OpenClaw de manière plus sécurisée dans NVIDIA OpenShell grâce à l'inférence gérée.

NVIDIA

SkillSpector

★ 17 309

Scanner de sécurité pour les compétences des agents IA. Détectez les vulnérabilités, les modèles malveillants et les risques de sécurité.

NVIDIA

TensorRT-LLM

★ 14 627

TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way.

NVIDIA

TensorRT

★ 13 348

NVIDIA® TensorRT™ is an SDK for high-performance deep learning inference on NVIDIA GPUs. This repository contains the open source components of TensorRT.

NVIDIA

cutlass

★ 10 437

CUDA Templates and Python DSLs for High-Performance Linear Algebra

NVIDIA

garak

★ 9 258

the LLM vulnerability scanner

NVIDIA

OpenShell

★ 8 615

OpenShell is the safe, private runtime for autonomous AI agents.

NVIDIA

warp

★ 7 117

Un framework Python pour la simulation, la robotique et l'apprentissage automatique accélérés par GPU.

NVIDIA

DALI

★ 5 759

A GPU-accelerated library containing highly optimized building blocks and an execution engine for data processing to accelerate deep learning training and inference applications.

NVIDIA

cuml

★ 5 277

NVIDIA cuML: GPU-Accelerated Machine Learning

NVIDIA

nccl

★ 5 092

Optimized primitives for collective multi-GPU communication

NVIDIA

GenerativeAIExamples

★ 4 181

Generative AI reference workflows optimized for accelerated infrastructure and microservice architecture.

NVIDIA

Model-Optimizer

★ 3 810

Une bibliothèque unifiée de techniques d'optimisation de modèles SOTA telles que la quantification, la distillation, l'élagage, la recherche d'architecture neuronale, le décodage spéculatif, etc. Elle compresse les modèles d'apprentissage en profondeur pour les cadres de déploiement en aval tels que TensorRT-LLM, TensorRT, vLLM, etc. afin d'optimiser la vitesse d'inférence.

NVIDIA

TransformerEngine

★ 3 533

A library for accelerating Transformer models on NVIDIA GPUs, including using 8-bit and 4-bit floating point (FP8 and FP4) precision on Hopper, Ada and Blackwell GPUs, to provide better performance with lower memory utilization in both training and inference.

NVIDIA

skills

★ 3 301

Aperçu du projet : Compétences d'agent pour les produits NVIDIA, à installer dans Claude Code, Codex et d'autres agents de codage pour exécuter les flux de travail d'IA physique, de robotique, de simulation, CUDA et RAG de bout en bout. Produit du catalogue de compétences | Descriptif | Compétences | IQA | NVIDIA AI-Q Blueprint : déployez des services AI-Q locaux et exécutez des workflows de recherche superficiels ou approfondis en tant que compétences d'agent.

NVIDIA

physicsnemo

★ 3 253

Open-source deep-learning framework for building, training, and fine-tuning deep learning models using state-of-the-art Physics-ML methods

NVIDIA

NeMo-Agent-Toolkit

★ 2 632

The NVIDIA NeMo Agent toolkit is an open-source library for efficiently connecting and optimizing teams of AI agents.

NVIDIA

kvpress

★ 1 209

LLM KV cache compression made easy

NVIDIA

earth2studio

★ 1 131

Cadre d'apprentissage profond open source pour explorer, créer et déployer des flux de travail météorologiques/climatiques d'IA.

NVIDIA

raft

★ 1 042

RAFT contains fundamental widely-used algorithms and primitives for machine learning and information retrieval. The algorithms are CUDA-accelerated and form building blocks for more easily writing high performance applications.