日本語
简体中文繁體中文English日本語DeutschFrançais

HYSEN LABS ディレクトリ

NVIDIA

NVIDIA組織の検証済みリポジトリ、分類、分析。

厳選オープンソースプロジェクト 28 件
★ 14,627

TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way.

Pythonフォーク 2,745
NVIDIA

TensorRT

★ 13,348

NVIDIA® TensorRT™ is an SDK for high-performance deep learning inference on NVIDIA GPUs. This repository contains the open source components of TensorRT.

C++フォーク 2,407
NVIDIA

cutlass

★ 10,437

CUDA Templates and Python DSLs for High-Performance Linear Algebra

C++フォーク 2,084
NVIDIA

garak

★ 9,258

the LLM vulnerability scanner

Pythonフォーク 1,282
NVIDIA

OpenShell

★ 8,615

OpenShell is the safe, private runtime for autonomous AI agents.

Rustフォーク 1,252
NVIDIA

DALI

★ 5,759

A GPU-accelerated library containing highly optimized building blocks and an execution engine for data processing to accelerate deep learning training and inference applications.

C++フォーク 676
NVIDIA

cuml

★ 5,277

NVIDIA cuML: GPU-Accelerated Machine Learning

Pythonフォーク 674
NVIDIA

nccl

★ 5,092

Optimized primitives for collective multi-GPU communication

C++フォーク 1,415
★ 4,181

Generative AI reference workflows optimized for accelerated infrastructure and microservice architecture.

Jupyter Notebookフォーク 1,098
★ 3,810

量子化、蒸留、枝刈り、ニューラル アーキテクチャ検索、投機的デコードなどの SOTA モデル最適化手法の統合ライブラリ。TensorRT-LLM、TensorRT、vLLM などの下流展開フレームワーク用に深層学習モデルを圧縮して、推論速度を最適化します。

PythonAI・機械学習フォーク 599
PythonAI・機械学習セルフホストサーバー
★ 3,533

A library for accelerating Transformer models on NVIDIA GPUs, including using 8-bit and 4-bit floating point (FP8 and FP4) precision on Hopper, Ada and Blackwell GPUs, to provide better performance with lower memory utilization in both training and inference.

Pythonフォーク 823
NVIDIA

skills

★ 3,301

プロジェクト概要：NVIDIA 製品のエージェント スキルは、Claude Code、Codex、その他のコーディング エージェントにインストールして、物理 AI、ロボット工学、シミュレーション、CUDA、RAG ワークフローをエンドツーエンドで実行します。スキルカタログ製品 |説明 |スキル | AIQ | NVIDIA AI-Q ブループリント - ローカル AI-Q サービスを展開し、エージェント スキルとして浅いまたは深いリサーチ ワークフローを実行します。

Pythonフォーク 394
★ 3,253

Open-source deep-learning framework for building, training, and fine-tuning deep learning models using state-of-the-art Physics-ML methods

Pythonフォーク 783
★ 2,632

The NVIDIA NeMo Agent toolkit is an open-source library for efficiently connecting and optimizing teams of AI agents.

Pythonフォーク 755
NVIDIA

kvpress

★ 1,209

LLM KV cache compression made easy

Pythonフォーク 179
NVIDIA

raft

★ 1,042

RAFT contains fundamental widely-used algorithms and primitives for machine learning and information retrieval. The algorithms are CUDA-accelerated and form building blocks for more easily writing high performance applications.

Cudaフォーク 250