LiteRT-LM
LiteRT-LM 是 Google 的生產就緒、高效能、開源推理框架,用於在邊緣設備上部署大型語言模型。
HYSEN LABS 專案目錄
精選 AI 與機器學習 儲存庫,配有精準標籤與實用解析。
LiteRT-LM 是 Google 的生產就緒、高效能、開源推理框架,用於在邊緣設備上部署大型語言模型。
適用於人工智慧和人類的程式碼庫智慧:程式碼健康評分、自動產生的文件、git 分析、死程式碼偵測以及透過 MCP 進行的架構決策。
FlashInfer:LLM 服務的核心函式庫。它為注意力、GEMM 和 MoE 操作提供統一的 API,並具有多種後端實現,包括 FlashAttention-2/3、cuDNN、CUTLASS 和 TensorRT-LLM。
DeepChat - 一個智慧助手,將強大的人工智慧連接到您的個人世界。
全端 AI 紅隊平台透過 OpenClaw 安全掃描、代理掃描、技能掃描、MCP 掃描、AI 基礎設施掃描和 LLM 越獄評估來保護 AI 生態系統。
Pure-Rust WebGPU 推理引擎,相容於 OpenAI-API,原生 GGUF,可在任何 GPU 上運作。沒有Python。沒有 llama.cpp。單一二進制。
Nexent 是一個零程式碼平台,用於使用 Harness Engineering 原理、統一工具、技能、記憶體和編排以及內建約束、反饋循環和控制平面來自動生成生產級 AI 代理程式。
此專案圍繞「Klavis AI: MCP integration platforms that let AI agents use tools reliably at any scale.」建置,聚焦實際場景的開源實作,提供可重用的工具鏈與整合方式。
開源身份驗證網關,透過 SDK、CLI、MCP、HTTP 和 OpenAPI 將 1000 多個 SaaS 供應商連接到 AI 代理程式。
AI Native SDLC 的上下文圖。 Potpie 將您的程式碼庫和軟體開發生命週期轉變為 AI 代理程式的動態上下文圖。
就像 Mac 上的 TextEdit,但專用於 Markdown。 MarkEdit MarkEdit 是一款適用於 macOS 的免費開源 Markdown 編輯器。
AI浮水印去除器。 CLI 和 Python 函式庫可從影像中移除可見和不可見的 AI 浮水印(Gemini / Nano Banana Sparkle、SynthID)和來源元資料(C2PA、EXIF、IPTC)。
Maka,本地首款AI桌面助理。 macOS Apple Silicon 桌面版本是早期公開版本;資料格式、CLI 命令和實驗功能可能仍會發生變化。
本地優先的醫療保健 AI:臨床 NER 和 HIPAA PII 去識別,100% 在設備上運行。 2,200 多個醫療模型、21 種語言、Apple MLX + Python,無需雲,病患資料不會離開您的網路。阿帕奇-2.0。
此專案圍繞「microsoft/SynapseML」建置,面向真實業務場景,提供可重複使用、可持續維運的開源實作。
RLinf:實體人工智慧和代理人工智慧的強化學習基礎設施。
此專案圍繞「Hufe921/canvas-editor」建置,面向真實業務場景,提供可重複使用、可持續維運的開源實作。
Peekaboo 是一款 macOS CLI 和可選的 MCP 伺服器,可讓 AI 代理程式擷取應用程式或整個系統的螢幕截圖,並透過本地或遠端 AI 模型提供可選的視覺問答。
GitHub 代理工作流程。支援 GitHub Copilot、Claude (Anthropic)、Codex (OpenAI) 和 Gemini (Google),選擇您已有的 AI 帳號。
此專案圍繞「The ultimate RAG for your monorepo. Query, understand, and edit multi-language codebases with the power of AI and knowledge graphs.」建置,聚焦實際場景的開源實作,提供可重用的工具鏈與整合方式。