モデル / データセット
Osmantic/ODS avatar
Osmantic/ODS

ODS: 手元のマシンを組み立てるローカルAIサーバー

PC、Mac、または Linux ボックスを AI サーバーに変えます。 LLM 推論、チャット UI、音声、エージェント、ワークフロー、RAG、画像生成。

スター 6,488フォーク 930PythonApache-2.0

ひと目でわかる

これは何?
ODSは推論、チャット、音声、エージェント、RAG、検索、画像生成をDockerベースのローカルスタックとして接続します。
誰に向いている?
自分のPCで複数のAIサービスをまとめて動かしたい個人やラボ向けです。単一サービスの軽い導入だけを求める人や性能保証を必要とする運用には向きません。
商用利用できる?
できます。Apache-2.0 は寛容なライセンスで、著作権表示とライセンス表示を残せば、使用・改変・販売が可能です。
今もメンテナンスされている?
されています。最後のコミットは 1 日前です。
何の言語で書かれている?
主に Python です(GitHub の言語統計による)。

回答はプロジェクトの GitHub データ(最終同期:2026年9月14日)と当サイトの分析に基づくもので、法的助言ではありません。

オープンソース詳細解説

ODS: ローカルAIスタックの単一インストーラー

ODS(Osmantic Deployment System)は、ローカルAIサーバーをインストールして配線するPythonプロジェクトです。READMEでは、PC、Mac、LinuxボックスをプライベートAIサーバーに変えると説明しています。ローカルモデル推論、ChatGPT風Web UI、コントロールダッシュボード、音声、エージェント、ワークフロー、RAG、検索、画像生成、プライバシーツールが含まれます。動機は、Ollama、Open WebUI、n8n、ComfyUI、プライバシーツールを手作業で組み立てるのが面倒だからです。ODSはローカルモードをデフォルトとし、クラウドとハイブリッドモードはオプションです。

ODS: インストール: プラットフォームごとに1コマンド

LinuxとmacOS向けに、READMEはinstall.osmantic.com/ods.shからのcurlパイプをbashに提供します。Windows向けには、ソースZIPをダウンロードしてinstall.ps1を実行するPowerShellブロックを提供します。前提条件はDockerで、WindowsではDocker DesktopとWSL2バックエンドが必要です。ホストされたLinux/macOSエンドポイントはmainからの現在のブートストラップをプロキシします。ODS_REFで別のチェックアウトを選択できます。インストール後、http://localhost:3000を開きます。アンインストールコマンドも提供されています。READMEは手動クローン実行パスも文書化しています。

ODS: バンドルされたサービススタック

READMEはODSが配線するコンポーネントを列挙しています。チャットと推論: Open WebUI、llama-server、LiteLLM、TEI Embeddings。音声: 音声認識用Whisper、音声合成用Kokoro。エージェントと自動化: デフォルトのHermes Agent、レガシーオプトインのOpenClaw、ワークフロー用n8n、ポリシー執行用APE、コーディング支援用OpenCode、エージェントメモリ用Memory Shepherd。知識: ベクトルストレージ用Qdrant、セルフホスト検索用SearXNG、研究用Perplexica、オプションのBrave Search統合。クリエイティブ: ComfyUI。プライバシーと運用: Privacy Shield、Dashboard、Dashboard API、Token Spy、Langfuse。

ODS: ハードウェア検出とモデル選択

インストーラーはGPUを検出し、ハードウェア階層を割り当てます。LinuxとmacOSはods/scripts/select-model.pyを使用し、WindowsはPowerShellセレクターを使用します。どちらもods/config/model-library.jsonを読み取り、検出されたメモリエンベロープに基づいてGGUFモデルを選択します。選択は.envにLLM_MODEL、GGUF_FILE、MAX_CONTEXT、MODEL_RECOMMENDATION_*として書き込まれます。デフォルトプロファイルはqwenですが、MODEL_PROFILEでgemma4やautoを強制できます。READMEにはNVIDIA、AMD Strix Halo、Apple Silicon、Intel Arcの現在のデフォルト選択表が含まれています。実際のインストールは異なる可能性があり、スループットはローカルベンチマークが必要と述べています。

ODS: ブートストラップモードとモデル切り替え

ブートストラップモードでは、1分以内に1.5Bモデルをダウンロードし、すぐにチャットを開始でき、バックグラウンドでフルモデルをダウンロードし、ゼロダウンタイムでホットスワップします。ブートストラップモデルは64Kコンテキストウィンドウを使用するため、Hermesは最初のセッションで動作します。--no-bootstrapでスキップできます。モデル切り替えはods CLIで行います: ods model current、list、swap T3。scripts/pre-download.shで事前ダウンロード可能です。また、data/modelsにGGUFを置き、ダッシュボードからロードできます。新しいモデルのロードに失敗した場合、自動的にロールバックされます。

ODS: 拡張性、CLI、ドキュメント

すべてのサービスは拡張機能です: manifest.yamlとcompose.yamlを含むフォルダーです。ダッシュボード、CLI、ヘルスチェック、composeスタックは拡張機能を自動的に検出します。ods CLIはスタック全体を管理します: status、list、logs、restart、start/stop、モード切り替え、モデル交換、enable/disable、config show、presets。READMEはクイックスタート、サポートマトリックス、リリース検証、インストーラートラスト、フォーク可能性など、広範なドキュメントへのリンクを提供しています。このプロジェクトはApache 2.0ライセンスです。

導入後の確認では、まず`http://localhost:3000`のOpen WebUIと、環境によって`http://localhost:11434`または`http://localhost:8080`の推論エンドポイントを分けて見ます。`ods status`でComposeサービスが稼働していても、モデルのロードや埋め込み、音声の各拡張が使えるとは限りません。`.env`に書かれたLLM_MODEL、GGUF_FILE、MAX_CONTEXTをハードウェアの実メモリと照合し、`ods model current`の結果を記録します。`ods model swap T3`をテスト用モデルで実行し、失敗時に自動ロールバックするかを確認すれば、便利なモデル選択と運用上の復旧性を切り分けられます。mainを使う場合は変更を固定タグの導入と別に扱います。クラウドモードを選ぶとOpenAI、Anthropic、TogetherなどのAPIを使う構成になるため、ローカルモードと同じプライバシー前提では扱えません。ポート変更には`WEBUI_PORT=9090 ./install.sh`のような環境変数が関わるので、リバースプロキシの設定と合わせて確認します。アンインストール時にはDockerのラベル付きリソースと`~/ods`の扱いを確認し、残ったモデルや秘密情報を別途削除します。 導入先のOSとGPUドライバーも記録し、モデル選択表の前提と実機の差を確認します。ログの保存場所、公開ポート、初期モデルのダウンロード完了時刻も控え、再起動後に同じサービスが戻るかを確認します。

編集部の結論

自分のPCで複数のAIサービスをまとめて動かしたい個人やラボ向けです。単一サービスの軽い導入だけを求める人や性能保証を必要とする運用には向きません。最初にDocker、利用ポート、選択されたモデル名、data/modelsの容量を確認し、`ods status` と実際のチャット、モデル交換後のロールバックを試してください。

公式情報源

  1. Official documentation
  2. Official README
  3. Project repository
  4. Release notes
コミュニティノート

コミュニティノート