デジタル庁のガバメントAI「源内」をローカルで動かす非公式プロジェクト「open-genai」とは

Posted on by

「源内（GENAI）は全部AWS依存でしょ？うちの環境じゃムリ…」

そう思っている自治体のICT担当者や、セキュリティポリシーが厳しい企業の情シス担当者は少なくありません。

結論から言えば、デジタル庁が公開したガバメントAI「源内」は、有志の手によってAWSゼロ・Docker Compose 1コマンドで完全ローカル動作するようになっています。

それが 「open-genai」（hirokawaguchi/open-genai） です。

この記事では、open-genaiが何を実現したのか、オリジナル源内と何が違い、どこまで本番で使えるのかを解説します。

そもそも「源内」とは

源内（GENAI）は、デジタル庁が内製開発した政府職員向けの生成AI利用環境です。

全府省庁約18万人の政府職員を対象に、2026年度から大規模実証が進められています。2026年4月にはソースコードの一部がMITライセンスでOSS公開され、自治体や民間企業でも利用できる道が開かれました。

ただ、源内のアーキテクチャはAWSのマネージドサービスに深く依存しています。認証はAmazon Cognito、LLM推論はAmazon Bedrock、チャット履歴はDynamoDB、RAGはOpenSearch…。

「AWSアカウントを持っていない」「クラウドにデータを置きたくない」「LGWAN（閉域）で動かしたい」という現場には、そのままでは使えません。

そこで登場したのがopen-genaiです。

open-genaiが置き換えたもの

open-genaiは、源内が依存するクラウドサービスをすべてOSSに置き換えました。

源内オリジナル（AWS） open-genaiでの置換
認証：Amazon Cognito Keycloak（SAML IdP）
LLM推論：Amazon Bedrock OpenAI互換API（Ollama / vLLM / LM Studio）
チャット履歴：DynamoDB SQLite
RAGベクトル検索：OpenSearch Qdrant
文字起こし：Amazon Transcribe faster-whisper
画像生成：Bedrock画像モデル Stable Diffusion（A1111互換）
ファイル保管：Amazon S3 SeaweedFS（S3互換）
ドキュメント読取：Bedrock document pypdf / python-docx / openpyxl

つまり、AWSのAPIコールを一本も行わずに、源内と同じUI・同じ操作性をローカルで実現しています。

どこまで本番で使えるのか

open-genaiは単なる「置き換え」に留まりません。v0.2.0以降、実際の自治体運用を想定した機能が大幅に追加されています。

監査ログ（audit-app） — 3年以上の保持。利用者削除と非連動で証跡を保全。

利用者一括管理（usermgmt-app） — CSVで数百人単位のアカウント作成・更新・削除。

モデル利用制御（modelpolicy-app） — チームやグループごとに利用可能なLLMを制限。

入力制限（ngword-app） — 禁止語や個人情報パターンを正規表現で管理。

契約終了時の完全削除 — データ・ログ・ナレッジをすべて消去し、報告書を生成。

LGWAN対応（キャリア配信） — 閉域ネットワークの端末に署名付きURLを表示せず、リンクファイル（.txt / .html）でデータを持ち出す運用に対応。

これらは、クラウド版源内がマネージドサービスに暗黙に依存していたガバナンス機能を、OSSだけでフルスクラッチ実装したものです。

アーキテクチャの全体像

nginx単一入口がポイントです。全サービスがリバースプロキシの背後に統合され、開発時はHTTP(80)、本番ではTLS(443)で運用できます。

[ブラウザ] ──▶ proxy (nginx :80) ──▶ web (源内 Web / Vite)
                  │                    REST + ストリーミング
                  ├──▶ backend (FastAPI) ──▶ OpenAI 互換 LLM（Ollama 等）
                  ├──▶ keycloak (/kc)      SAML IdP
                  ├──▶ rag-app (Qdrant)
                  ├──▶ whisper-app
                  ├──▶ dify-app
                  ├──▶ audit-app
                  ├──▶ usermgmt-app
                  ├──▶ modelpolicy-app
                  └──▶ ngword-app

動かし方

実際に動かすのは驚くほど簡単です。

# 1. Ollamaを起動してモデルを取得
ollama serve
ollama pull qwen2.5:7b

# 2. 設定
cp .env.example .env

# 3. 起動
docker compose up --build

あとは http://localhost/ にアクセスすれば、Keycloakのログイン画面が表示され、admin / password でログインできます。チャット・翻訳・画像生成・RAG検索・文字起こし…すべてが動きます。

注意点と評価

完成度は高いですが、いくつか注意すべき点もあります。

実験段階 — 現時点でv0.3.0、バージョン0.x系。実質1名の開発者による非公式フォークであり、長期運用の実績はありません。

リソース要求 — LLM（推奨はQwen2.5 7B）+ Stable Diffusionを同一ホストで動かす場合、メモリ16GB以上は必須。macOS Apple SiliconならMetal GPUが使えますが、それなりのマシンパワーが必要です。

本来の源内と別物 — open-genaiはあくまで非公式フォークです。デジタル庁の更新に追従できるかは開発者のリソース次第。本番導入を検討するなら、OSSとして公開された公式のgenai-webをAWSで動かす選択肢も併せて評価すべきです。

まとめ

open-genaiは、「源内を動かしたいけどAWSはちょっと…」という現場に、非常に現実的な選択肢を提示しています。

特に注目すべきは、v0.2.0以降で実装された自治体向けガバナンス機能の充実ぶりです。「実験的なフォークだからガバナンスは二の次」ではなく、むしろ逆方向に進化している点は評価に値します。

当面は検証環境で評価し、上流の公式OSSとコミュニティフォークの両方の動向を追いながら、適切なタイミングで導入判断をするのが現実的でしょう。

デジタル庁「源内」はもう、クラウドだけのものではありません。

Photo by Kindel Media from Pexels