IT女子 アラ美個人PCで動かしてるうちに容量と回線で詰むよ。最初から法人サーバーで設計しなさい。
24万社が導入！法人向けレンタルサーバー【XServerビジネス】
お疲れ様です！IT業界で働くアライグマです！
社内SE・PjMの方から「社内文書がConfluenceとNotionとSharePointに散らばっていて、結局Slackで詳しい人を捕まえないと答えが分からない」「ChatGPTに業務文書を投げるのは禁止されているが、社内RAGは何から始めれば良いか分からない」という相談をよく受けます。生成AIでRAGを組めば解決すると分かっていても、ベクトルDBの選定・モデルの選定・社内共有方法の3点が同時に絡むと足が止まりがちです。本記事ではAnythingLLMを中心に、最短ルートで社内ナレッジRAGを動かすところまでを順番に整理していきます。
AnythingLLMの公式ドキュメントとGitHubのREADMEの記載は、2026年11月5日に確認しました。
AnythingLLMとは：何ができるアプリか
「AnythingLLM」と調べた方が最初に知りたいのは、これがチャットのサービスなのか、自分で動かすソフトなのかだと思います。
公式ドキュメントの「What is AnythingLLM?」では、AnythingLLMはRAGやAIエージェントなどを、コードを書かずに使えるオールインワンのAIアプリと説明されています。
手元の文書を取り込んで質問できるRAGのアプリ
RAGは、質問に答える前に、取り込んだ文書から関係のある部分を探し、それをもとにAIに答えさせる仕組みです。
GitHubのREADMEに挙がっている主な機能は、次のとおりです。
- PDF・TXT・DOCXなど、いろいろな形式の文書を取り込める
- ドラッグ＆ドロップで文書を追加でき、答えに出典（どの文書から答えたか）が付く
- ワークスペースの中でAIエージェントを使える（Webを調べるなど）
- 外部のプログラムから呼び出すための開発者向けAPIがある
開発しているのはMintplex Labsで、ライセンスはMITです。
LLMとベクトルDBを好きなものに替えられる
AnythingLLMは、答えを作るLLMを自分で選べます。READMEでは、OpenAI・Anthropic・Google Gemini・Azure OpenAIのようなクラウドのサービスと、Ollama・LM Studioのような手元で動かす仕組みの両方が対応先に挙がっています。
文書を探すためのベクトルDBは、既定では組み込みのLanceDBを使います。PGVector・Chroma・Qdrant・Milvusなどに替えることもできます。文章を検索用の数値に変える埋め込みも、既定では組み込みのもの（AnythingLLM Native Embedder）を使います。
デスクトップ版は1人用、Docker版は社内共有用
AnythingLLMには、デスクトップ版とDocker版の2つがあり、どちらもオープンソースです。公式の「AnythingLLM Desktop Overview」の比較表から、違いの大きいものを抜き出すと次のとおりです。
| 機能 | デスクトップ版 | Docker版 |
|---|---|---|
| ワンクリックのインストール | あり | なし |
| 複数ユーザーとユーザー管理 | なし | あり |
| ワークスペースごとのアクセス管理 | なし | あり |
| パスワード保護 | なし | あり |
| ブラウザから使える画面 | なし | あり |
| Webサイトに埋め込むチャット | なし | あり |
同じページには、デスクトップ版にはユーザーアカウントや認証がないため、インターネットに公開しないようにという注意があります。複数の人で使うならDocker版を使うよう案内されています。
IT女子 アラ美
ITアライグマテーマの全体像と背景
IT女子 アラ美個人PCに社内文書置くな。クラウドPCならアクセス制御も最初から効くわよ。
いつでもどこでもクラウド上PCにアクセス！仮想デスクトップサービス【XServer クラウドPC】
社内ナレッジRAGを「とにかく動かす」には、ベクトル化・埋め込み・検索UIをワンセットで提供してくれるOSSを選ぶのが近道です。AnythingLLMはワークスペース単位でドキュメントを管理でき、社内向けに「人事規程ワークスペース」「開発ガイドラインワークスペース」のように業務ドメインごとに切り分けられます。
- 解決する課題1：社内文書がツールごとに散らばって検索しづらい
- 解決する課題2：ChatGPTに社外秘を投げるリスクを抑えたい
- 解決する課題3：RAG基盤の構築コストを最小化したい
ベクトルDB選定で迷っている場合はRAG基盤のベクトルDB選び方ガイドで比較軸をまとめているので、AnythingLLM内蔵DBで足りるか外部DBに切り出すべきかの判断材料に使ってください。
IT女子 アラ美ITアライグマ前提条件と環境整理
AnythingLLMはデスクトップアプリ版とDockerサーバー版の2系統があります。個人検証ならデスクトップ版で十分ですが、チームで共有するならDocker版＋永続ボリュームでサーバーに置く構成が前提になります。本記事では「数人〜数十人で共有するチーム検証」を想定し、Docker版を採用する前提で解説します。
- Docker：公式の手順で使う
host.docker.internalには、Windows・MacはDocker v18.03以降、Linuxは20.10以降が要る - メモリ：公式の「How to use Dockerized Anything LLM」では、クラウドで動かす場合に少なくとも2GBが目安。Ollamaを同じマシンで動かすなら、モデルの分が別に要る
- ストレージ：同じページでは最低10GBを推奨。取り込む文書・ベクトル・モデルの量に応じて増える
- ネットワーク：社内からのみアクセスできるVPNまたは社内LAN下に設置
開発環境を毎回手作業で組むのが負担になっているなら、DevContainer設計実践：コーディングCLIとローカルLLMを統合する開発環境ガイドでAnythingLLMやOllamaを含むコンテナ構成例を解説しているので、検証用テンプレートとして流用すると立ち上げ時間を短縮できます。
IT女子 アラ美ITアライグマステップ1：基本的な実装・設定
ここではDocker版AnythingLLMを立ち上げ、最初のワークスペースにドキュメントを取り込むところまでを行います。最小限のdocker-compose.ymlで起動し、UIから初期設定を進める流れです。
- 作業ディレクトリを作成し、永続データ用のボリュームを切る
- Compose定義を書いてAnythingLLMを起動する
- UI（既定では3001番ポート）にアクセスして初期セットアップする
- 「General Knowledge」など最初のワークスペースを作る
- サンプルとして社内向けの公開資料を1つだけ取り込み、検索が効くか確認する
services:
anythingllm:
image: mintplexlabs/anythingllm:latest
container_name: anythingllm
ports:
- "3001:3001"
cap_add:
- SYS_ADMIN
environment:
STORAGE_DIR: "/app/server/storage"
volumes:
- ./anythingllm-storage:/app/server/storage
restart: unless-stopped
起動したら、ブラウザでhttp://localhost:3001を開きます。公式の手順では、データはコンテナを作り直しても残ると説明されています（保存先のフォルダをホストにつないでいる場合）。
LLMの接続先は、あとから「Settings」の「AI Providers」の「LLM」で切り替えられます。最初はクラウドのAPIで動くことだけ確かめ、Ollamaへの切り替えは次のステップで行うと混乱しにくいです。
エディタから手元のOllamaを使う方法は、CursorでローカルLLMを使う方法で解説しています。
IT女子 アラ美ITアライグマステップ2：発展的な活用・応用パターン
最低限の検索ができたら、ここから「実務で使える社内RAG」に育てていきます。論点は3つで、Ollamaとの接続、外への通信の確かめ方、ほかのツールとの連携です。
- OllamaでローカルLLMを立て、「Settings」の「AI Providers」の「LLM」で「Ollama」に切り替える
- 埋め込みもOllamaで動かす場合は、埋め込み用のモデル（公式のCompose例では
nomic-embed-text:latest）を指定する - Confluence・Notion・GitHub Wikiなど主要ナレッジソースを、ワークスペース単位で取り込む
- 取り込み手順をスクリプト化し、週次のcronやGitHub Actionsで定期的に実行する
- 開発者向けのAPIを使い、社内のSlack Botから呼び出せるようにする
Docker版からOllamaにつなぐときはhost.docker.internalを使う
Docker版からホストで動くOllamaにつなぐときは、接続先に注意が要ります。公式の「How to use Dockerized Anything LLM」によると、コンテナの中からlocalhostを指定しても、ホストのサービスには届きません。http://host.docker.internal:11434のように指定し、Linuxではdocker runに--add-host=host.docker.internal:host-gatewayを足します。
なお、Docker版にはOllamaを使わずにコンテナの中でローカルモデルを動かす「Built-in」のLLMもあり、環境変数ENABLE_BUILT_IN_LLM=trueでオンにします（既定はオフ）。
匿名の利用状況の送信は設定で止められる
ここまで組むと、ナレッジ取得から回答生成までが社内で完結し、外部APIに業務文書を投げずに済みます。
ただし、公式のREADMEの「Telemetry & Privacy」によると、AnythingLLMは匿名の利用状況を送る機能を持っています。止めるには、環境変数DISABLE_TELEMETRYを「true」にするか、サイドバーの「Privacy」でオフにします。止めても、モデルを取りに行くcdn.anythingllm.comなどへの通信は残ると書かれています。
小さいモデルから試し、ほかのエージェントとの連携は後にする
さらに複数のAIアシスタントを協調させたい場合は、peers-mcpでAIエージェント間通信を実現する実践ガイドで紹介している構成と組み合わせると、AnythingLLMのRAG結果を別エージェントの入力として渡す設計が可能になります。
注意点として、Ollamaに切り替えるとレスポンス速度がGPUの有無で大きく変わります。必要なメモリはモデルによって違うため、まずは小さめのモデル（例：Qwen2.5の7B）で実用速度を確かめてから、大きいモデルを試すと失敗が少ないです。
IT女子 アラ美ITアライグマ実装後の効果検証の進め方
IT女子 アラ美RAG導入提案できるスキルがあれば年収交渉の武器になるわよ。3分で求人診断できる。
社内SEを目指す方必見！IT・Webエンジニアの転職なら【社内SE転職ナビ】
社内RAGは、作ったあとに「問い合わせが本当に減ったか」を確かめないと、続けるかどうかを決められません。
ここでは、効果を確かめるための進め方を、試す前・試す内容・確かめる数字の3つに分けて整理します。
試す前：問い合わせの数と対応時間を記録しておく
効果をはかるには、試す前の数字が要ります。まず2週間ほど、次の2つを記録しておきます。
- 規程・手順・申請の流れなど、文書を見れば答えられる問い合わせの件数
- その問い合わせに答えるのにかかった時間
あわせて、社外秘の文書をクラウドのAIに入れてよいかどうかの社内の決まりも確かめておくと、LLMをクラウドにするかOllamaにするかを決めやすくなります。
試す内容：問い合わせの多い分野にワークスペースを絞る
最初から全部の文書を取り込もうとせず、問い合わせの多い2〜3の分野だけでワークスペースを作ります。
- 「人事規程」「IT申請の流れ」のように、分野ごとにワークスペースを分ける
- 取り込む前に、その分野の担当者に文書が最新かを確かめてもらう
- 答えに出典が付くことを使い、利用者には出典の文書も開いて確かめるよう伝えておく
Docker版なら、ワークスペースごとに使える人を分けられるので、部署ごとに見せる範囲を変えることもできます。
確かめる数字：試す前と同じ数字を比べる
1か月ほど使ったら、試す前と同じ2つの数字（問い合わせの件数と対応時間）を記録し直して比べます。
数字が減っていない場合は、取り込んだ文書が古い、ワークスペースの分け方が質問と合っていない、といった原因を順に確かめます。
チームに展開するときのルール作りは、メルカリ流Claude Codeセキュリティ設定の組織配布戦略ガイドの考え方も参考になります。
IT女子 アラ美ITアライグマさらなる実践・活用に向けて
社内RAGは「動かすこと」よりも「運用を回し続けること」のほうが難しい領域です。検証PoCの先に進めるためのチェックポイントを整理しておきます。
- 取り込み対象ドキュメントの所有者を必ず明文化する（責任の所在が曖昧だと更新が止まる）
- 更新頻度の高いドキュメントは Slack 等のChatOpsから「再取り込み」できる導線を用意する
- RAG結果には参照元リンクを必ず添えるプロンプトにし、誤答時の検証コストを下げる
- ハードウェアは「手元PC1台」で完結させず、社内サーバーまたはクラウドPCに置いて全員から同じ結果が返る状態にする
- RAGを企画・運用できる人材として社外でも通用するスキルにしておく
社内ITの裁量を持ちつつAI環境を自分で設計したいなら、社内SE転職エージェント比較とキャリア設計ガイドでエージェント別の特徴と求人傾向をまとめているので、転職市場でのポジションを定期的に確認しておくのがおすすめです。サーバー選定の段階で迷ったら、エンジニア向けXServer用途別比較ガイドで社内RAG向けの法人サーバー・クラウドPCの選び方も合わせて確認すると、コスト見積もりが具体化できます。
IT女子 アラ美ITアライグマよくある質問
Q. AnythingLLMはオフライン環境でも動かせますか？
A. LLMにOllamaなどの手元で動く仕組みを選べば、答えを作る処理を外部のAPIに送らずに済みます。埋め込みとベクトルDBは、既定で組み込みのもの（AnythingLLM Native EmbedderとLanceDB）を使います。ただし、公式のREADMEによると、匿名の利用状況の送信（止められます）や、モデルを取りに行くcdn.anythingllm.comへの通信があるため、完全に外と通信しない環境で動くかは公式には書かれていません。
Q. ChromaやQdrantなど外部ベクトルDBに切り替えるべきタイミングは？
A. 公式のドキュメントには、何件を超えたら切り替えるという目安は書かれていません。AnythingLLMは既定で組み込みのLanceDBを使い、READMEではChroma・Qdrant・PGVector・Milvusなどにも対応しています。ほかのシステムとベクトルを共有したいときや、検索が遅くなってきたときが、外部のベクトルDBを検討するきっかけになります。
Q. 既存のConfluenceやNotionと連携する方法は？
A. 公式の比較表では、デスクトップ版・Docker版のどちらでも、外部のデータを取り込む機能（Third-party data connectors）とWebサイトの取り込み（Website scraping）が使えます。開発者向けのAPIもあるので、ConfluenceやNotionから書き出した文書を、スクリプトで定期的に取り込む運用も組めます。
Q. 法人利用時のライセンスは大丈夫ですか？
A. AnythingLLMはMITライセンスのOSSですが、利用するLLM（Llama系・Qwen系など）のライセンス条項は別途確認が必要です。社内利用であっても再配布や商用条件は事前に法務確認しておくと安全です。
比較表は「社内向けRAGを社内サーバー／法人サーバー／クラウドPCのどこに置くか」で迷ったときに、コスト・運用負荷・セキュリティ要件を見比べるための参考にしてください。
用途に合ったXServerを選ぶことで、コスト最適化とパフォーマンス向上を同時に実現できます。以下の3商品を比較して最適な1つを見つけましょう。
| 比較項目 | XServerビジネス | XServer for WordPress | XServer クラウドPC |
|---|---|---|---|
| 主な用途 | 法人サイト・Webアプリ高負荷・高可用性 | ブログ・メディアWordPress特化 | リモート開発・AI実験仮想デスクトップ |
| 安定性・性能 | SLA99.99%保証 | 高い安定性 | EPYC+NVMe SSD |
| セキュリティ | WAF標準搭載 | ユーザー完全隔離 | 24/365サポート |
| 独自機能 | 設定代行・ドメイン永久無料ホームページ無料制作 | ステージング環境WP専用管理画面・Xwriteテーマ | Microsoft Office対応完全メモリ保証 |
| おすすめ度 | 法人・高負荷Webアプリ | WordPress運用 | Aリモート開発環境 |
| 公式サイト | 詳細を見る | 詳細を見る | 詳細を見る |
IT女子 アラ美ITアライグマまとめ
社内ナレッジRAGはツール選定で迷うほど立ち上げが遅れる領域ですが、AnythingLLMをハブに据えれば最短で実用的な検証ができます。
- この記事で伝えたかったこと：社内RAGはAnythingLLMで「動かす」ところを最短化し、運用と展開に時間を使うのが正解
- 最低限やっておきたいこと：Docker版で1ワークスペースを立て、参照元リンクつきの回答が返ることを確認する
- 余力があれば試してほしい発展パターン：Ollamaでフルローカル化し、Slack Bot経由でチームに開放する
完璧な構成を一発で組もうとせず、ドキュメント3点・ワークスペース1つから小さく始めて、運用が回ることを確認してから段階的に広げていく進め方が、社内RAGプロジェクトを止めない最大のコツです。
IT女子 アラ美ITアライグマ
