ローカルAIで長編小説を書く方法｜Ollama・Open WebUI・AnythingLLMの違いと設定の考え方

ローカル環境で小説執筆専用AIを作る場合、文体・世界観・キャラクター設定・禁止事項などを大量に登録しても、章をまたぐと設定が崩れてしまう問題に悩む人は少なくありません。特にRAG（検索拡張生成）型の環境では、登録した情報を毎回すべて読み込むわけではないため、長編創作では工夫が必要になります。

この記事では、Ollamaを利用したローカルAI小説執筆環境において、AnythingLLMとOpen WebUIの特徴の違い、長編小説で設定を維持するための方法、さらに創作向けの環境構築の考え方について解説します。

長編小説AIで設定が崩れる主な原因はRAGの仕組みにある

小説執筆用AIを作る場合、多くの人は世界観設定やキャラクター資料、文体ルールなどをMarkdownファイルにまとめ、それをKnowledgeとして登録します。しかし、RAG型システムは基本的に「必要そうな情報を検索してAIへ渡す」という仕組みです。

つまり、Knowledgeに20個のファイルを登録していても、AIが毎回20個すべてを読むわけではありません。質問内容や検索結果によって、一部の情報だけがコンテキストに追加されます。

例えば第1章を書く時に「主人公設定」「世界観設定」「文体ルール」が検索されたとしても、第2章を書く時には「キャラクター設定」「伏線資料」だけが選ばれる可能性があります。その結果、前章では守られていた文章表現や設定が崩れることがあります。

Open WebUIは、会話履歴を長く保持できる環境として利用できます。そのため、同じConversation内で執筆を続ける場合は、AnythingLLMのRAG方式よりも設定を維持しやすい傾向があります。

特に長編小説では、System Promptに基本ルールを設定し、会話履歴の中に章ごとの流れや直前までの文章を保持する運用が効果的です。

ただし、Open WebUIでも無限に情報を保持できるわけではありません。モデルのコンテキスト上限を超えると古い情報が切り捨てられるため、数十万文字規模の作品では別途管理方法が必要になります。

実際の小説制作では、すべての設定をAIの記憶だけに任せるのではなく、外部資料を整理して必要な時に渡す方法が安定します。

例えば以下のような構成にすると管理しやすくなります。

重要なのは、AIに毎回すべてを書かせるのではなく、執筆前に必要な情報を明示的に読み込ませる工程を作ることです。

AnythingLLMでも小説執筆環境を作ることは可能です。ただし、Knowledge機能を「設定を永久記憶する場所」と考えると期待通りに動かないことがあります。

AnythingLLMの強みは、大量の資料を検索できることです。そのため、世界設定資料、過去作品分析、参考資料などを保管する用途には非常に向いています。

一方で、毎回必ず守るべきルールについてはKnowledge任せにせず、Workspace Promptやシステム指示側に配置する方が安定します。

小説AIでは、すべての情報を同じ扱いにしないことが重要です。

例えば「主人公は絶対に敬語を使わない」「この世界では魔法は3種類しか存在しない」といった設定は、毎回必ず守る必要があります。これらはSystem Promptや固定プロンプト側に置くべき情報です。

一方で「過去の作品分析」「似た雰囲気の文章例」「細かい地名一覧」などは、必要時に検索するKnowledge向きの情報になります。

長編小説を書く場合、単純にAIモデルを強化するよりも、役割ごとに環境を分ける方が安定します。

例えば以下のような構成が実用的です。

このように、Open WebUIを本文執筆用、AnythingLLMを資料検索用として使い分けることで、それぞれの長所を活かせます。

長編作品では、一度に「第1章を書いて」と指示するより、制作工程を分ける方が成功率が高くなります。

例えば、最初にAIへ「この章の目的」「登場人物の感情変化」「必要な伏線」を整理させ、その後に本文を書かせる方法があります。

また、各章終了後にAIへ「現在までの設定まとめ」「キャラクター状態一覧」「未回収伏線一覧」を作成させ、それを次章開始時に読み込ませると設定崩壊を防ぎやすくなります。

ローカルAIで長編小説を書く場合、AIがすべてを覚えてくれる環境を作ることよりも、必要な情報を適切に管理して渡す仕組みを作ることが重要です。

Open WebUIは長い会話履歴を活用した連続執筆に向いており、AnythingLLMは資料管理や検索用途に向いています。どちらか一方だけを選ぶより、役割分担させることで安定した創作環境になります。

理想的な小説AIを作るには、モデル性能だけではなく、世界観資料・キャラクター管理・章ごとの記録方法まで含めた執筆ワークフローを設計することが成功への近道です。