Auto-Voice-Story

概要

ローカルLLM実行ソフトollamaで作ったストーリーのセリフをAI音声合成ソフトStyle-Bert-Vits2に渡して声を作る作業をComfy UIで自動化したワークフローです。
生成した声は実行順にナンバリングされたファイル名がつけられ、フォルダ内連続再生を設定した音声プレイヤーでボイスドラマとして聞くことができます。
現在ComfyでローカルLLMを実行するのには様々なカスタムノードがあり、ManagerでLLMを検索するとLLM partyというノードが最も人気があるのですが、
私の環境ではモデルの切り替えに失敗してエラーになることが多いので、今回はComfy上でollamaを操作できるようになるcomfyui-ollamaというノードを使っています。
Comfyでもう別のLLMノードを使っている方はそちらに置き換えてくださって結構ですし、ストーリーをChat GPTなどオンラインのLLMサービスに書かせたり、 自分で話を全部書くという方はollamaのインストールは必要ありません。

※25/03/22　音声プレイヤーのVoice-Story-Playerをアップロードしました

作った声を画像・動画とBGM付きで再生できるVoice-Story-Playerを作りました。
https://huggingface.co./datasets/Gazou-Seiri-Bu/Auto-Voice-Story

以下のワークフローで声を作ると声フォルダ内に「scenario.txt」が作成され 声と同時にセリフも表示されるようになります。

【ollamaのインストール】
https://ollama.com/
ollamaはソフト本体に加えggufモデルのインストールが必要です。解説記事やChat GPTなどをご参考に。
ollamaは常駐するのでワークフロー実行時に立ち上げる必要はありません。
【Style-Bert-VITS2のインストール】
https://github.com/litagin02/Style-Bert-VITS2
こちらはこのワークフローの実行には必ず必要です。
これ一本で音声合成からモデルの作成までできるようになるので、リポジトリの説明手順に従ってインストールして下さい。
制作者のlitaginさん自らの使い方解説のYouTube動画が非常にわかりやすいです。
Style-Bert-VITS2は最初から男女計4つの声モデルが入っているのですぐに声の生成を実行することができます。
ワークフローの実行の前にStyle-Bert-VITS2フォルダのServer.batをダブルクリックしてプログラムを起動しておいて下さい。

ワークフローの実行方法

Style-Bert-Vits2とAPIを使ってデータをやり取りするカスタムノードをComfyに入れる必要があります。
Comfy UIのcustom_nodesフォルダ内に適当なフォルダを作り、そこにこのリポジトリのAuto_Voice_Story.pyと__init__.pyを置いてください。
※2025/03/16　インストールが必要なライブラリの情報が抜けていました。申し訳ありません。 ComfyUIの起動前に以下のライブラリをインストールして下さい。

pip install soundfile requests

声＋テキストデータ生成フロー.pngにワークフローが入っているのでブラウザにドロップして下さい。足りないカスタムノードをManagerからインストールして下さい。
Auto_Voice_Story.pyで入れたカスタムノードの働きはワークフローの中にnoteで書いてあります。
現状、LLMの出力にはまだまだハズレが多いので、まずワークフロー左半分でストーリーガチャをして、
あたりの文章が出たらそれを推敲して右半分に渡して声生成というセミオート運用が現実的だと思います。適宜左右Groupのバイパスを切り替えてください。

音声単独生成フロー

声の修正用や追加用にセリフを単独で生成するワークフローです。音声を試聴しながらセーブする声を選べます。
生成する声の中にはどうしてもアクセントがおかしいものが含まれてしまいます。
また、あとから追加のセリフを挿入したくなることもあります。そういったときに使ってください。
部分的な修正を何度試してもイメージに近くならなかったら、思い切って文章全体を変えてしまうのも手です。
イメージ通りの声ができたら実行番号にリネームして声フォルダに置いて下さい。

フォルダ内txt→声フォルダ　一括生成フロー

同じ登場人物、同じモデルのストーリーだったら複数一括して声を生成することができます。
ストーリーをtxtファイルの形で複数用意して、一つのフォルダに入れます。
フォルダのパスを入力するとtxtを順番に読み込んで声を生成し、パスのフォルダ内に声フォルダを作ってそこに声ファイルを保存します。

音声生成フロー

Scenario.txtを作成しない昔のフローも一応残しておきます。