デジタル庁がOSSとして公開したガバメントAI「源内」をオープンアーキテクチャ&ローカルAI対応にした Open GENAI (オープン源内)を作りました。
「源内」はクラウド依存(クラウド上でなければ動作できない)しているため、非常に見通しが悪く気持ち悪いんですよね。
そこで、クラウドのマネージドサービスを使っているところはほぼオープンソースの代替機能に置き換えました。
また、世の中にあるLLMであれば(OpenAI互換されていれば)ローカルAIもクラウドAIも好きなものを使うことができます。
現在、私の手元にあるMacBook Proの上で元気に動いています。
オープン源内で実現できるのは、
・生成AIを用いた文書生成
・生成AIを用いたチャットサービス
・文書登録したナレッジを使ったAI処理(RAG)
・音声ファイルからの文字起こし
・多言語翻訳
・フロー図やマインドマップなどのダイヤグラム作成
・画像生成
です。
そして、オープン源内独自の機能も実装しました。
源内はアプリ形式による機能拡張ができる仕組みがあり、その思想を尊重して、
・Difyで作成したワークフロー、チャットフローの連携
ができます。(さらに言えば、DifyはMCPサーバとの連携もできるのでAIエージェント的な挙動も可能です)
オープン源内は、もちろんOSSです。
ぜひお試しください。導入でお困りの場合は、誰かが助けるでしょうから心配いりません。