日本語を前提としたチャットボットを作ろうと、DifyでRAGする際の情報をググっていると、どこかしらのサービスのAPIを叩いて実現しているものばかり出てきてしまう。 そのため、全部オンプレのセルフホスティングでやろうとするとどうしていいやらまるでわからんとなりがちである。 そこで今回は、DifyでのRAG(Text Generation + Embedding + Rerank)を、全てオンプレで実現するための手順を取りまとめる。

• モデルプロバイダーの準備
  • 推論モデルプロバイダーを用意する
  • Embeddingモデルプロバイダーを用意する
  • Rerankモデルプロバイダーを用意する
• Dify上でのモデルプロバイダーの設定(執筆中)

CaddyとOWASP Corazaで、WAF対応リバースプロキシサーバを作る手順をまとめています。 (とりあえずはWAFとリバースプロキシ動くところまで)

• Caddy + OWASP Corazaで作るWAF付きリバースプロキシ(1)

Let’s EncryptのDNS-01チャレンジで、ワイルドカード証明書を取得する方法をまとめました。

• Let’s Encryptでワイルドカード証明書をつくる
• Let’s Encryptで作ったワイルドカード証明書を試す