オープンソースカンファレンス2025 Tokyo/Springに出展しました(Project Sincromisor)
オープンソースカンファレンス2025 Tokyo/Spring(会場: 駒澤大学)にて、 私が開発を進めているかわいいキャラクターおしゃべりサービス基盤 Project Sincromisorの展示と、 Sincromisorの基盤となる「AIサービス基盤の開発」についてのセミナーをおこないました。
展示・セミナー資料は下記からダウンロードできます。
展示ブースの様子です。
音声対話ができるLooking Glassをメインに、横のディスプレイでその裏側の通信の様子を確認したり、 Difyによるチャットフローの体験をしたりできるようにしていました。
隣のMacBook Airは、私が話したことをそっくりそのまま真似してキャラクターがしゃべる、
「Sincro」モードで動かしていました。
お隣は技術評論社さんのブースでした。アンケートに回答すると技術書がもらえるキャンペーン中との事で、 ちょうどピッタリな本(RAG・AIエージェント実践入門)をいただきました。 ブースに置いておいたところ、手に取って試し読みされる方も多く、やはり多くの方が関心を持っている分野であるように感じます。
今回は過去最高に気合を入れて用意してきたのですが、肝心のネットワーク(povo 2.0のテザリング)と WebRTCの状態が芳しくなく、対話サービスのデモが度々クラッシュしてしまっていたのが心残りでした。
VTuberモード(会場無線LAN利用)のほうのデモは、2日目は概ねうまくいっていたようでした。 イベント会場で展示する機会が多いサービスなので、ネットワーク環境とWebRTCに関する部分は重点的に改善していきたい所です。
リーフレットを(ながーーーい)解説の最後にお渡しする形にしていたところ、なんと持ってきた40部全部完売となりました。 OSCにも賑わいが戻ってきた感じがしますね。
DifyでRAG(Text Embedding + Rerank)をセルフホスティングしたい!
日本語を前提としたチャットボットを作ろうと、DifyでRAGする際の情報をググっていると、どこかしらのサービスのAPIを叩いて実現しているものばかり出てきてしまう。 そのため、全部オンプレのセルフホスティングでやろうとするとどうしていいやらまるでわからんとなりがちである。 そこで今回は、DifyでのRAG(Text Generation + Embedding + Rerank)を、全てオンプレで実現するための手順を取りまとめる。
Caddy + OWASP Corazaで作るWAF対応リバースプロキシ
CaddyとOWASP Corazaで、WAF対応リバースプロキシサーバを作る手順をまとめています。 (とりあえずはWAFとリバースプロキシ動くところまで)