AIの勉強を兼ねて、自分用のRAGにトライしてみたくなりました。
まずは、Gemini先生に無料で使えるRAGを3個紹介してもらいました。
・1. NotebookLM（最も手軽・Google製）
・2. Dify（ディファイ / 最も勉強になる・ノーコード）
・3. LM Studio（ローカル環境・完全無料）
完全無料ってとこにひかれてLM Studio を選定。
試してる環境はこちら。
OS : Windows11 25H2
CPU : i5 8400
RAM : 32GB
GPU : RTX5060
インストールして、途中でモードみたいなの聞かれたので、Developerでインストール。
(Developerを選んだほうがあとでいろいろ設定が変えられるというこでdeveloperを選択)
Gemini先生の言うままに、検索窓から、Shallow-8B.... というのを検索してインストール。
おお。chatgptみたいなことができた!
ただローカルでLLMが使えるようになっただけですが、
今日はここまで。
