プライベートAI
オープンソースのAIモデルを探して、自分のパソコンで実行できます。APIキーもクラウドも利用制限もありません。データを外部に送らず、オフラインで動作し、ずっと無料で使えます。
Mistral-7B-Instruct-v0.2は、コンテキスト長32Kの指示チューニング済み7Bモデルです。必要なハードウェア、GGUFビルド、ローカルでのセットアップ方法を紹介します。