プライベートAI
オープンソースのAIモデルを探して、自分のパソコンで実行できます。APIキーもクラウドも利用制限もありません。データを外部に送らず、オフラインで動作し、ずっと無料で使えます。
Llama 3.2 3B Instructは、コンテキスト長128KのMetaの3.21B多言語チャットモデルです。4ビットGGUFビルドのファイルサイズは2 GBです。
Llama-3.1-8B-Instructは、128Kのコンテキスト長とツール呼び出しに対応したMetaの8B多言語チャットモデルです。Q4_K_Mビルドのサイズは4.92 GBです。