プライベートAI
オープンソースのAIモデルを探して、自分のパソコンで実行できます。APIキーもクラウドも利用制限もありません。データを外部に送らず、オフラインで動作し、ずっと無料で使えます。
Ornith-1.5-35B-A3Bは、トークンごとに約3Bのパラメータを有効化する36BのMoEモデルで、コーディングでは規模が10倍のモデルを上回ります。
Ornith-1.5-9Bは、256Kのコンテキスト長を備え、8 GBで動作する9Bのエージェント型コーディングモデルです。GGUFビルドは私たち自身で量子化しました。