Unsloth

Unsloth はオープンソースのモデルファインチューニングとローカル推論のフレームワークで、デスクトップアプリと Unsloth Studio（ブラウザーインターフェース）が付属します。Connections パネルは「モデルプロバイダーの設定」に見えますが、入力できるのはローカルまたは自前のエンドポイントだけで、クラウドプロバイダーは固定のリストです。「任意の OpenAI 互換 URL」という項目はないため、推論リクエストを aicentos に向けることはできません。

直接接続できない理由アンカーリンクをコピー

• Studio の Settings → Connections → Add Provider で選べるのは llama.cpp、vLLM、Ollama のようなローカル／自前のサービスで、入力する Base URL は http://localhost:8000/v1 のような形式です。
• クラウド側は固定のリスト（OpenAI、Anthropic、OpenRouter、ChatGPT/Codex）＋ API キーで、カスタムエンドポイントの入口がありません。
• 公式ドキュメントの「remote OpenAI-compatible endpoint」は自分でデプロイした推論サービスを指し、サードパーティの集約ゲートウェイではありません。
• 役割としてもサーバー側に寄っており、Unsloth 自身が OpenAI 互換 API を外部に提供して、他のアプリから接続される側です。

設定値アンカーリンクをコピー

上の表は aicentos 側の共通パラメーターで、以下の代替手段で使用します。

代替手段アンカーリンクをコピー

代替案 1：学習は学習、チャットはチャットアンカーリンクをコピー

ファインチューニングとローカル推論は Unsloth で行い、日常の会話は Cherry Studio、Chatbox のようなクライアントで aicentos に接続します。両者は互いに干渉しません。

代替案 2：ローカルでサービスを起動し、フロントエンドから接続するアンカーリンクをコピー

Unsloth が公開するのは OpenAI 互換インターフェースです。unsloth サービスをローカルで起動したら、クライアントの Base URL にそのアドレス（例：http://localhost:8000/v1）を入力します。aicentos を入力するのと同じ操作です。

代替案 3：効果を比較したいならフロントエンドを替えるアンカーリンクをコピー

「ローカルでファインチューニングしたモデル」と「aicentos 上の汎用モデル」を比較したい場合は、複数 provider の併存に対応したクライアントを使うのが最も手軽で、同じ画面で切り替えられます。

テストアンカーリンクをコピー

ローカルサービスが起動したら、まず curl http://localhost:8000/v1/models でインターフェースが生きていることを確認し、そのあとクライアントでプロンプトを 1 つ送ります。

注意事項アンカーリンクをコピー

• Studio の Connections を BYOK パネルと勘違いしないでください。ここが管理するのはローカルのランタイムです。
• ローカル推論はハードウェアに依存します。長いコンテキストや大量のバッチ処理は aicentos を使うことをおすすめします。
• 公式ドキュメントには「サードパーティ API で学習データを生成する」手順の説明がありません。この考え方でパイプラインを計画しないでください。

関連リンクアンカーリンクをコピー

• Unsloth Connections ドキュメント
• unsloth リポジトリ