Phi-3 をローカルサーバーに展開することができます。ユーザーは Ollama や LM Studio のソリューションを選ぶか、自分でコードを書くことも可能です。Phi-3 のローカルサービスには Semantic Kernel や Langchain を通じて接続し、Copilot アプリケーションを構築できます。
Copilot アプリケーションでは、Semantic Kernel / LangChain を使ってアプリケーションを作成します。この種のアプリケーションフレームワークは一般的に Azure OpenAI Service / OpenAI モデルと互換性があり、Hugging Face のオープンソースモデルやローカルモデルもサポートできます。Semantic Kernel を使って Phi-3-mini にアクセスしたい場合はどうすればよいでしょうか？.NET を例にすると、Semantic Kernel の Hugging Face Connector と組み合わせて使うことができます。デフォルトでは Hugging Face 上のモデルIDに対応しており（初回使用時は Hugging Face からモデルをダウンロードするため時間がかかります）、ローカルで構築したサービスにも接続可能です。両者を比較すると、特に企業向けアプリケーションでは自律性が高い後者の利用を推奨します。
図からわかるように、Semantic Kernel を通じてローカルサービスにアクセスすることで、自作の Phi-3-mini モデルサーバーに簡単に接続できます。以下は実行結果です。
サンプルコード https://github.com/kinfey/Phi3MiniSamples/tree/main/semantickernel
免責事項：
本書類はAI翻訳サービス「Co-op Translator」を使用して翻訳されました。正確性の向上に努めておりますが、自動翻訳には誤りや不正確な部分が含まれる可能性があります。原文の言語によるオリジナル文書が正式な情報源とみなされるべきです。重要な情報については、専門の人間による翻訳を推奨します。本翻訳の利用により生じたいかなる誤解や誤訳についても、当方は責任を負いかねます。