03.DeployPhi3VisionOnAzure.md

ラボ3 - Azure Machine Learning ServiceでPhi-3-visionをデプロイする

ローカルコードの本番展開をNPUで完了した後、PHI-3-VISIONを導入して画像からコードを生成する機能を追加したいと思います。

この紹介では、Azure Machine Learning Service上でModel As ServiceとしてPhi-3 Visionサービスを素早く構築する方法を説明します。

注記：Phi-3 Visionは高速にコンテンツを生成するために計算リソースが必要です。これを実現するためにクラウドの計算力を活用します。

1. Azure Machine Learning Serviceの作成

AzureポータルでAzure Machine Learning Serviceを作成する必要があります。作成方法については、こちらのリンクをご参照ください https://learn.microsoft.com/azure/machine-learning/quickstart-create-resources?view=azureml-api-2

2. Azure Machine Learning ServiceでPhi-3 Visionを選択する

3. Azure上でPhi-3-Visionをデプロイする

4. Postmanでエンドポイントをテストする

注記

1. 送信するパラメーターにはAuthorization、azureml-model-deployment、Content-Typeが含まれている必要があります。これらはデプロイ情報から確認してください。

2. パラメーターを送信する際、Phi-3-Visionは画像リンクを送る必要があります。パラメーターの送信方法はGPT-4-Visionの方法を参照してください。例えば、

{
  "input_data":{
    "input_string":[
      {
        "role":"user",
        "content":[ 
          {
            "type": "text",
            "text": "You are a Python coding assistant.Please create Python code for image "
          },
          {
              "type": "image_url",
              "image_url": {
                "url": "https://ajaytech.co/wp-content/uploads/2019/09/index.png"
              }
          }
        ]
      }
    ],
    "parameters":{
          "temperature": 0.6,
          "top_p": 0.9,
          "do_sample": false,
          "max_new_tokens": 2048
    }
  }
}

3. Postメソッドで**/score**を呼び出します

おめでとうございます！これでPHI-3-VISIONの高速デプロイが完了し、画像からコードを生成する使い方を試せました。次はNPUとクラウドを組み合わせてアプリケーションを構築していきましょう。

免責事項：
本書類はAI翻訳サービス「Co-op Translator」を使用して翻訳されました。正確性を期しておりますが、自動翻訳には誤りや不正確な部分が含まれる可能性があります。原文の言語によるオリジナル文書が正式な情報源とみなされるべきです。重要な情報については、専門の人間による翻訳を推奨します。本翻訳の利用により生じた誤解や誤訳について、当方は一切の責任を負いかねます。