README.md

Phi Cookbook: Ví dụ Thực hành với các Mô hình Phi của Microsoft

Phi là một chuỗi các mô hình AI mã nguồn mở phát triển bởi Microsoft.

Phi hiện tại là mô hình ngôn ngữ nhỏ (SLM) mạnh mẽ và tiết kiệm chi phí nhất, với các điểm chuẩn rất tốt trong đa ngôn ngữ, lập luận, tạo văn bản/chat, lập trình, hình ảnh, âm thanh và nhiều kịch bản khác.

Bạn có thể triển khai Phi lên đám mây hoặc thiết bị biên, và bạn có thể dễ dàng xây dựng các ứng dụng AI tạo sinh với công suất tính toán hạn chế.

Làm theo các bước sau để bắt đầu sử dụng các tài nguyên này:

1. Tạo fork kho lưu trữ: Nhấn
2. Sao chép kho lưu trữ: git clone https://github.com/microsoft/PhiCookBook.git
3. Tham gia cộng đồng Microsoft AI Discord và gặp gỡ chuyên gia và các nhà phát triển đồng hành

🌐 Hỗ trợ Đa Ngôn ngữ

Hỗ trợ qua GitHub Action (Tự động & Luôn cập nhật)

Tiếng Ả Rập | Tiếng Bengal | Tiếng Bungari | Tiếng Miến Điện (Myanmar) | Tiếng Trung (Giản thể) | Tiếng Trung (Phồn thể, Hồng Kông) | Tiếng Trung (Phồn thể, Macau) | Tiếng Trung (Phồn thể, Đài Loan) | Tiếng Croatia | Tiếng Séc | Tiếng Đan Mạch | Tiếng Hà Lan | Tiếng Estonia | Tiếng Phần Lan | Tiếng Pháp | Tiếng Đức | Tiếng Hy Lạp | Tiếng Do Thái | Tiếng Hindi | Tiếng Hungary | Tiếng Indonesia | Tiếng Ý | Tiếng Nhật | Tiếng Kannada | Tiếng Hàn | Tiếng Litva | Tiếng Mã Lai | Tiếng Malayalam | Tiếng Marathi | Tiếng Nepal | Tiếng Pidgin Nigeria | Tiếng Na Uy | Tiếng Ba Tư (Farsi) | Tiếng Ba Lan | Tiếng Bồ Đào Nha (Brazil) | Tiếng Bồ Đào Nha (Bồ Đào Nha) | Tiếng Punjabi (Gurmukhi) | Tiếng Romania | Tiếng Nga | Tiếng Serbia (Chữ Cyrillic) | Tiếng Slovakia | Tiếng Slovenia | Tiếng Tây Ban Nha | Tiếng Swahili | Tiếng Thụy Điển | Tiếng Tagalog (Filipino) | Tiếng Tamil | Tiếng Telugu | Tiếng Thái | Tiếng Thổ Nhĩ Kỳ | Tiếng Ukraina | Tiếng Urdu | Tiếng Việt

Thích sao chép local?

Kho lưu trữ này bao gồm hơn 50 bản dịch ngôn ngữ làm tăng đáng kể kích thước tải về. Để sao chép mà không có bản dịch, sử dụng sparse checkout:

Bash / macOS / Linux:

git clone --filter=blob:none --sparse https://github.com/microsoft/PhiCookBook.git
cd PhiCookBook
git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'

CMD (Windows):

git clone --filter=blob:none --sparse https://github.com/microsoft/PhiCookBook.git
cd PhiCookBook
git sparse-checkout set --no-cone "/*" "!translations" "!translated_images"

Điều này cung cấp cho bạn mọi thứ cần thiết để hoàn thành khóa học với tốc độ tải nhanh hơn nhiều.

Mục Lục

• Giới thiệu

  • Chào mừng đến với Gia đình Phi
  • Thiết lập môi trường của bạn
  • Hiểu các Công nghệ Chính
  • An toàn AI cho các Mô hình Phi
  • Hỗ trợ phần cứng Phi
  • Mô hình Phi & Khả dụng trên các nền tảng
  • Sử dụng Guidance-ai và Phi
  • Mô hình trên GitHub Marketplace
  • Danh mục Mô hình Azure AI

• Phân tích Phi trong các môi trường khác nhau

  • Hugging face
  • Mô hình GitHub
  • Danh mục Azure AI Foundry
  • Ollama
  • AI Toolkit VSCode (AITK)
  • NVIDIA NIM
  • Foundry Local

• Phân tích Phi Family

  • Phân tích Phi trên iOS
  • Phân tích Phi trên Android
  • Phân tích Phi trên Jetson
  • Phân tích Phi trên AI PC
  • Phân tích Phi với Apple MLX Framework
  • Phân tích Phi trên Server Local
  • Phân tích Phi trên Server từ xa sử dụng AI Toolkit
  • Phân tích Phi với Rust
  • Phân tích Phi--Vision trên Local
  • Phân tích Phi với Kaito AKS, Azure Containers (hỗ trợ chính thức)

• Lượng tử hóa Phi Family

  • Lượng tử hóa Phi-3.5 / 4 sử dụng llama.cpp
  • Lượng tử hóa Phi-3.5 / 4 sử dụng các tiện ích mở rộng Generative AI cho onnxruntime
  • Lượng tử hóa Phi-3.5 / 4 sử dụng Intel OpenVINO
  • Lượng tử hóa Phi-3.5 / 4 sử dụng Apple MLX Framework

• Đánh giá Phi

  • AI có trách nhiệm
  • Azure AI Foundry cho Đánh giá
  • Sử dụng Promptflow cho Đánh giá

• RAG với Azure AI Search

  • Cách sử dụng Phi-4-mini và Phi-4-multimodal(RAG) với Azure AI Search

• Ví dụ phát triển ứng dụng Phi

  • Ứng dụng Văn bản & Chat

    • Ví dụ Phi-4 🆕
      • [📓] Chat với Mô hình Phi-4-mini ONNX
      • Chat với Mô hình ONNX Phi-4 local .NET
      • Chat ứng dụng Console .NET với Phi-4 ONNX bằng Semantic Kernel
    • Ví dụ Phi-3 / 3.5
      • Chatbot local trong trình duyệt sử dụng Phi3, ONNX Runtime Web và WebGPU
      • OpenVino Chat
      • Mô hình đa năng - Phi-3-mini tương tác và OpenAI Whisper
      • MLFlow - Xây dựng wrapper và sử dụng Phi-3 với MLFlow
      • Tối ưu hóa mô hình - Cách tối ưu hóa mô hình Phi-3-min cho ONNX Runtime Web với Olive
      • Ứng dụng WinUI3 với Phi-3 mini-4k-instruct-onnx -Mẫu ứng dụng ghi chú đa mô hình hỗ trợ AI WinUI3
      • Điều chỉnh tinh và tích hợp các mô hình Phi-3 tùy chỉnh với Prompt flow
      • Điều chỉnh tinh và tích hợp các mô hình Phi-3 tùy chỉnh với Prompt flow trong Azure AI Foundry
      • Đánh giá mô hình Phi-3 / Phi-3.5 đã được điều chỉnh trong Azure AI Foundry tập trung vào Nguyên tắc AI có Trách nhiệm của Microsoft
      • [📓] Mẫu dự đoán ngôn ngữ Phi-3.5-mini-instruct (Tiếng Trung/Anh)
      • Phi-3.5-Instruct WebGPU RAG Chatbot
      • Sử dụng GPU Windows để tạo giải pháp Prompt flow với Phi-3.5-Instruct ONNX
      • Sử dụng Microsoft Phi-3.5 tflite để tạo ứng dụng Android
      • Ví dụ Q&A .NET sử dụng mô hình ONNX Phi-3 cục bộ với Microsoft.ML.OnnxRuntime
      • Ứng dụng chat console .NET với Semantic Kernel và Phi-3

  • Mẫu SDK Dự đoán Azure AI dựa trên Code

    • Mẫu Phi-4 🆕
      • [📓] Sinh mã dự án sử dụng Phi-4-multimodal
    • Mẫu Phi-3 / 3.5
      • Xây dựng Chat GitHub Copilot Visual Studio Code riêng của bạn với Gia đình Microsoft Phi-3
      • Tạo đại lý Chat Copilot riêng trên Visual Studio Code với Phi-3.5 bằng Mô hình GitHub

  • Mẫu Lý luận nâng cao

    • Mẫu Phi-4 🆕
      • [📓] Mẫu lý luận Phi-4-mini hoặc Phi-4
      • [📓] Điều chỉnh tinh Phi-4-mini-lý luận với Microsoft Olive
      • [📓] Điều chỉnh tinh Phi-4-mini-lý luận với Apple MLX
      • [📓] Phi-4-mini-lý luận với các mô hình GitHub
      • [📓] Phi-4-mini-lý luận với các mô hình Azure AI Foundry

  • Mẫu trình diễn

    • Mẫu trình diễn Phi-4-mini được lưu trữ trên Hugging Face Spaces
    • Mẫu trình diễn Phi-4-multimodal được lưu trữ trên Hugging Face Spaces

  • Mẫu thị giác

    • Mẫu Phi-4 🆕
      • [📓] Sử dụng Phi-4-multimodal để đọc hình ảnh và tạo mã
    • Mẫu Phi-3 / 3.5
      • [📓]Phi-3-thị giác - Chuyển văn bản trong hình sang văn bản
      • Phi-3-thị giác-ONNX
      • [📓]Phi-3-thị giác nhúng CLIP
      • TRÌNH DIỄN: Tái chế Phi-3
      • Phi-3-thị giác - Trợ lý ngôn ngữ trực quan - với Phi3-Thị giác và OpenVINO
      • Phi-3 Thị giác Nvidia NIM
      • Phi-3 Thị giác OpenVino
      • [📓]Mẫu Phi-3.5 Thị giác đa khung hoặc đa hình ảnh
      • Mô hình cục bộ Phi-3 Thị giác ONNX sử dụng Microsoft.ML.OnnxRuntime .NET
      • Mô hình cục bộ Phi-3 Thị giác ONNX dựa trên menu sử dụng Microsoft.ML.OnnxRuntime .NET

  • Mẫu Toán học

    • Mẫu Phi-4-Mini-Flash-Reasoning-Instruct 🆕 Trình diễn Toán học với Phi-4-Mini-Flash-Reasoning-Instruct

  • Mẫu Âm thanh

    • Mẫu Phi-4 🆕
      • [📓] Trích xuất phụ đề âm thanh sử dụng Phi-4-multimodal
      • [📓] Mẫu âm thanh Phi-4-multimodal
      • [📓] Mẫu dịch thuật phát biểu Phi-4-multimodal
      • Ứng dụng console .NET sử dụng Phi-4-multimodal Âm thanh để phân tích tệp âm thanh và tạo phụ đề

  • Mẫu MOE

    • Mẫu Phi-3 / 3.5
      • [📓] Mẫu Mô hình Hỗn hợp chuyên gia Phi-3.5 (MoEs) trên Mạng xã hội
      • [📓] Xây dựng Chuỗi xử lý Tăng cường Truy xuất (RAG) với NVIDIA NIM Phi-3 MOE, Azure AI Search và LlamaIndex

  • Mẫu Gọi hàm

    • Mẫu Phi-4 🆕
      • [📓] Sử dụng Gọi hàm với Phi-4-mini
      • [📓] Sử dụng Gọi hàm để tạo đa đại lý với Phi-4-mini
      • [📓] Sử dụng Gọi hàm với Ollama
      • [📓] Sử dụng Gọi hàm với ONNX

  • Mẫu trộn đa phương thức

    • Mẫu Phi-4 🆕
      • [📓] Sử dụng Phi-4-multimodal như một nhà báo công nghệ
      • Ứng dụng console .NET sử dụng Phi-4-multimodal để phân tích hình ảnh

• Tinh chỉnh Phi

  • Các kịch bản tinh chỉnh
  • Tinh chỉnh vs RAG
  • Tinh chỉnh để Phi-3 trở thành chuyên gia ngành
  • Tinh chỉnh Phi-3 với AI Toolkit cho VS Code
  • Tinh chỉnh Phi-3 với Azure Machine Learning Service
  • Tinh chỉnh Phi-3 với Lora
  • Tinh chỉnh Phi-3 với QLora
  • Tinh chỉnh Phi-3 với Azure AI Foundry
  • Tinh chỉnh Phi-3 với Azure ML CLI/SDK
  • Tinh chỉnh với Microsoft Olive
  • Phòng lab thực hành tinh chỉnh với Microsoft Olive
  • Tinh chỉnh Phi-3-thị giác với Weights and Bias
  • Tinh chỉnh Phi-3 với Apple MLX Framework
  • Tinh chỉnh Phi-3-thị giác (hỗ trợ chính thức)
  • Tinh chỉnh Phi-3 với Kaito AKS, bộ chứa Azure (hỗ trợ chính thức)
  • Tinh chỉnh Phi-3 và Phi-3.5 Thị giác

• Phòng lab thực hành

  • Khám phá các mô hình tiên tiến: LLMs, SLMs, phát triển cục bộ và hơn thế nữa
  • Khai phá tiềm năng NLP: Tinh chỉnh với Microsoft Olive

• Các bài báo nghiên cứu học thuật và công bố

  • Sách giáo khoa Là tất cả những gì bạn cần II: báo cáo kỹ thuật phi-1.5
  • Báo cáo kỹ thuật Phi-3: Mô hình ngôn ngữ có năng lực cao chạy cục bộ trên điện thoại của bạn
  • Báo cáo kỹ thuật Phi-4
  • Báo cáo kỹ thuật Phi-4-Mini: Mô hình ngôn ngữ đa phương tiện gọn nhẹ nhưng mạnh mẽ qua Mixture-of-LoRAs
  • Tối ưu hóa mô hình ngôn ngữ nhỏ cho gọi hàm chức năng trực tiếp trên xe
  • (WhyPHI) Điều chỉnh tinh chỉnh PHI-3 cho trả lời câu hỏi lựa chọn nhiều: Phương pháp luận, Kết quả và Thách thức
  • Báo cáo kỹ thuật Phi-4-lý luận
  • Báo cáo kỹ thuật Phi-4-mini-lý luận

Sử dụng Các Mô hình Phi

Phi trên Azure AI Foundry

Bạn có thể học cách sử dụng Microsoft Phi và cách xây dựng các giải pháp E2E trên các thiết bị phần cứng khác nhau của bạn. Để trải nghiệm Phi cho riêng bạn, hãy bắt đầu bằng cách thử nghiệm với các mô hình và tùy chỉnh Phi cho các kịch bản của bạn bằng cách sử dụng Thư viện Mô hình Azure AI Foundry bạn có thể tìm hiểu thêm tại Bắt đầu với Azure AI Foundry

Sân chơi Mỗi mô hình có một sân chơi riêng để thử nghiệm mô hình Azure AI Playground.

Phi trên GitHub Models

Bạn có thể học cách sử dụng Microsoft Phi và cách xây dựng các giải pháp E2E trên các thiết bị phần cứng khác nhau của bạn. Để trải nghiệm Phi cho riêng bạn, hãy bắt đầu bằng cách thử nghiệm với các mô hình và tùy chỉnh Phi cho các kịch bản của bạn bằng Thư viện Mô hình GitHub bạn có thể tìm hiểu thêm tại Bắt đầu với Thư viện Mô hình GitHub

Sân chơi Mỗi mô hình có một sân chơi riêng để thử nghiệm mô hình.

Phi trên Hugging Face

Bạn cũng có thể tìm thấy mô hình trên Hugging Face

Sân chơi Sân chơi Hugging Chat

🎒 Các Khóa học khác

Nhóm chúng tôi sản xuất các khóa học khác! Hãy xem:

LangChain

Azure / Edge / MCP / Agents

---

Chuỗi AI Tạo sinh

---

Học Core

---

Chuỗi Copilot

Trách nhiệm AI

Microsoft cam kết giúp khách hàng của chúng tôi sử dụng các sản phẩm AI một cách có trách nhiệm, chia sẻ những bài học của chúng tôi, và xây dựng các quan hệ đối tác dựa trên sự tin tưởng thông qua các công cụ như Ghi chú Minh bạch và Đánh giá Tác động. Nhiều tài nguyên này có thể được tìm thấy tại https://aka.ms/RAI. Cách tiếp cận của Microsoft về AI có trách nhiệm dựa trên các nguyên tắc AI của chúng tôi bao gồm công bằng, độ tin cậy và an toàn, quyền riêng tư và bảo mật, tính bao trùm, minh bạch và trách nhiệm giải trình.

Các mô hình ngôn ngữ, hình ảnh và giọng nói quy mô lớn - như các mô hình được sử dụng trong ví dụ này - có thể có hành vi không công bằng, không đáng tin cậy hoặc gây xúc phạm, từ đó gây ra những tổn hại. Vui lòng tham khảo Ghi chú Minh bạch dịch vụ Azure OpenAI để được thông tin về các rủi ro và giới hạn.

Cách khuyến nghị để giảm thiểu các rủi ro này là bao gồm một hệ thống an toàn trong kiến trúc của bạn có thể phát hiện và ngăn ngừa hành vi có hại. Azure AI Content Safety cung cấp một lớp bảo vệ độc lập, có thể phát hiện nội dung do người dùng và AI tạo ra có hại trong các ứng dụng và dịch vụ. Azure AI Content Safety bao gồm các API văn bản và hình ảnh cho phép bạn phát hiện các tài liệu có tính chất gây hại. Trong Azure AI Foundry, dịch vụ Content Safety cho phép bạn xem, khám phá và thử nghiệm mã mẫu để phát hiện nội dung có hại qua các phương thức khác nhau. Tài liệu quickstart sau đây hướng dẫn bạn cách gửi yêu cầu tới dịch vụ. Một khía cạnh khác cần xem xét là hiệu suất tổng thể của ứng dụng. Với các ứng dụng đa phương thức và đa mô hình, chúng tôi xem hiệu suất là hệ thống hoạt động như bạn và người dùng mong đợi, bao gồm cả việc không tạo ra các kết quả có hại. Việc đánh giá hiệu suất của toàn bộ ứng dụng của bạn bằng cách sử dụng Performance and Quality and Risk and Safety evaluators là rất quan trọng. Bạn cũng có khả năng tạo và đánh giá với custom evaluators.

Bạn có thể đánh giá ứng dụng AI của mình trong môi trường phát triển bằng cách sử dụng Azure AI Evaluation SDK. Với một bộ dữ liệu kiểm tra hoặc một mục tiêu, các thế hệ AI sinh của bạn được đo lường định lượng thông qua các trình đánh giá tích hợp sẵn hoặc các trình đánh giá tùy chỉnh do bạn chọn. Để bắt đầu với azure ai evaluation sdk đánh giá hệ thống của bạn, bạn có thể làm theo hướng dẫn nhanh. Khi bạn thực hiện một lần chạy đánh giá, bạn có thể trực quan hóa kết quả trong Azure AI Foundry.

Nhãn hiệu thương mại

Dự án này có thể chứa nhãn hiệu hoặc logo của các dự án, sản phẩm hoặc dịch vụ. Việc sử dụng hợp pháp nhãn hiệu hoặc logo của Microsoft phải tuân thủ Chính sách Nhãn hiệu & Thương hiệu của Microsoft. Việc sử dụng nhãn hiệu hoặc logo của Microsoft trong các phiên bản đã chỉnh sửa của dự án này không được gây nhầm lẫn hoặc ngụ ý có sự tài trợ từ Microsoft. Bất kỳ việc sử dụng nhãn hiệu hoặc logo của bên thứ ba nào đều phải tuân theo chính sách của bên thứ ba đó.

Nhận trợ giúp

Nếu bạn gặp khó khăn hoặc có câu hỏi về việc xây dựng ứng dụng AI, hãy tham gia:

Nếu bạn có phản hồi về sản phẩm hoặc lỗi trong quá trình xây dựng, hãy truy cập:

---

Tuyên bố từ chối trách nhiệm:
Tài liệu này đã được dịch bằng dịch vụ dịch thuật AI Co-op Translator. Mặc dù chúng tôi nỗ lực đảm bảo độ chính xác, xin lưu ý rằng bản dịch tự động có thể chứa lỗi hoặc sai sót. Văn bản gốc bằng ngôn ngữ gốc của tài liệu được coi là nguồn thông tin chính xác và đáng tin cậy. Đối với các thông tin quan trọng, nên sử dụng dịch thuật chuyên nghiệp bởi con người. Chúng tôi không chịu trách nhiệm về bất kỳ hiểu lầm hoặc diễn giải sai nào phát sinh từ việc sử dụng bản dịch này.