README.md

Phi Cookbook: Практичні приклади з моделями Phi від Microsoft

Phi — це серія відкритих AI моделей, розроблених Microsoft.

На даний момент Phi — найпотужніша та найефективніша за вартістю мала мовна модель (SLM), що демонструє дуже хороші показники в багатомовності, логічному мисленні, генерації тексту/чатів, кодуванні, обробці зображень, аудіо та інших сценаріях.

Ви можете розгортати Phi у хмарі або на периферійних пристроях, а також легко створювати генеративні AI-застосунки з обмеженими обчислювальними ресурсами.

Виконайте наступні кроки, щоб почати працювати з цим ресурсом:

1. Форкніть репозиторій: Натисніть
2. Склонуйте репозиторій: git clone https://github.com/microsoft/PhiCookBook.git
3. Приєднуйтесь до Microsoft AI Discord спільноти та знайомтесь з експертами і розробниками

🌐 Підтримка багатьох мов

Підтримується через GitHub Actions (автоматично і завжди актуально)

Арабська | Бенгальська | Болгарська | Бірманська (М’янма) | Китайська (спрощена) | Китайська (традиційна, Гонконг) | Китайська (традиційна, Макао) | Китайська (традиційна, Тайвань) | Хорватська | Чеська | Данська | Нідерландська | Естонська | Фінська | Французька | Німецька | Грецька | Іврит | Гінді | Угорська | Індонезійська | Італійська | Японська | Каннада | Корейська | Литовська | Малайська | Малаялам | Маратхі | Непальська | Нігерійський пиджин | Норвезька | Перська (фарсі) | Польська | Португальська (Бразилія) | Португальська (Португалія) | Панджабі (гурмухі) | Румунська | Російська | Сербська (кирилиця) | Словацька | Словенська | Іспанська | Суахілі | Шведська | Тагалог (філіппінська) | Тамільська | Телугу | Тайська | Турецька | Українська | Урду | В’єтнамська

Віддаєте перевагу локальному клонуванню?

Цей репозиторій містить понад 50 мовних перекладів, що значно збільшує розмір завантаження. Щоб клонувати без перекладів, використовуйте sparse checkout:

Bash / macOS / Linux:

git clone --filter=blob:none --sparse https://github.com/microsoft/PhiCookBook.git
cd PhiCookBook
git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'

CMD (Windows):

git clone --filter=blob:none --sparse https://github.com/microsoft/PhiCookBook.git
cd PhiCookBook
git sparse-checkout set --no-cone "/*" "!translations" "!translated_images"

Це дасть вам все необхідне для проходження курсу з набагато швидшим завантаженням.

Зміст

• Вступ

  • Ласкаво просимо до родини Phi
  • Налаштування середовища
  • Розуміння ключових технологій
  • Безпека AI для моделей Phi
  • Підтримка апаратного забезпечення Phi
  • Моделі Phi та їх доступність на різних платформах
  • Використання Guidance-ai та Phi
  • Моделі на GitHub Marketplace
  • Каталог моделей Azure AI

• Інференс Phi в різних середовищах

  • Hugging face
  • Моделі GitHub
  • Каталог моделей Azure AI Foundry
  • Ollama
  • AI Toolkit для VSCode (AITK)
  • NVIDIA NIM
  • Foundry Local

• Інференс родини Phi

  • Інференс Phi в iOS
  • Інференс Phi в Android
  • Інференс Phi в Jetson
  • Інференс Phi в AI ПК
  • Інференс Phi з використанням Apple MLX Framework
  • Інференс Phi на локальному сервері
  • Інференс Phi на віддаленому сервері з AI Toolkit
  • Інференс Phi з Rust
  • Інференс Phi — Vision локально
  • Інференс Phi з Kaito AKS, Azure Containers (офіційна підтримка)

• Квантизація родини Phi

  • Квантизація Phi-3.5 / 4 за допомогою llama.cpp
  • Квантизація Phi-3.5 / 4 з розширеннями генеративного AI для onnxruntime
  • Квантизація Phi-3.5 / 4 з Intel OpenVINO
  • Квантизація Phi-3.5 / 4 з Apple MLX Framework

• Оцінка Phi

  • Відповідальний AI
  • Azure AI Foundry для оцінки
  • Використання Promptflow для оцінки

• RAG з Azure AI Search

  • Як використовувати Phi-4-mini і Phi-4-мультимодальну (RAG) з Azure AI Search

• Приклади розробки застосунків Phi

  • Текстові та чат-застосунки

    • Phi-4 Зразки 🆕
      • [📓] Чат з Phi-4-mini ONNX моделлю
      • Чат з локальною Phi-4 ONNX моделлю .NET
      • Консольний чат .NET з Phi-4 ONNX за допомогою Semantic Kernel
    • Phi-3 / 3.5 Приклади
      • Локальний чатбот у браузері з використанням Phi3, ONNX Runtime Web та WebGPU
      • OpenVino Чат
      • Мульти-модель – Інтерактивний Phi-3-mini та OpenAI Whisper
      • MLFlow – Створення оболонки та використання Phi-3 з MLFlow
      • Оптимізація моделі – Як оптимізувати модель Phi-3-min для ONNX Runtime Web з Olive
      • WinUI3 додаток з Phi-3 mini-4k-instruct-onnx -WinUI3 Мульти-Модель AI-Привеликий додаток для нотаток з прикладом
      • Тонке налаштування та інтеграція кастомних моделей Phi-3 з Prompt flow
      • Тонке налаштування та інтеграція кастомних моделей Phi-3 з Prompt flow в Azure AI Foundry
      • Оцінка тонко налаштованої моделі Phi-3 / Phi-3.5 в Azure AI Foundry з акцентом на принципи відповідального ШІ Microsoft
      • [📓] Phi-3.5-mini-instruct зразок прогнозування мови (китайська/англійська)
      • Phi-3.5-Instruct WebGPU RAG Чатбот
      • Використання Windows GPU для створення рішення Prompt flow з Phi-3.5-Instruct ONNX
      • Використання Microsoft Phi-3.5 tflite для створення Android додатку
      • Q&A .NET приклад із використанням локальної ONNX моделі Phi-3 через Microsoft.ML.OnnxRuntime
      • Консольний чат .NET додаток з Semantic Kernel та Phi-3

  • Приклади коду Azure AI Inference SDK

    • Приклади Phi-4 🆕
      • [📓] Генерація проектного коду з Phi-4-multimodal
    • Приклади Phi-3 / 3.5
      • Створіть свій власний чат GitHub Copilot для Visual Studio Code з Microsoft Phi-3 Family
      • Створіть свого власного агента чату GitHub Copilot для Visual Studio Code з Phi-3.5 від GitHub Models

  • Приклади розширеного мислення

    • Приклади Phi-4 🆕
      • [📓] Приклади логіки Phi-4-mini-reasoning або Phi-4-reasoning
      • [📓] Тонке налаштування Phi-4-mini-reasoning з Microsoft Olive
      • [📓] Тонке налаштування Phi-4-mini-reasoning з Apple MLX
      • [📓] Phi-4-mini-reasoning з GitHub Models
      • [📓] Phi-4-mini-reasoning з Azure AI Foundry Models

  • Демонстрації

    • Phi-4-mini демонстрації на Hugging Face Spaces
    • Phi-4-multimodal демонстрації на Hugginge Face Spaces

  • Приклади зору

    • Приклади Phi-4 🆕
      • [📓] Використайте Phi-4-multimodal для читання зображень та генерації коду
    • Приклади Phi-3 / 3.5
      • [📓]Phi-3-vision-Текст зображення до тексту
      • Phi-3-vision-ONNX
      • [📓]Phi-3-vision CLIP Embedding
      • ДЕМО: Phi-3 Переробка
      • Phi-3-vision – Візуальний мовний асистент – з Phi3-Vision та OpenVINO
      • Phi-3 Vision Nvidia NIM
      • Phi-3 Vision OpenVino
      • [📓]Phi-3.5 Vision мульти-кадр або мульти-зображення зразок
      • Phi-3 Vision Локальна ONNX модель за допомогою Microsoft.ML.OnnxRuntime .NET
      • Меню-орієнтована Phi-3 Vision Локальна ONNX модель за допомогою Microsoft.ML.OnnxRuntime .NET

  • Приклади з математики

    • Phi-4-Mini-Flash-Reasoning-Instruct приклади 🆕 Демонстрація математики з Phi-4-Mini-Flash-Reasoning-Instruct

  • Приклади аудіо

    • Приклади Phi-4 🆕
      • [📓] Витяг аудіо транскриптів за допомогою Phi-4-multimodal
      • [📓] Phi-4-multimodal аудіо зразок
      • [📓] Phi-4-multimodal зразок перекладу мови
      • .NET консольний додаток з використанням Phi-4-multimodal Audio для аналізу аудіо файлу та генерації транскрипту

  • Приклади MOE

    • Приклади Phi-3 / 3.5
      • [📓] Phi-3.5 Моделі Суміші Експертів (MoEs) зразок для соціальних мереж
      • [📓] Створення ланцюга генерації з доповненням пошуку (RAG) з NVIDIA NIM Phi-3 MOE, Azure AI Search та LlamaIndex

  • Приклади Function Calling

    • Приклади Phi-4 🆕
      • [📓] Використання виклику функцій з Phi-4-mini
      • [📓] Використання виклику функцій для створення мульти-агентів з Phi-4-mini
      • [📓] Використання виклику функцій з Ollama
      • [📓] Використання виклику функцій з ONNX

  • Приклади Мульти-модального змішування

    • Приклади Phi-4 🆕
      • [📓] Використання Phi-4-multimodal як технологічного журналіста
      • .NET консольний додаток, що використовує Phi-4-multimodal для аналізу зображень

• Тонке налаштування Phi прикладів

  • Сценарії тонкого налаштування
  • Тонке налаштування проти RAG
  • Тонке налаштування: Дайте Phi-3 стати експертом галузі
  • Тонке налаштування Phi-3 з AI Toolkit для VS Code
  • Тонке налаштування Phi-3 з Azure Machine Learning Service
  • Тонке налаштування Phi-3 з Lora
  • Тонке налаштування Phi-3 з QLora
  • Тонке налаштування Phi-3 з Azure AI Foundry
  • Тонке налаштування Phi-3 з Azure ML CLI/SDK
  • Тонке налаштування з Microsoft Olive
  • Лабораторна робота з Microsoft Olive для тонкого налаштування
  • Тонке налаштування Phi-3-vision з Weights and Bias
  • Тонке налаштування Phi-3 з Apple MLX Framework
  • Тонке налаштування Phi-3-vision (офіційна підтримка)
  • Тонке налаштування Phi-3 з Kaito AKS, Azure Containers (офіційна підтримка)
  • Тонке налаштування Phi-3 та 3.5 Vision

• Лабораторна робота

  • Дослідження передових моделей: LLM, SLM, локальна розробка та інше
  • Розкриття потенціалу NLP: Тонке налаштування з Microsoft Olive

• Академічні наукові роботи та публікації

  • Тільки підручники: технічний звіт phi-1.5
  • Технічний звіт Phi-3: Надзвичайно здатна мовна модель локально на вашому телефоні
  • Технічний звіт Phi-4
  • Технічний звіт Phi-4-Mini: Компактні, але потужні мультимодальні мовні моделі через Mixture-of-LoRAs
  • Оптимізація малих мовних моделей для виклику функцій у транспортних засобах
  • (WhyPHI) Тонке налаштування PHI-3 для мультиваріантних питань: методологія, результати та виклики
  • Технічний звіт Phi-4-reasoning
  • Технічний звіт Phi-4-mini-reasoning

Використання моделей Phi

Phi на Azure AI Foundry

Ви можете дізнатися, як використовувати Microsoft Phi та як будувати E2E рішення на ваших різних апаратних пристроях. Щоб самому випробувати Phi, почніть гратися з моделями та налаштовувати Phi для своїх сценаріїв за допомогою Azure AI Foundry Azure AI Model Catalog. Більше інформації можна знайти в розділі Початок роботи з Azure AI Foundry

Пісочниця Кожна модель має виділену пісочницю для тестування моделі Azure AI Playground.

Phi на GitHub Models

Ви можете дізнатися, як використовувати Microsoft Phi та як будувати E2E рішення на ваших різних апаратних пристроях. Щоб самому випробувати Phi, почніть гратися з моделлю та налаштовувати Phi для своїх сценаріїв за допомогою GitHub Model Catalog. Більше інформації можна знайти в розділі Початок роботи з GitHub Model Catalog

Пісочниця Кожна модель має виділену пісочницю для тестування моделі.

Phi на Hugging Face

Ви також можете знайти модель на Hugging Face

Пісочниця Hugging Chat playground

🎒 Інші курси

Наша команда створює й інші курси! Перегляньте:

LangChain

Azure / Edge / MCP / Agents

---

Серія Generative AI

---

Основне навчання

---

Серія Copilot

Відповідальний ШІ

Microsoft прагне допомагати нашим клієнтам відповідально використовувати наші AI продукти, ділитися власним досвідом і будувати партнерство на довірі за допомогою інструментів, таких як Transparency Notes та Impact Assessments. Багато з цих ресурсів можна знайти на https://aka.ms/RAI.
Підхід Microsoft до відповідального ШІ базується на наших принципах ШІ: справедливість, надійність і безпека, конфіденційність і безпека, інклюзивність, прозорість і підзвітність.

Великі природні мовні, зображувальні та мовні моделі – такі, як ті, що використовуються в цьому прикладі – потенційно можуть поводитись несправедливо, ненадійно або образливо, що може спричиняти шкоду. Будь ласка, ознайомтеся з Azure OpenAI service Transparency note, щоб дізнатися про ризики та обмеження.

Рекомендований підхід для пом’якшення цих ризиків полягає у включенні безпекової системи у вашу архітектуру, яка зможе виявляти та запобігати шкідливій поведінці. Azure AI Content Safety забезпечує незалежний рівень захисту, здатний виявляти шкідливий контент, створений користувачами та ШІ, у додатках і службах. Azure AI Content Safety включає API для тексту та зображень, які дозволяють виявляти шкідливі матеріали. В Azure AI Foundry сервіс Content Safety дозволяє переглядати, досліджувати та випробовувати приклади коду для виявлення шкідливого контенту у різних модальностях. Наступна документація для швидкого старту проведе вас через процес запитів до сервісу. Ще одним аспектом, який слід враховувати, є загальна продуктивність застосунку. У випадку мультимодальних і мультимодельних застосунків під продуктивністю розуміють те, що система працює так, як ви та ваші користувачі очікуєте, включно з відсутністю шкідливих результатів. Важливо оцінити продуктивність вашого загального застосунку, використовуючи Оцінювачі продуктивності, якості, ризиків і безпеки. Ви також маєте можливість створювати та оцінювати з індивідуальними оцінювачами.

Ви можете оцінити ваш AI-застосунок у середовищі розробки, використовуючи Azure AI Evaluation SDK. Маючи тестовий набір даних або ціль, генерації вашого генеративного AI застосунку кількісно вимірюються вбудованими або вибраними кастомними оцінювачами. Щоб розпочати роботу з azure ai evaluation sdk для оцінки вашої системи, ви можете скористатися керівництвом зі швидкого старту. Після виконання оцінки ви можете візуалізувати результати в Azure AI Foundry.

Торгові марки

Цей проект може містити торгові марки або логотипи проектів, продуктів чи послуг. Авторизоване використання торгових марок або логотипів Microsoft підлягає та має відповідати Керівництву Microsoft щодо торгових марок і брендів. Використання торгових марок або логотипів Microsoft у змінених версіях цього проекту не повинно спричиняти плутанину або створювати враження спонсорства Microsoft. Використання торгових марок або логотипів третіх сторін підпорядковується політикам цих третіх сторін.

Отримання допомоги

Якщо у вас виникли труднощі або питання щодо створення AI-застосунків, приєднуйтесь до:

Якщо у вас є відгуки про продукт або помилки під час створення, відвідайте:

---

Відмова від відповідальності:
Цей документ було перекладено за допомогою сервісу автоматичного перекладу Co-op Translator. Хоча ми прагнемо до точності, будь ласка, майте на увазі, що автоматичні переклади можуть містити помилки або неточності. Оригінальний документ рідною мовою слід розглядати як авторитетне джерело. Для критично важливої інформації рекомендується звертатися до професійного людського перекладу. Ми не несемо відповідальності за будь-які непорозуміння або неправильне тлумачення, що виникли внаслідок використання цього перекладу.