README.md

Phi Cookbook: Microsoft의 Phi 모델을 활용한 실습 예제

Phi는 Microsoft에서 개발한 일련의 오픈 소스 AI 모델입니다.

Phi는 현재 가장 강력하고 비용 효율적인 소형 언어 모델(SLM)로, 다국어, 추론, 텍스트/채팅 생성, 코딩, 이미지, 오디오 및 기타 시나리오에서 매우 우수한 벤치마크를 보유하고 있습니다.

Phi는 클라우드나 엣지 장치에 배포할 수 있으며, 제한된 컴퓨팅 파워로도 생성 AI 애플리케이션을 쉽게 구축할 수 있습니다.

이 리소스를 사용하기 시작하려면 다음 단계를 따르세요:

1. 저장소 포크하기: 클릭
2. 저장소 복제하기: git clone https://github.com/microsoft/PhiCookBook.git
3. Microsoft AI Discord 커뮤니티에 참여하여 전문가 및 동료 개발자 만나기

🌐 다국어 지원

GitHub Action을 통한 지원 (자동화 및 항상 최신 상태 유지)

아랍어 | 벵골어 | 불가리아어 | 버마어 (미얀마) | 중국어 (간체) | 중국어 (번체, 홍콩) | 중국어 (번체, 마카오) | 중국어 (번체, 대만) | 크로아티아어 | 체코어 | 덴마크어 | 네덜란드어 | 에스토니아어 | 핀란드어 | 프랑스어 | 독일어 | 그리스어 | 히브리어 | 힌디어 | 헝가리어 | 인도네시아어 | 이탈리아어 | 일본어 | 칸나다어 | 한국어 | 리투아니아어 | 말레이어 | 말라얄람어 | 마라티어 | 네팔어 | 나이지리아 피진어 | 노르웨이어 | 페르시아어 (파르시) | 폴란드어 | 포르투갈어 (브라질) | 포르투갈어 (포르투갈) | 펀자브어 (구르무키) | 루마니아어 | 러시아어 | 세르비아어 (키릴) | 슬로바키아어 | 슬로베니아어 | 스페인어 | 스와힐리어 | 스웨덴어 | 타갈로그어 (필리핀어) | 타밀어 | 텔루구어 | 태국어 | 터키어 | 우크라이나어 | 우르두어 | 베트남어

로컬에서 복제를 선호하시나요?

이 저장소는 50개 이상의 언어 번역본을 포함하고 있어 다운로드 크기가 크게 증가합니다. 번역본 없이 복제하려면 sparse checkout을 사용하세요:

Bash / macOS / Linux:

git clone --filter=blob:none --sparse https://github.com/microsoft/PhiCookBook.git
cd PhiCookBook
git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'

CMD (Windows):

git clone --filter=blob:none --sparse https://github.com/microsoft/PhiCookBook.git
cd PhiCookBook
git sparse-checkout set --no-cone "/*" "!translations" "!translated_images"

이렇게 하면 훨씬 빠른 다운로드로 강의를 완료하는 데 필요한 모든 것을 얻을 수 있습니다.

목차

• 소개

  • Phi 패밀리 소개
  • 환경 설정
  • 핵심 기술 이해하기
  • Phi 모델을 위한 AI 안전성
  • Phi 하드웨어 지원
  • Phi 모델 및 플랫폼별 가용성
  • Guidance-ai 및 Phi 사용하기
  • GitHub 마켓플레이스 모델
  • Azure AI 모델 카탈로그

• 다양한 환경에서의 Phi 추론

  • Hugging face
  • GitHub Models
  • Azure AI Foundry 모델 카탈로그
  • Ollama
  • AI Toolkit VSCode (AITK)
  • NVIDIA NIM
  • Foundry Local

• Phi Family 추론

  • iOS에서 Phi 추론
  • Android에서 Phi 추론
  • Jetson에서 Phi 추론
  • AI PC에서 Phi 추론
  • Apple MLX 프레임워크와 Phi 추론
  • 로컬 서버에서 Phi 추론
  • AI Toolkit을 사용한 원격 서버에서 Phi 추론
  • Rust와 함께하는 Phi 추론
  • 로컬에서 Phi--Vision 추론
  • Kaito AKS, Azure Containers와 함께하는 Phi 추론(공식 지원)

• Phi Family 양자화

  • llama.cpp를 사용한 Phi-3.5 / 4 양자화
  • onnxruntime용 생성 AI 확장으로 Phi-3.5 / 4 양자화
  • Intel OpenVINO를 이용한 Phi-3.5 / 4 양자화
  • Apple MLX 프레임워크를 활용한 Phi-3.5 / 4 양자화

• Phi 평가

  • Responsible AI
  • Azure AI Foundry를 이용한 평가
  • Promptflow를 사용한 평가

• Azure AI Search와 함께하는 RAG

  • Phi-4-mini 및 Phi-4-multimodal(RAG)을 Azure AI Search와 함께 사용하는 방법

• Phi 애플리케이션 개발 샘플

  • 텍스트 및 채팅 애플리케이션

    • Phi-4 샘플 🆕
      • [📓] Phi-4-mini ONNX 모델과 채팅하기
      • 로컬 ONNX 모델 Phi-4로 채팅하기 (.NET)
      • Semantic Kernel을 사용한 Phi-4 ONNX 채팅 .NET 콘솔 앱
    • Phi-3 / 3.5 샘플
      • Phi3, ONNX Runtime Web 및 WebGPU를 사용한 브라우저 내 로컬 챗봇
      • OpenVino 채팅
      • 멀티 모델 - 인터랙티브 Phi-3-mini 및 OpenAI Whisper
      • MLFlow - 래퍼 빌드 및 MLFlow와 함께 Phi-3 사용
      • 모델 최적화 - Olive로 ONNX Runtime Web에 Phi-3-mini 모델 최적화 방법
      • Phi-3 mini-4k-instruct-onnx와 함께하는 WinUI3 앱 -WinUI3 멀티 모델 AI 기반 노트 앱 샘플
      • 사용자 지정 Phi-3 모델을 Prompt flow로 미세 조정 및 통합
      • Azure AI Foundry에서 Prompt flow로 사용자 지정 Phi-3 모델 미세 조정 및 통합
      • Microsoft의 책임 있는 AI 원칙에 중점을 두고 Azure AI Foundry에서 미세 조정된 Phi-3 / Phi-3.5 모델 평가
      • [📓] Phi-3.5-mini-instruct 언어 예측 샘플 (중국어/영어)
      • Phi-3.5-Instruct WebGPU RAG 챗봇
      • Windows GPU를 사용하여 Phi-3.5-Instruct ONNX로 Prompt flow 솔루션 생성
      • Microsoft Phi-3.5 tflite를 사용하여 Android 앱 만들기
      • Microsoft.ML.OnnxRuntime를 사용한 로컬 ONNX Phi-3 모델 Q&A .NET 예제
      • Semantic Kernel과 Phi-3를 사용한 콘솔 채팅 .NET 앱

  • Azure AI 추론 SDK 코드 기반 샘플

    • Phi-4 샘플 🆕
      • [📓] Phi-4-multimodal로 프로젝트 코드 생성
    • Phi-3 / 3.5 샘플
      • Microsoft Phi-3 Family와 함께 Visual Studio Code GitHub Copilot 채팅 빌드
      • GitHub Models로 Phi-3.5와 Visual Studio Code Chat Copilot 에이전트 생성

  • 고급 추론 샘플

    • Phi-4 샘플 🆕
      • [📓] Phi-4-mini-reasoning 또는 Phi-4-reasoning 샘플
      • [📓] Microsoft Olive로 Phi-4-mini-reasoning 미세 조정
      • [📓] Apple MLX로 Phi-4-mini-reasoning 미세 조정
      • [📓] GitHub Models로 Phi-4-mini-reasoning
      • [📓] Azure AI Foundry Models로 Phi-4-mini-reasoning

  • 데모

    • Hugging Face Spaces에서 호스팅된 Phi-4-mini 데모
    • Hugging Face Spaces에서 호스팅된 Phi-4-multimodal 데모

  • 비전 샘플

    • Phi-4 샘플 🆕
      • [📓] Phi-4-multimodal로 이미지 읽기 및 코드 생성
    • Phi-3 / 3.5 샘플
      • [📓]Phi-3-vision-이미지 텍스트-텍스트
      • Phi-3-vision-ONNX
      • [📓]Phi-3-vision CLIP 임베딩
      • 데모: Phi-3 재활용
      • Phi-3-vision - 시각 언어 어시스턴트 - Phi3-Vision 및 OpenVINO와 함께
      • Phi-3 비전 Nvidia NIM
      • Phi-3 비전 OpenVino
      • [📓]Phi-3.5 비전 다중 프레임 또는 다중 이미지 샘플
      • Microsoft.ML.OnnxRuntime .NET을 사용한 Phi-3 Vision 로컬 ONNX 모델
      • 메뉴 기반 Microsoft.ML.OnnxRuntime .NET을 사용한 Phi-3 Vision 로컬 ONNX 모델

  • 수학 샘플

    • Phi-4-Mini-Flash-Reasoning-Instruct 샘플 🆕 Phi-4-Mini-Flash-Reasoning-Instruct와 함께하는 수학 데모

  • 오디오 샘플

    • Phi-4 샘플 🆕
      • [📓] Phi-4-multimodal을 사용한 오디오 기록 추출
      • [📓] Phi-4-multimodal 오디오 샘플
      • [📓] Phi-4-multimodal 음성 번역 샘플
      • .NET 콘솔 애플리케이션: Phi-4-multimodal 오디오를 사용하여 오디오 파일 분석 및 기록 생성

  • MOE 샘플

    • Phi-3 / 3.5 샘플
      • [📓] Phi-3.5 전문가 혼합 모델 (MoEs) 소셜 미디어 샘플
      • [📓] NVIDIA NIM Phi-3 MOE, Azure AI Search, LlamaIndex를 사용한 검색 증강 생성 (RAG) 파이프라인 구축

  • 함수 호출 샘플

    • Phi-4 샘플 🆕
      • [📓] Phi-4-mini와 함께 함수 호출 사용
      • [📓] Phi-4-mini로 다중 에이전트 생성에 함수 호출 사용
      • [📓] Ollama와 함수 호출 사용
      • [📓] ONNX와 함수 호출 사용

  • 멀티모달 믹싱 샘플

    • Phi-4 샘플 🆕
      • [📓] Phi-4-multimodal을 기술 저널리스트로 사용
      • .NET 콘솔 애플리케이션: Phi-4-multimodal을 사용하여 이미지 분석

• Phi 미세 조정 샘플

  • 미세 조정 시나리오
  • 미세 조정 vs RAG
  • Phi-3를 산업 전문가로 만들기 위한 미세 조정
  • AI Toolkit for VS Code로 Phi-3 미세 조정
  • Azure Machine Learning Service로 Phi-3 미세 조정
  • Lora로 Phi-3 미세 조정
  • QLora로 Phi-3 미세 조정
  • Azure AI Foundry로 Phi-3 미세 조정
  • Azure ML CLI/SDK로 Phi-3 미세 조정
  • Microsoft Olive로 미세 조정
  • Microsoft Olive 실습 랩을 통한 미세 조정
  • Weights and Bias를 사용한 Phi-3-vision 미세 조정
  • Apple MLX Framework로 Phi-3 미세 조정
  • Phi-3-vision 미세 조정 (공식 지원)
  • Kaito AKS, Azure 컨테이너로 Phi-3 미세 조정 (공식 지원)
  • Phi-3 및 3.5 Vision 미세 조정

• 실습 랩

  • 최신 모델 탐색: LLM, SLM, 로컬 개발 등
  • NLP 잠재력 개방: Microsoft Olive로 미세 조정

• 학술 연구 논문 및 출판물

  • Textbooks Are All You Need II: phi-1.5 기술 보고서
  • Phi-3 기술 보고서: 휴대폰에서 로컬로 실행 가능한 고성능 언어 모델
  • Phi-4 기술 보고서
  • Phi-4-Mini 기술 보고서: Mixture-of-LoRAs를 통한 컴팩트하면서도 강력한 멀티모달 언어 모델
  • 차내 기능 호출을 위한 소형 언어 모델 최적화
  • (WhyPHI) 다지선다형 질문 응답을 위한 PHI-3 미세 조정: 방법론, 결과 및 과제
  • Phi-4-추론 기술 보고서
  • Phi-4-mini-추론 기술 보고서

Phi 모델 사용하기

Azure AI Foundry의 Phi

Microsoft Phi를 사용하는 방법과 다양한 하드웨어 장치에서 E2E 솔루션을 구축하는 방법을 배울 수 있습니다. Phi를 직접 경험하려면 모델을 실험하고 시나리오에 맞게 Phi를 사용자 지정해 보세요. Azure AI Foundry Azure AI 모델 카탈로그에서 시작할 수 있습니다. 자세한 내용은 Azure AI Foundry 시작하기에서 확인하세요.

플레이그라운드
각 모델에는 모델을 테스트할 수 있는 전용 플레이그라운드가 있습니다 Azure AI Playground.

GitHub 모델의 Phi

Microsoft Phi를 사용하는 방법과 다양한 하드웨어 장치에서 E2E 솔루션을 구축하는 방법을 배울 수 있습니다. Phi를 직접 경험하려면 모델을 실험하고 시나리오에 맞게 Phi를 사용자 지정해 보세요. GitHub 모델 카탈로그에서 시작할 수 있습니다. 자세한 내용은 GitHub 모델 카탈로그 시작하기에서 확인하세요.

플레이그라운드
각 모델에는 모델을 테스트할 수 있는 전용 플레이그라운드가 있습니다.

Hugging Face의 Phi

모델은 Hugging Face에서도 찾을 수 있습니다.

플레이그라운드
Hugging Chat 플레이그라운드

🎒 기타 강좌

우리 팀은 다양한 추가 강좌도 제공합니다! 확인해 보세요:

LangChain

Azure / Edge / MCP / 에이전트

---

생성 AI 시리즈

---

핵심 학습

---

Copilot 시리즈

책임 있는 AI

Microsoft는 고객이 AI 제품을 책임감 있게 사용하도록 지원하며, 학습 경험을 공유하고 투명성 노트 및 영향 평가와 같은 도구를 통해 신뢰 기반의 파트너십을 구축하는 데 전념하고 있습니다. 이러한 리소스는 https://aka.ms/RAI에서 많이 확인할 수 있습니다.
Microsoft의 책임 있는 AI 접근 방식은 공정성, 신뢰성 및 안전성, 개인정보 보호 및 보안, 포용성, 투명성, 책임성을 포함하는 AI 원칙에 기반합니다.

이 샘플에 사용된 대규모 자연어, 이미지, 음성 모델은 불공정하거나 신뢰할 수 없거나 불쾌감을 줄 수 있는 방식으로 행동할 수 있으므로 피해가 발생할 수 있습니다. 위험 및 한계에 대한 정보를 얻으시려면 Azure OpenAI 서비스 투명성 노트를 참고하시기 바랍니다.

이러한 위험을 완화하기 위한 권장 방법은 아키텍처에 유해한 동작을 감지하고 차단할 수 있는 안전 시스템을 포함하는 것입니다. Azure AI 콘텐츠 안전은 독립적인 보호 계층을 제공하며, 애플리케이션과 서비스에서 유해한 사용자 생성 및 AI 생성 콘텐츠를 감지할 수 있습니다. Azure AI Foundry 내에서 콘텐츠 안전 서비스는 다양한 모달리티의 유해 콘텐츠를 탐색하고 샘플 코드를 시도해볼 수 있게 합니다. 다음 빠른 시작 문서는 서비스에 요청하는 과정을 안내합니다. 다른 고려 사항은 전체 애플리케이션 성능입니다. 다중 모달 및 다중 모델 애플리케이션의 경우, 성능은 시스템이 사용자와 사용자가 기대하는 대로 작동하는 것을 의미하며, 해로운 출력을 생성하지 않는 것도 포함됩니다. 성능, 품질, 위험 및 안전 평가자를 사용하여 전체 애플리케이션의 성능을 평가하는 것이 중요합니다. 또한 사용자 지정 평가자를 생성하고 평가할 수 있는 기능도 있습니다.

개발 환경에서 Azure AI Evaluation SDK를 사용하여 AI 애플리케이션을 평가할 수 있습니다. 테스트 데이터 세트 또는 목표를 제공하면, 생성 AI 애플리케이션의 결과물을 내장 평가자나 선택한 사용자 지정 평가자를 통해 정량적으로 측정합니다. 시스템을 평가하기 위해 azure ai evaluation sdk를 시작하려면, 빠른 시작 가이드를 따라 하십시오. 평가 실행을 완료하면 Azure AI Foundry에서 결과를 시각화할 수 있습니다.

상표

이 프로젝트에는 프로젝트, 제품 또는 서비스에 대한 상표 또는 로고가 포함될 수 있습니다. Microsoft 상표 또는 로고의 승인된 사용은 Microsoft의 상표 및 브랜드 가이드라인을 준수해야 합니다. 수정된 버전의 프로젝트에서 Microsoft 상표 또는 로고를 사용하는 경우 혼동을 일으키거나 Microsoft 후원임을 암시해서는 안 됩니다. 타사 상표 또는 로고의 사용은 해당 타사의 정책을 따릅니다.

도움 받기

AI 앱 빌드 중에 문제가 있거나 궁금한 점이 있으면 다음에 참여하세요:

제품 피드백이나 빌드 중 오류가 있는 경우 다음을 방문하세요:

---

면책 조항:
이 문서는 AI 번역 서비스 Co-op Translator를 사용하여 번역되었습니다. 정확성을 위해 노력하고 있으나 자동 번역에는 오류나 부정확한 부분이 있을 수 있습니다. 원본 문서의 원어본이 권위 있는 자료로 간주되어야 합니다. 중요한 정보의 경우 전문 인간 번역을 권장합니다. 본 번역의 사용으로 인해 발생하는 오해나 잘못된 해석에 대해 당사는 책임을 지지 않습니다.