README.md

คู่มือ Phi: ตัวอย่างปฏิบัติการกับโมเดล Phi ของ Microsoft

Phi คือชุดโมเดล AI แบบโอเพนซอร์สที่พัฒนาโดย Microsoft

Phi เป็นโมเดลภาษาขนาดเล็ก (SLM) ที่ทรงพลังและคุ้มค่าที่สุดในปัจจุบัน โดยมีผลลัพธ์ที่ดีเยี่ยมในหลายภาษา การให้เหตุผล การสร้างข้อความ/แชท การเขียนโค้ด รูปภาพ เสียง และสถานการณ์อื่น ๆ

คุณสามารถปรับใช้ Phi บนคลาวด์หรืออุปกรณ์ปลายทาง และสามารถสร้างแอปพลิเคชัน AI สร้างสรรค์ได้ง่าย ๆ ด้วยพลังการประมวลผลที่จำกัด

ทำตามขั้นตอนเหล่านี้เพื่อเริ่มต้นใช้งานทรัพยากรเหล่านี้:

1. Fork Repository: คลิก
2. Clone Repository: git clone https://github.com/microsoft/PhiCookBook.git
3. เข้าร่วมชุมชน Microsoft AI Discord เพื่อพบกับผู้เชี่ยวชาญและนักพัฒนาคนอื่น ๆ

สารบัญ

• บทนำ

  • ยินดีต้อนรับสู่ครอบครัว Phi
  • การตั้งค่าสภาพแวดล้อมของคุณ
  • ทำความเข้าใจเทคโนโลยีสำคัญ
  • ความปลอดภัยของ AI สำหรับโมเดล Phi
  • การสนับสนุนฮาร์ดแวร์ของ Phi
  • โมเดล Phi และความพร้อมใช้งานบนแพลตฟอร์มต่าง ๆ
  • การใช้ Guidance-ai และ Phi
  • โมเดลใน GitHub Marketplace
  • แคตตาล็อกโมเดล Azure AI

• การใช้งาน Phi ในสภาพแวดล้อมต่าง ๆ

  • Hugging Face
  • โมเดลใน GitHub
  • แคตตาล็อกโมเดล Azure AI Foundry
  • Ollama
  • AI Toolkit VSCode (AITK)
  • NVIDIA NIM

• การใช้งานโมเดลในครอบครัว Phi

  • การใช้งาน Phi ใน iOS
  • การใช้งาน Phi ใน Android

• Inference Phi ใน Jetson

  • Inference Phi ใน AI PC
  • Inference Phi ด้วย Apple MLX Framework
  • Inference Phi ใน Local Server
  • Inference Phi ใน Remote Server โดยใช้ AI Toolkit
  • Inference Phi ด้วย Rust
  • Inference Phi--Vision ใน Local
  • Inference Phi ด้วย Kaito AKS, Azure Containers (รองรับอย่างเป็นทางการ)

• การ Quantifying Phi Family

  • Quantizing Phi-3.5 / 4 ด้วย llama.cpp
  • Quantizing Phi-3.5 / 4 ด้วย Generative AI extensions สำหรับ onnxruntime
  • Quantizing Phi-3.5 / 4 ด้วย Intel OpenVINO
  • Quantizing Phi-3.5 / 4 ด้วย Apple MLX Framework

• การประเมิน Phi

  • Responsible AI
  • Azure AI Foundry สำหรับการประเมิน
  • การใช้ Promptflow สำหรับการประเมิน

• RAG กับ Azure AI Search

  • วิธีใช้ Phi-4-mini และ Phi-4-multimodal (RAG) กับ Azure AI Search

• ตัวอย่างการพัฒนาแอปพลิเคชัน Phi

  • แอปพลิเคชันข้อความและแชท
    • ตัวอย่าง Phi-4 🆕
      • [📓] แชทกับ Phi-4-mini ONNX Model
      • แชทกับ Phi-4 Local ONNX Model บน .NET
      • แชท .NET Console App กับ Phi-4 ONNX โดยใช้ Semantic Kernel
    • ตัวอย่าง Phi-3 / 3.5
      • Local Chatbot ในเบราว์เซอร์โดยใช้ Phi3, ONNX Runtime Web และ WebGPU
      • OpenVino Chat
      • Multi Model - โต้ตอบกับ Phi-3-mini และ OpenAI Whisper
      • MLFlow - การสร้าง wrapper และการใช้ Phi-3 กับ MLFlow
      • การปรับแต่งโมเดล - วิธีการปรับแต่ง Phi-3-min สำหรับ ONNX Runtime Web ด้วย Olive
      • WinUI3 App กับ Phi-3 mini-4k-instruct-onnx
      • ตัวอย่างแอปบันทึก AI ขับเคลื่อนด้วย WinUI3 Multi Model
      • Fine-tune และรวม Phi-3 models แบบกำหนดเองด้วย Prompt Flow
      • Fine-tune และรวม Phi-3 models แบบกำหนดเองด้วย Prompt Flow ใน Azure AI Foundry
      • ประเมิน Phi-3 / Phi-3.5 Model ที่ปรับแต่งแล้วใน Azure AI Foundry โดยเน้นหลักการ Responsible AI ของ Microsoft

• [📓] ตัวอย่างการคาดการณ์ภาษา Phi-3.5-mini-instruct (ภาษาจีน/อังกฤษ) - Phi-3.5-Instruct WebGPU RAG Chatbot - การใช้ Windows GPU เพื่อสร้างโซลูชัน Prompt flow ด้วย Phi-3.5-Instruct ONNX - การใช้ Microsoft Phi-3.5 tflite เพื่อสร้างแอป Android - ตัวอย่าง Q&A .NET โดยใช้โมเดล Phi-3 แบบ ONNX บนเครื่อง พร้อมกับ Microsoft.ML.OnnxRuntime - แอปแชทคอนโซล .NET พร้อม Semantic Kernel และ Phi-3

  • ตัวอย่างโค้ด Azure AI Inference SDK

    • ตัวอย่าง Phi-4 🆕
      • [📓] สร้างโค้ดโปรเจกต์ด้วย Phi-4-multimodal
    • ตัวอย่าง Phi-3 / 3.5
      • สร้าง Visual Studio Code GitHub Copilot Chat ของคุณเองด้วย Microsoft Phi-3 Family
      • สร้าง Visual Studio Code Chat Copilot Agent ของคุณเองด้วย Phi-3.5 โดยใช้ GitHub Models

  • ตัวอย่างการให้เหตุผลขั้นสูง

    • ตัวอย่าง Phi-4 🆕
      • [📓] ตัวอย่างการให้เหตุผล Phi-4-mini

  • เดโม

    • เดโม Phi-4-mini ที่โฮสต์บน Hugging Face Spaces
    • เดโม Phi-4-multimodal ที่โฮสต์บน Hugging Face Spaces

  • ตัวอย่าง Vision

    • ตัวอย่าง Phi-4 🆕
      • [📓] ใช้ Phi-4-multimodal เพื่ออ่านภาพและสร้างโค้ด
    • ตัวอย่าง Phi-3 / 3.5
      • [📓]Phi-3-vision-Image text to text
      • Phi-3-vision-ONNX
      • [📓]Phi-3-vision CLIP Embedding
      • เดโม: Phi-3 Recycling
      • Phi-3-vision - ผู้ช่วยด้านภาษาภาพ - ด้วย Phi3-Vision และ OpenVINO
      • Phi-3 Vision Nvidia NIM
      • Phi-3 Vision OpenVino
      • [📓]Phi-3.5 Vision ตัวอย่างหลายเฟรมหรือหลายภาพ
      • Phi-3 Vision โมเดล ONNX บนเครื่องโดยใช้ Microsoft.ML.OnnxRuntime .NET
      • เมนู Phi-3 Vision โมเดล ONNX บนเครื่องโดยใช้ Microsoft.ML.OnnxRuntime .NET

  • ตัวอย่างเสียง

    • ตัวอย่าง Phi-4 🆕
      • [📓] การแยกถอดเสียงออกจากเสียงด้วย Phi-4-multimodal
      • [📓] ตัวอย่างเสียง Phi-4-multimodal
      • [📓] ตัวอย่างการแปลเสียง Phi-4-multimodal
      • แอปคอนโซล .NET โดยใช้ Phi-4-multimodal Audio เพื่อวิเคราะห์ไฟล์เสียงและสร้างถอดเสียง

  • ตัวอย่าง MOE

    • ตัวอย่าง Phi-3 / 3.5
      • [📓] Phi-3.5 Mixture of Experts Models (MoEs) ตัวอย่างสื่อสังคม
      • [📓] สร้าง Retrieval-Augmented Generation (RAG) Pipeline ด้วย NVIDIA NIM Phi-3 MOE, Azure AI Search, และ LlamaIndex

  • ตัวอย่างการเรียกใช้ฟังก์ชัน

    • ตัวอย่าง Phi-4 🆕
      • [📓] การใช้ Function Calling กับ Phi-4-mini

  • ตัวอย่างการผสมผสานแบบ Multimodal

    • ตัวอย่าง Phi-4 🆕

• [📓] การใช้งาน Phi-4-multimodal สำหรับนักข่าวสายเทคโนโลยี

  • .NET console application ที่ใช้ Phi-4-multimodal วิเคราะห์ภาพ

• การปรับแต่ง Phi Samples

  • สถานการณ์การปรับแต่ง
  • การปรับแต่งกับ RAG
  • การปรับแต่งให้ Phi-3 กลายเป็นผู้เชี่ยวชาญในอุตสาหกรรม
  • การปรับแต่ง Phi-3 ด้วย AI Toolkit สำหรับ VS Code
  • การปรับแต่ง Phi-3 ด้วย Azure Machine Learning Service
  • การปรับแต่ง Phi-3 ด้วย Lora
  • การปรับแต่ง Phi-3 ด้วย QLora
  • การปรับแต่ง Phi-3 ด้วย Azure AI Foundry
  • การปรับแต่ง Phi-3 ด้วย Azure ML CLI/SDK
  • การปรับแต่งด้วย Microsoft Olive
  • การปรับแต่งด้วย Microsoft Olive Hands-On Lab
  • การปรับแต่ง Phi-3-vision ด้วย Weights and Bias
  • การปรับแต่ง Phi-3 ด้วย Apple MLX Framework
  • การปรับแต่ง Phi-3-vision (การสนับสนุนอย่างเป็นทางการ)
  • การปรับแต่ง Phi-3 ด้วย Kaito AKS และ Azure Containers (การสนับสนุนอย่างเป็นทางการ)
  • การปรับแต่ง Phi-3 และ 3.5 Vision

• Hands on Lab

  • สำรวจโมเดลล้ำสมัย: LLMs, SLMs, การพัฒนาท้องถิ่น และอื่น ๆ
  • การปลดล็อกศักยภาพ NLP: การปรับแต่งด้วย Microsoft Olive

• งานวิจัยและสิ่งพิมพ์ทางวิชาการ

  • Textbooks Are All You Need II: phi-1.5 technical report
  • Phi-3 Technical Report: โมเดลภาษาอันทรงพลังที่ทำงานได้บนโทรศัพท์ของคุณ
  • Phi-4 Technical Report
  • การปรับแต่ง Small Language Models เพื่อการเรียกใช้ฟังก์ชันในรถยนต์
  • (WhyPHI) การปรับแต่ง PHI-3 สำหรับการตอบคำถามแบบปรนัย: วิธีการ, ผลลัพธ์, และความท้าทาย

การใช้งานโมเดล Phi

Phi บน Azure AI Foundry

คุณสามารถเรียนรู้วิธีการใช้งาน Microsoft Phi และการสร้างโซลูชันแบบ E2E บนอุปกรณ์ฮาร์ดแวร์ต่าง ๆ ของคุณได้ หากต้องการสัมผัสประสบการณ์ Phi ด้วยตัวคุณเอง ให้เริ่มต้นทดลองใช้งานโมเดลและปรับแต่ง Phi สำหรับสถานการณ์ของคุณโดยใช้ Azure AI Foundry Azure AI Model Catalog สามารถเรียนรู้เพิ่มเติมได้ที่ Getting Started with Azure AI Foundry

Playground
แต่ละโมเดลมีพื้นที่ Playground สำหรับทดลองใช้งาน Azure AI Playground

Phi บน GitHub Models

คุณสามารถเรียนรู้วิธีการใช้งาน Microsoft Phi และการสร้างโซลูชันแบบ E2E บนอุปกรณ์ฮาร์ดแวร์ต่าง ๆ ของคุณได้ หากต้องการสัมผัสประสบการณ์ Phi ด้วยตัวคุณเอง ให้เริ่มต้นทดลองใช้งานโมเดลและปรับแต่ง Phi สำหรับสถานการณ์ของคุณโดยใช้ GitHub Model Catalog สามารถเรียนรู้เพิ่มเติมได้ที่ Getting Started with GitHub Model Catalog

Playground
แต่ละโมเดลมี พื้นที่ทดลองสำหรับทดสอบโมเดล ที่เฉพาะเจาะจง

Phi บน Hugging Face

คุณสามารถค้นหาโมเดลนี้ได้ที่ Hugging Face

พื้นที่ทดลอง Hugging Chat playground

AI อย่างรับผิดชอบ

Microsoft มุ่งมั่นที่จะช่วยลูกค้าใช้งานผลิตภัณฑ์ AI ของเราอย่างมีความรับผิดชอบ พร้อมทั้งแบ่งปันประสบการณ์และสร้างความเชื่อมั่นผ่านเครื่องมือต่างๆ เช่น Transparency Notes และ Impact Assessments ทรัพยากรเหล่านี้สามารถพบได้ที่ https://aka.ms/RAI
แนวทางของ Microsoft ในการสร้าง AI อย่างรับผิดชอบมีพื้นฐานมาจากหลักการ AI ของเรา ได้แก่ ความเป็นธรรม ความน่าเชื่อถือและความปลอดภัย ความเป็นส่วนตัวและความมั่นคง การมีส่วนร่วม ความโปร่งใส และความรับผิดชอบ

โมเดลขนาดใหญ่ที่เกี่ยวข้องกับภาษาธรรมชาติ ภาพ และเสียง เช่นตัวอย่างที่ใช้งานในนี้ อาจมีพฤติกรรมที่ไม่เป็นธรรม ไม่น่าเชื่อถือ หรือก่อให้เกิดความไม่เหมาะสม ซึ่งอาจนำไปสู่ผลกระทบที่ไม่พึงประสงค์ได้ กรุณาศึกษา Azure OpenAI service Transparency note เพื่อรับทราบถึงความเสี่ยงและข้อจำกัด

แนวทางที่แนะนำในการลดความเสี่ยงเหล่านี้คือการรวมระบบความปลอดภัยไว้ในสถาปัตยกรรมของคุณ เพื่อช่วยตรวจจับและป้องกันพฤติกรรมที่เป็นอันตราย Azure AI Content Safety ให้บริการชั้นความปลอดภัยเพิ่มเติมที่สามารถตรวจจับเนื้อหาที่เป็นอันตรายที่สร้างขึ้นโดยผู้ใช้หรือ AI ในแอปพลิเคชันและบริการต่างๆ Azure AI Content Safety มี API สำหรับข้อความและภาพที่ช่วยตรวจจับเนื้อหาที่เป็นอันตราย ภายใน Azure AI Foundry บริการ Content Safety ช่วยให้คุณสามารถดู สำรวจ และทดลองใช้โค้ดตัวอย่างสำหรับการตรวจจับเนื้อหาที่เป็นอันตรายในรูปแบบต่างๆ เอกสารเริ่มต้นอย่างรวดเร็ว จะนำคุณผ่านขั้นตอนการส่งคำขอไปยังบริการนี้

อีกประเด็นที่ควรพิจารณาคือประสิทธิภาพโดยรวมของแอปพลิเคชัน ด้วยแอปพลิเคชันที่ใช้โมเดลหลายรูปแบบและหลายโมเดล เรานิยามประสิทธิภาพว่าเป็นความสามารถของระบบที่จะทำงานตามที่คุณและผู้ใช้คาดหวัง รวมถึงการไม่สร้างผลลัพธ์ที่เป็นอันตราย สิ่งสำคัญคือต้องประเมินประสิทธิภาพของแอปพลิเคชันโดยรวมของคุณโดยใช้ ตัวประเมินประสิทธิภาพและคุณภาพ และตัวประเมินความเสี่ยงและความปลอดภัย นอกจากนี้ คุณยังสามารถสร้างและประเมินด้วย ตัวประเมินแบบกำหนดเอง

คุณสามารถประเมินแอปพลิเคชัน AI ของคุณในสภาพแวดล้อมการพัฒนาได้โดยใช้ Azure AI Evaluation SDK โดยใช้ชุดข้อมูลทดสอบหรือเป้าหมายที่กำหนด แอปพลิเคชัน AI เชิงสร้างสรรค์ของคุณจะถูกวัดผลเชิงปริมาณด้วยตัวประเมินที่มีอยู่ในระบบหรือแบบกำหนดเองตามที่คุณเลือก เพื่อเริ่มต้นใช้งาน Azure AI Evaluation SDK ในการประเมินระบบของคุณ คุณสามารถทำตาม คู่มือเริ่มต้นอย่างรวดเร็ว หลังจากที่คุณดำเนินการประเมินเสร็จสิ้น คุณสามารถ ดูผลลัพธ์ใน Azure AI Foundry

เครื่องหมายการค้า

โครงการนี้อาจมีเครื่องหมายการค้าหรือโลโก้สำหรับโครงการ ผลิตภัณฑ์ หรือบริการ การใช้งานเครื่องหมายการค้าหรือโลโก้ของ Microsoft อย่างถูกต้องต้องเป็นไปตาม แนวทางการใช้เครื่องหมายการค้าและแบรนด์ของ Microsoft
การใช้เครื่องหมายการค้าหรือโลโก้ของ Microsoft ในเวอร์ชันที่แก้ไขของโครงการนี้ต้องไม่ก่อให้เกิดความสับสนหรือบ่งบอกถึงการสนับสนุนจาก Microsoft การใช้เครื่องหมายการค้าหรือโลโก้ของบุคคลที่สามใดๆ จะต้องเป็นไปตามนโยบายของบุคคลที่สามนั้นๆ

ข้อจำกัดความรับผิดชอบ:
เอกสารฉบับนี้ได้รับการแปลโดยใช้บริการแปลภาษาด้วย AI อัตโนมัติ แม้ว่าเราจะพยายามอย่างเต็มที่เพื่อให้การแปลมีความถูกต้อง แต่โปรดทราบว่าการแปลอัตโนมัติอาจมีข้อผิดพลาดหรือความไม่แม่นยำ เอกสารต้นฉบับในภาษาต้นทางควรถือเป็นแหล่งข้อมูลที่เชื่อถือได้ สำหรับข้อมูลที่มีความสำคัญ แนะนำให้ใช้บริการแปลภาษาจากผู้เชี่ยวชาญที่เป็นมนุษย์ เราจะไม่รับผิดชอบต่อความเข้าใจผิดหรือการตีความที่คลาดเคลื่อนซึ่งเกิดจากการใช้การแปลนี้