README.md

Phi Cookbook: Praktické príklady s modelmi Phi od Microsoftu

Phi je séria open source AI modelov vyvinutých spoločnosťou Microsoft.

Phi je aktuálne najvýkonnejší a najefektívnejší malý jazykový model (SLM), ktorý dosahuje výborné výsledky v oblasti viacjazyčnosti, logického uvažovania, generovania textu/četu, kódovania, obrázkov, audia a ďalších scenárov.

Model Phi je možné nasadiť do cloudu alebo na edge zariadenia a ľahko s ním vytvárať generatívne AI aplikácie s obmedzenými výpočtovými zdrojmi.

Postupujte podľa týchto krokov, aby ste mohli začať používať tieto zdroje:

1. Forknite repozitár: Kliknite na
2. Klonujte repozitár: git clone https://github.com/microsoft/PhiCookBook.git
3. Pridajte sa do komunity Microsoft AI Discord a spoznajte expertov a ďalších vývojárov

Obsah

• Úvod

  • Vitajte v rodine Phi
  • Nastavenie vášho prostredia
  • Porozumenie kľúčovým technológiám
  • Bezpečnosť AI pre modely Phi
  • Podpora hardvéru pre Phi
  • Modely Phi a ich dostupnosť na rôznych platformách
  • Používanie Guidance-ai a Phi
  • Modely na GitHub Marketplace
  • Katalóg modelov Azure AI

• Inferencia Phi v rôznych prostrediach

  • Hugging face
  • Modely na GitHube
  • Katalóg modelov Azure AI Foundry
  • Ollama
  • AI Toolkit VSCode (AITK)
  • NVIDIA NIM

• Inferencia rodiny Phi

  • Inferencia Phi na iOS
  • Inferencia Phi na Android

• Inference Phi v Jetson

  • Inference Phi na AI PC
  • Inference Phi s Apple MLX Framework
  • Inference Phi na lokálnom serveri
  • Inference Phi na vzdialenom serveri pomocou AI Toolkit
  • Inference Phi s Rust
  • Inference Phi--Vision lokálne
  • Inference Phi s Kaito AKS, Azure Containers (oficiálna podpora)

• Kvantifikácia rodiny Phi

  • Kvantifikácia Phi-3.5 / 4 pomocou llama.cpp
  • Kvantifikácia Phi-3.5 / 4 pomocou rozšírení Generative AI pre onnxruntime
  • Kvantifikácia Phi-3.5 / 4 pomocou Intel OpenVINO
  • Kvantifikácia Phi-3.5 / 4 pomocou Apple MLX Framework

• Hodnotenie Phi

  • Zodpovedná AI
  • Azure AI Foundry pre hodnotenie
  • Použitie Promptflow na hodnotenie

• RAG s Azure AI Search

  • Ako používať Phi-4-mini a Phi-4-multimodal (RAG) s Azure AI Search

• Ukážky vývoja aplikácií Phi

  • Textové a chatovacie aplikácie
    • Ukážky Phi-4 🆕
      • [📓] Chat s Phi-4-mini ONNX modelom
      • Chat s lokálnym ONNX modelom Phi-4 .NET
      • Konzolová aplikácia .NET pre chat s Phi-4 ONNX pomocou Semantic Kernel
    • Ukážky Phi-3 / 3.5
      • Lokálny chatbot v prehliadači pomocou Phi3, ONNX Runtime Web a WebGPU
      • OpenVino Chat
      • Multi Model - Interaktívny Phi-3-mini a OpenAI Whisper
      • MLFlow - Vytvorenie obalu a použitie Phi-3 s MLFlow
      • Optimalizácia modelu - Ako optimalizovať Phi-3-mini model pre ONNX Runtime Web s Olive
      • WinUI3 aplikácia s Phi-3 mini-4k-instruct-onnx
      • WinUI3 Multi Model AI Powered Notes App Sample
      • Jemné doladenie a integrácia vlastných modelov Phi-3 pomocou Prompt flow
      • Jemné doladenie a integrácia vlastných modelov Phi-3 pomocou Prompt flow v Azure AI Foundry
      • Hodnotenie jemne doladeného modelu Phi-3 / Phi-3.5 v Azure AI Foundry so zameraním na princípy zodpovednej AI od Microsoftu

• [📓] Phi-3.5-mini-instruct jazykové predikčné ukážky (Čínština/Angličtina) - Phi-3.5-Instruct WebGPU RAG Chatbot - Použitie Windows GPU na vytvorenie Prompt flow riešenia s Phi-3.5-Instruct ONNX - Použitie Microsoft Phi-3.5 tflite na vytvorenie Android aplikácie - Q&A .NET príklad s lokálnym ONNX Phi-3 modelom pomocou Microsoft.ML.OnnxRuntime - Konzolová chat .NET aplikácia so Semantic Kernel a Phi-3

  • Azure AI Inference SDK Ukážky kódu

    • Phi-4 Ukážky 🆕
      • [📓] Generovanie projektového kódu pomocou Phi-4-multimodal
    • Phi-3 / 3.5 Ukážky
      • Vytvorte si vlastný Visual Studio Code GitHub Copilot Chat s Microsoft Phi-3 Family
      • Vytvorte si vlastného Visual Studio Code Chat Copilot Agenta s Phi-3.5 pomocou GitHub modelov

  • Pokročilé uvažovanie - Ukážky

    • Phi-4 Ukážky 🆕
      • [📓] Phi-4-mini Ukážky uvažovania

  • Demos

    • Phi-4-mini ukážky hostované na Hugging Face Spaces
    • Phi-4-multimodal ukážky hostované na Hugging Face Spaces

  • Vision Ukážky

    • Phi-4 Ukážky 🆕
      • [📓] Použitie Phi-4-multimodal na čítanie obrázkov a generovanie kódu
    • Phi-3 / 3.5 Ukážky
      • [📓]Phi-3-vision-Text obrázka na text
      • Phi-3-vision-ONNX
      • [📓]Phi-3-vision CLIP Vloženie
      • DEMO: Phi-3 Recyklovanie
      • Phi-3-vision - Vizuálny jazykový asistent - s Phi3-Vision a OpenVINO
      • Phi-3 Vision Nvidia NIM
      • Phi-3 Vision OpenVino
      • [📓]Phi-3.5 Vision ukážka pre viacero snímok alebo obrázkov
      • Phi-3 Vision Lokálny ONNX Model pomocou Microsoft.ML.OnnxRuntime .NET
      • Menu-based Phi-3 Vision Lokálny ONNX Model pomocou Microsoft.ML.OnnxRuntime .NET

  • Audio Ukážky

    • Phi-4 Ukážky 🆕
      • [📓] Extrahovanie audio prepisov pomocou Phi-4-multimodal
      • [📓] Phi-4-multimodal Audio Ukážka
      • [📓] Phi-4-multimodal Ukážka prekladu reči
      • .NET konzolová aplikácia používajúca Phi-4-multimodal Audio na analýzu audio súboru a generovanie prepisu

  • MOE Ukážky

    • Phi-3 / 3.5 Ukážky
      • [📓] Phi-3.5 Mixture of Experts Models (MoEs) Ukážka pre sociálne siete
      • [📓] Vytváranie Retrieval-Augmented Generation (RAG) pipeline s NVIDIA NIM Phi-3 MOE, Azure AI Search a LlamaIndex

  • Ukážky volania funkcií

    • Phi-4 Ukážky 🆕
      • [📓] Použitie volania funkcií s Phi-4-mini

  • Ukážky multimodálneho miešania

    • Phi-4 Ukážky 🆕

• [📓] Používanie Phi-4-multimodal ako technologický novinár

  • .NET konzolová aplikácia využívajúca Phi-4-multimodal na analýzu obrázkov

• Doladenie vzoriek Phi

  • Scenáre doladenia
  • Doladenie vs RAG
  • Doladenie: Nechajte Phi-3 stať sa odborníkom v odvetví
  • Doladenie Phi-3 s AI Toolkit pre VS Code
  • Doladenie Phi-3 s Azure Machine Learning Service
  • Doladenie Phi-3 s Lora
  • Doladenie Phi-3 s QLora
  • Doladenie Phi-3 s Azure AI Foundry
  • Doladenie Phi-3 s Azure ML CLI/SDK
  • Doladenie s Microsoft Olive
  • Doladenie s Microsoft Olive - Praktické cvičenie
  • Doladenie Phi-3-vision s Weights and Bias
  • Doladenie Phi-3 s Apple MLX Framework
  • Doladenie Phi-3-vision (oficiálna podpora)
  • Doladenie Phi-3 s Kaito AKS, Azure Containers (oficiálna podpora)
  • Doladenie Phi-3 a 3.5 Vision

• Praktické cvičenia

  • Preskúmanie najmodernejších modelov: LLMs, SLMs, lokálny vývoj a viac
  • Odomknutie potenciálu NLP: Doladenie s Microsoft Olive

• Akademické výskumné práce a publikácie

  • Textbooks Are All You Need II: technická správa phi-1.5
  • Technická správa Phi-3: Vysoko schopný jazykový model priamo vo vašom telefóne
  • Technická správa Phi-4
  • Optimalizácia malých jazykových modelov pre volanie funkcií vo vozidlách
  • (WhyPHI) Doladenie PHI-3 pre odpovede na otázky s výberom z viacerých možností: Metodológia, výsledky a výzvy

Používanie modelov Phi

Phi na Azure AI Foundry

Môžete sa naučiť, ako používať Microsoft Phi a ako vytvárať E2E riešenia na rôznych hardvérových zariadeniach. Ak chcete Phi vyskúšať, začnite s modelmi a prispôsobte Phi pre svoje scenáre pomocou Azure AI Foundry Azure AI Model Catalog. Viac informácií nájdete v časti Začíname s Azure AI Foundry.

Playground
Každý model má vlastné ihrisko na testovanie modelu Azure AI Playground.

Phi na GitHub Models

Môžete sa naučiť, ako používať Microsoft Phi a ako vytvárať E2E riešenia na rôznych hardvérových zariadeniach. Ak chcete Phi vyskúšať, začnite s modelmi a prispôsobte Phi pre svoje scenáre pomocou GitHub Model Catalog. Viac informácií nájdete v časti Začíname s GitHub Model Catalog.

Playground Každý model má vyhradené ihrisko na testovanie modelu.

Phi na Hugging Face

Model môžete nájsť aj na Hugging Face

Ihrisko
Hugging Chat ihrisko

Zodpovedná AI

Microsoft sa zaväzuje pomáhať svojim zákazníkom používať naše AI produkty zodpovedne, zdieľať naše poznatky a budovať partnerstvá založené na dôvere prostredníctvom nástrojov ako Poznámky o transparentnosti a Hodnotenia dopadov. Mnohé z týchto zdrojov nájdete na https://aka.ms/RAI.
Prístup Microsoftu k zodpovednej AI je založený na našich princípoch AI: spravodlivosť, spoľahlivosť a bezpečnosť, súkromie a ochrana, inkluzívnosť, transparentnosť a zodpovednosť.

Veľkorozmerné modely pre spracovanie prirodzeného jazyka, obrazu a reči – ako tie použité v tomto príklade – môžu potenciálne správať spôsobom, ktorý je nespravodlivý, nespoľahlivý alebo urážlivý, čo môže spôsobiť škody. Pre informácie o rizikách a obmedzeniach si prosím preštudujte Poznámku o transparentnosti služby Azure OpenAI.

Odporúčaný prístup na zmiernenie týchto rizík je zahrnúť do svojej architektúry bezpečnostný systém, ktorý dokáže detegovať a zabrániť škodlivému správaniu. Azure AI Content Safety poskytuje nezávislú vrstvu ochrany, schopnú detegovať škodlivý obsah vytvorený používateľmi alebo AI v aplikáciách a službách. Azure AI Content Safety zahŕňa textové a obrazové API, ktoré umožňujú detegovať škodlivý materiál. V rámci Azure AI Foundry služba Content Safety umožňuje zobraziť, preskúmať a vyskúšať ukážkový kód na detekciu škodlivého obsahu naprieč rôznymi modalitami. Nasledujúca dokumentácia rýchleho začiatku vás prevedie vytváraním požiadaviek na službu.

Ďalším aspektom, ktorý treba zohľadniť, je celkový výkon aplikácie. Pri multimodálnych a multi-modelových aplikáciách považujeme výkon za schopnosť systému splniť vaše a používateľské očakávania, vrátane neprodukovania škodlivých výstupov. Je dôležité hodnotiť výkon vašej aplikácie pomocou hodnotiacich nástrojov pre výkon, kvalitu, riziká a bezpečnosť. Máte tiež možnosť vytvárať a hodnotiť pomocou vlastných hodnotiacich nástrojov.

Vašu AI aplikáciu môžete hodnotiť vo vývojovom prostredí pomocou Azure AI Evaluation SDK. Pri použití testovacej dátovej sady alebo cieľa sú generácie vašej generatívnej AI aplikácie kvantitatívne merané zabudovanými alebo vlastnými hodnotiacimi nástrojmi podľa vášho výberu. Ak chcete začať s Azure AI Evaluation SDK na hodnotenie vášho systému, môžete postupovať podľa sprievodcu rýchlym začiatkom. Po vykonaní hodnotiaceho behu môžete vizualizovať výsledky v Azure AI Foundry.

Ochranné známky

Tento projekt môže obsahovať ochranné známky alebo logá projektov, produktov alebo služieb. Autorizované používanie ochranných známok alebo log spoločnosti Microsoft podlieha a musí byť v súlade s Pravidlami používania ochranných známok a značiek spoločnosti Microsoft.
Používanie ochranných známok alebo log spoločnosti Microsoft v modifikovaných verziách tohto projektu nesmie spôsobovať zmätok alebo naznačovať sponzorstvo zo strany Microsoftu. Akékoľvek používanie ochranných známok alebo log tretích strán podlieha pravidlám týchto tretích strán.

Upozornenie:
Tento dokument bol preložený pomocou strojových AI prekladateľských služieb. Hoci sa snažíme o presnosť, uvedomte si, že automatizované preklady môžu obsahovať chyby alebo nepresnosti. Pôvodný dokument v jeho pôvodnom jazyku by mal byť považovaný za záväzný zdroj. Pre dôležité informácie sa odporúča profesionálny ľudský preklad. Nenesieme zodpovednosť za akékoľvek nedorozumenia alebo nesprávne interpretácie vyplývajúce z použitia tohto prekladu.