README.md

Phi Cookbook: Käytännön esimerkkejä Microsoftin Phi-malleilla

Phi on Microsoftin kehittämä avoimen lähdekoodin tekoälymallisarja.

Phi on tällä hetkellä tehokkain ja kustannustehokkain pieni kielimalli (SLM), joka suoriutuu erinomaisesti monikielisyydessä, päättelyssä, tekstin/chatin generoinnissa, koodauksessa, kuvissa, äänissä ja muissa sovelluksissa.

Phi voidaan ottaa käyttöön pilvessä tai reunalaitteilla, ja sen avulla on helppo rakentaa generatiivisia tekoälysovelluksia vähäisellä laskentateholla.

Seuraa näitä vaiheita aloittaaksesi näiden resurssien käytön:

1. Haarukoida Repositorio: Klikkaa
2. Kloonaa Repositorio: git clone https://github.com/microsoft/PhiCookBook.git
3. Liity Microsoft AI Discord -yhteisöön ja tapaa asiantuntijoita ja muita kehittäjiä

Sisällysluettelo

• Johdanto

  • Tervetuloa Phi-perheeseen
  • Ympäristön asennus
  • Keskeisten teknologioiden ymmärtäminen
  • Tekoälyn turvallisuus Phi-malleille
  • Phi:n laitteistotuki
  • Phi-mallit ja saatavuus eri alustoilla
  • Guidance-ai:n ja Phi:n käyttö
  • GitHub Marketplace -mallit
  • Azure AI -mallikatalogi

• Phi:n inferenssi eri ympäristöissä

  • Hugging Face
  • GitHub-mallit
  • Azure AI Foundry -mallikatalogi
  • Ollama
  • AI Toolkit VSCode (AITK)
  • NVIDIA NIM

• Phi-perheen inferenssi

  • Phi:n inferenssi iOS:ssä
  • Phi:n inferenssi Androidissa

• Inference Phi Jetsonilla

  • Inference Phi AI PC:llä
  • Inference Phi Apple MLX Frameworkilla
  • Inference Phi paikallisessa palvelimessa
  • Inference Phi etäpalvelimessa käyttäen AI Toolkitia
  • Inference Phi Rustilla
  • Inference Phi--Vision paikallisesti
  • Inference Phi Kaito AKS:llä, Azure Containersilla (virallinen tuki)

• Phi-perheen kvantisointi

  • Phi-3.5 / 4:n kvantisointi käyttämällä llama.cpp:tä
  • Phi-3.5 / 4:n kvantisointi käyttämällä Generative AI -laajennuksia onnxruntimelle
  • Phi-3.5 / 4:n kvantisointi käyttäen Intel OpenVINOa
  • Phi-3.5 / 4:n kvantisointi Apple MLX Frameworkilla

• Phi:n arviointi

  • Vastuullinen tekoäly
  • Azure AI Foundry arviointia varten
  • Promptflown käyttäminen arviointiin

• RAG Azure AI Searchilla

  • Kuinka käyttää Phi-4-miniä ja Phi-4-multimodalia (RAG) Azure AI Searchin kanssa

• Phi-sovelluskehityksen esimerkit

  • Teksti- ja keskustelusovellukset
    • Phi-4-esimerkit 🆕
      • [📓] Keskustelu Phi-4-mini ONNX -mallin kanssa
      • Keskustelu paikallisella Phi-4 ONNX -mallilla .NET:ssä
      • Keskustelu .NET-konsolisovelluksessa Phi-4 ONNX:llä käyttäen Semantic Kernelia
    • Phi-3 / 3.5 -esimerkit
      • Paikallinen chatbot selaimessa käyttäen Phi3:a, ONNX Runtime Webiä ja WebGPU:ta
      • OpenVino Chat
      • Monimalli - Interaktiivinen Phi-3-mini ja OpenAI Whisper
      • MLFlow - Wrapperin rakentaminen ja Phi-3:n käyttäminen MLFlow:ssa
      • Mallin optimointi - Kuinka optimoida Phi-3-mini-malli ONNX Runtime Webille käyttäen Olivea
      • WinUI3-sovellus Phi-3 mini-4k-instruct-onnx:lla
      • WinUI3 monimallia käyttävä tekoälyllä varustettu muistiinpanosovellus -esimerkki
      • Phi-3-mallien hienosäätö ja integrointi Prompt Flow:n avulla
      • Phi-3-mallien hienosäätö ja integrointi Prompt Flow:n avulla Azure AI Foundryssä
      • Hienosäädetyn Phi-3 / Phi-3.5-mallin arviointi Azure AI Foundryssä keskittyen Microsoftin vastuullisen tekoälyn periaatteisiin

• [📓] Phi-3.5-mini-instruct kielimallin esimerkit (kiina/englanti) - Phi-3.5-Instruct WebGPU RAG Chatbot - Windows GPU:n käyttäminen Prompt flow -ratkaisun luomiseen Phi-3.5-Instruct ONNX:lla - Microsoft Phi-3.5 tflite -mallin käyttäminen Android-sovelluksen luomiseen - Kysymys-vastaus .NET-esimerkki paikallista ONNX Phi-3 -mallia käyttäen Microsoft.ML.OnnxRuntime-kirjastolla - Konsolichat .NET-sovellus Semantic Kernelillä ja Phi-3:lla

  • Azure AI Inference SDK:n koodipohjaiset esimerkit

    • Phi-4 Esimerkit 🆕
      • [📓] Projektikoodin generointi Phi-4-multimodal-mallilla
    • Phi-3 / 3.5 Esimerkit
      • Luo oma Visual Studio Code GitHub Copilot Chat Microsoft Phi-3 -perheen mallilla
      • Luo oma Visual Studio Code Chat Copilot Agent Phi-3.5 -mallilla GitHub-malleja käyttäen

  • Kehittyneen päättelyn esimerkit

    • Phi-4 Esimerkit 🆕
      • [📓] Phi-4-mini päättelyn esimerkit

  • Demot

    • Phi-4-mini demot Hugging Face Spaces -alustalla
    • Phi-4-multimodal demot Hugging Face Spaces -alustalla

  • Vision Esimerkit

    • Phi-4 Esimerkit 🆕
      • [📓] Kuvien lukeminen ja koodin generointi Phi-4-multimodal-mallilla
    • Phi-3 / 3.5 Esimerkit
      • [📓]Phi-3-vision-Kuva tekstistä tekstiin
      • Phi-3-vision-ONNX
      • [📓]Phi-3-vision CLIP Embedding
      • DEMO: Phi-3 Kierrätys
      • Phi-3-vision - Visuaalinen kieliavustaja - Phi3-Vision ja OpenVINO
      • Phi-3 Vision Nvidia NIM
      • Phi-3 Vision OpenVino
      • [📓]Phi-3.5 Vision monikehys- tai monikuvainen esimerkki
      • Phi-3 Vision Paikallinen ONNX-malli Microsoft.ML.OnnxRuntime .NET:llä
      • Valikkopohjainen Phi-3 Vision Paikallinen ONNX-malli Microsoft.ML.OnnxRuntime .NET:llä

  • Audio Esimerkit

    • Phi-4 Esimerkit 🆕
      • [📓] Äänitranskriptioiden luominen Phi-4-multimodal-mallilla
      • [📓] Phi-4-multimodal Audio Esimerkki
      • [📓] Phi-4-multimodal Puheen käännösesimerkki
      • .NET konsolisovellus Phi-4-multimodal Audio -mallilla äänen analysointiin ja transkription luomiseen

  • MOE Esimerkit

    • Phi-3 / 3.5 Esimerkit
      • [📓] Phi-3.5 Mixture of Experts Models (MoEs) Sosiaalisen median esimerkki
      • [📓] Retrieval-Augmented Generation (RAG) -putken rakentaminen NVIDIA NIM Phi-3 MOE:lla, Azure AI Searchilla ja LlamaIndexillä

  • Funktiokutsujen esimerkit

    • Phi-4 Esimerkit 🆕
      • [📓] Funktiokutsujen käyttäminen Phi-4-mini-mallin kanssa

  • Multimodaaliset sekoitusesimerkit

    • Phi-4 Esimerkit 🆕

• [📓] Phi-4-multimodaalin käyttäminen teknologian toimittajana

  • .NET-konsolisovellus, joka käyttää Phi-4-multimodaalia kuvien analysointiin

• Phi-näytteiden hienosäätö

  • Hienosäätötilanteet
  • Hienosäätö vs RAG
  • Hienosäätö: Tee Phi-3:sta alan asiantuntija
  • Phi-3:n hienosäätö VS Coden AI Toolkitilla
  • Phi-3:n hienosäätö Azure Machine Learning Servicellä
  • Phi-3:n hienosäätö Loralla
  • Phi-3:n hienosäätö QLoralla
  • Phi-3:n hienosäätö Azure AI Foundrylla
  • Phi-3:n hienosäätö Azure ML CLI/SDK:lla
  • Hienosäätö Microsoft Olivella
  • Hienosäätö Microsoft Olive Hands-On Labilla
  • Phi-3-visionin hienosäätö Weights and Biasilla
  • Phi-3:n hienosäätö Apple MLX Frameworkilla
  • Phi-3-visionin hienosäätö (virallinen tuki)
  • Phi-3:n ja Kaito AKS:n sekä Azure Containersin hienosäätö (virallinen tuki)
  • Phi-3:n ja 3.5 Visionin hienosäätö

• Hands on Lab

  • Tutustu huippumalleihin: LLM:t, SLM:t, paikallinen kehitys ja paljon muuta
  • NLP:n potentiaalin avaaminen: Hienosäätö Microsoft Olivella

• Akateemiset tutkimuspaperit ja julkaisut

  • Textbooks Are All You Need II: phi-1.5 tekninen raportti
  • Phi-3 tekninen raportti: Erittäin kyvykäs kielimalli paikallisesti puhelimellasi
  • Phi-4 tekninen raportti
  • Pienten kielimallien optimointi ajoneuvojen toimintakutsuihin
  • (WhyPHI) Phi-3:n hienosäätö monivalintakysymyksiin: Metodologia, tulokset ja haasteet

Phi-mallien käyttö

Phi Azure AI Foundryssa

Voit oppia käyttämään Microsoft Phitä ja rakentamaan E2E-ratkaisuja eri laitteistoillesi. Jos haluat kokeilla Phitä itse, aloita mallien testaamisesta ja räätälöi Phi omiin käyttötarkoituksiisi Azure AI Foundryn Azure AI Model Catalogin avulla. Lisätietoja saat aloittamalla Azure AI Foundry -oppaasta.

Leikkikenttä
Jokaisella mallilla on oma leikkikenttä mallin testaamiseen Azure AI Playground.

Phi GitHub-malleissa

Voit oppia käyttämään Microsoft Phitä ja rakentamaan E2E-ratkaisuja eri laitteistoillesi. Jos haluat kokeilla Phitä itse, aloita mallien testaamisesta ja räätälöi Phi omiin käyttötarkoituksiisi GitHub Model Catalogin avulla. Lisätietoja saat aloittamalla GitHub Model Catalog -oppaasta.

Leikkikenttä
Jokaisella mallilla on oma leikkikenttä mallin testaamiseen.

Phi Hugging Facessa

Voit myös löytää mallin Hugging Face -sivustolta.

Leikkikenttä
Hugging Chat -leikkikenttä

Vastuullinen tekoäly

Microsoft on sitoutunut auttamaan asiakkaitaan käyttämään tekoälytuotteitaan vastuullisesti, jakamaan oppimaansa ja rakentamaan luottamukseen perustuvia kumppanuuksia työkalujen, kuten läpinäkyvyysmuistiinpanojen ja vaikutustenarviointien, avulla. Monia näistä resursseista löytyy osoitteesta https://aka.ms/RAI.
Microsoftin lähestymistapa vastuulliseen tekoälyyn perustuu tekoälyperiaatteisiimme: oikeudenmukaisuus, luotettavuus ja turvallisuus, yksityisyys ja suojaus, osallisuus, läpinäkyvyys ja vastuuvelvollisuus.

Laajamittaiset luonnollisen kielen, kuvien ja puheen mallit – kuten tässä esimerkissä käytetyt – voivat mahdollisesti käyttäytyä epäoikeudenmukaisesti, epäluotettavasti tai loukkaavasti, mikä voi aiheuttaa haittaa. Tutustu Azure OpenAI -palvelun läpinäkyvyysmuistiinpanoon saadaksesi tietoa riskeistä ja rajoituksista.

Suositeltu tapa vähentää näitä riskejä on sisällyttää arkkitehtuuriin turvajärjestelmä, joka voi havaita ja estää haitallista käyttäytymistä. Azure AI Content Safety tarjoaa itsenäisen suojakerroksen, joka pystyy havaitsemaan haitallisen käyttäjä- ja tekoälytuotetun sisällön sovelluksissa ja palveluissa. Azure AI Content Safety sisältää tekstin ja kuvien rajapinnat, joiden avulla voit havaita haitallista materiaalia. Azure AI Foundryssa Content Safety -palvelu mahdollistaa haitallisen sisällön havaitsemisen kokeilun ja näytekoodin tutkimisen eri muodoissa. Seuraava pikaopas opastaa, kuinka voit tehdä palvelupyyntöjä.

Toinen huomioon otettava seikka on sovelluksen yleinen suorituskyky. Monimodaalisissa ja monimallisia sovelluksissa suorituskyky tarkoittaa, että järjestelmä toimii odotetusti, eikä tuota haitallisia tuloksia. On tärkeää arvioida sovelluksen suorituskykyä kokonaisuutena käyttämällä suorituskyvyn ja laadun sekä riskien ja turvallisuuden arvioijia. Voit myös luoda ja käyttää mukautettuja arvioijia.

Voit arvioida tekoälysovellustasi kehitysympäristössäsi käyttämällä Azure AI Evaluation SDK:ta. Testidatan tai tavoitteen avulla generatiivisen tekoälysovelluksesi tuotokset mitataan määrällisesti sisäänrakennettujen tai itse valitsemiesi mukautettujen arvioijien avulla. Aloittaaksesi Azure AI Evaluation SDK:n käytön järjestelmäsi arvioimiseen voit seurata pikaopasta. Kun olet suorittanut arviointikierroksen, voit visualisoida tulokset Azure AI Foundryssa.

Tavaramerkit

Tämä projekti saattaa sisältää tavaramerkkejä tai logoja projekteille, tuotteille tai palveluille. Microsoftin tavaramerkkien tai logojen luvallinen käyttö on Microsoftin Tavaramerkki- ja brändiohjeiden mukaista.
Microsoftin tavaramerkkien tai logojen käyttö muokatuissa projektiversioissa ei saa aiheuttaa sekaannusta tai antaa ymmärtää, että Microsoft sponsoroisi projektia. Kolmansien osapuolten tavaramerkkien tai logojen käyttö on niiden omien sääntöjen alaista.

Vastuuvapauslauseke:
Tämä asiakirja on käännetty konepohjaisilla tekoälyyn perustuvilla käännöspalveluilla. Vaikka pyrimme tarkkuuteen, on hyvä huomioida, että automaattiset käännökset voivat sisältää virheitä tai epätarkkuuksia. Alkuperäistä asiakirjaa sen alkuperäisellä kielellä tulisi pitää ensisijaisena lähteenä. Kriittisen tiedon osalta suositellaan ammattimaista ihmisen tekemää käännöstä. Emme ole vastuussa väärinkäsityksistä tai virheellisistä tulkinnoista, jotka johtuvat tämän käännöksen käytöstä.