README.md

Phi Cookbook: Πρακτικά Παραδείγματα με τα Μοντέλα Phi της Microsoft

Το Phi είναι μια σειρά από ανοιχτού κώδικα μοντέλα AI που έχει αναπτύξει η Microsoft.

Το Phi είναι αυτή τη στιγμή το πιο ισχυρό και οικονομικό μικρό μοντέλο γλώσσας (SLM), με εξαιρετικές επιδόσεις σε πολλαπλές γλώσσες, λογική, παραγωγή κειμένου/συνομιλιών, προγραμματισμό, εικόνες, ήχο και άλλα σενάρια.

Μπορείτε να αναπτύξετε το Phi στο cloud ή σε edge συσκευές και να δημιουργήσετε εύκολα εφαρμογές γεννητικού AI με περιορισμένη υπολογιστική ισχύ.

Ακολουθήστε αυτά τα βήματα για να ξεκινήσετε να χρησιμοποιείτε αυτούς τους πόρους:

1. Δημιουργία διακλάδωσης (Fork) του αποθετηρίου: Πατήστε
2. Κλωνοποίηση του αποθετηρίου: git clone https://github.com/microsoft/PhiCookBook.git
3. Γίνετε μέλος της Microsoft AI Discord Κοινότητας και γνωρίστε ειδικούς και άλλους προγραμματιστές

Πίνακας Περιεχομένων

• Εισαγωγή

  • Καλωσήρθατε στην Οικογένεια Phi
  • Ρύθμιση του περιβάλλοντός σας
  • Κατανόηση των Βασικών Τεχνολογιών
  • Ασφάλεια AI για τα Μοντέλα Phi
  • Υποστήριξη Υλικού για τα Phi
  • Διαθεσιμότητα Μοντέλων Phi σε Πλατφόρμες
  • Χρήση Guidance-ai και Phi
  • Μοντέλα στο GitHub Marketplace
  • Κατάλογος Μοντέλων Azure AI

• Χρήση του Phi σε διαφορετικά περιβάλλοντα

  • Hugging face
  • Μοντέλα GitHub
  • Κατάλογος Μοντέλων Azure AI Foundry
  • Ollama
  • AI Toolkit VSCode (AITK)
  • NVIDIA NIM

• Χρήση της Οικογένειας Phi

  • Χρήση του Phi σε iOS
  • Χρήση του Phi σε Android

• Εκτέλεση Phi σε Jetson

  • Εκτέλεση Phi σε AI PC
  • Εκτέλεση Phi με το Apple MLX Framework
  • Εκτέλεση Phi σε Τοπικό Server
  • Εκτέλεση Phi σε Απομακρυσμένο Server χρησιμοποιώντας το AI Toolkit
  • Εκτέλεση Phi με Rust
  • Εκτέλεση Phi--Vision Τοπικά
  • Εκτέλεση Phi με Kaito AKS, Azure Containers (επίσημη υποστήριξη)

• Ποσοτικοποίηση της Οικογένειας Phi

  • Ποσοτικοποίηση των Phi-3.5 / 4 με χρήση του llama.cpp
  • Ποσοτικοποίηση των Phi-3.5 / 4 με επεκτάσεις Generative AI για onnxruntime
  • Ποσοτικοποίηση των Phi-3.5 / 4 με το Intel OpenVINO
  • Ποσοτικοποίηση των Phi-3.5 / 4 με το Apple MLX Framework

• Αξιολόγηση του Phi

  • Υπεύθυνη AI
  • Azure AI Foundry για Αξιολόγηση
  • Χρήση του Promptflow για Αξιολόγηση

• RAG με το Azure AI Search

  • Πώς να χρησιμοποιήσετε τα Phi-4-mini και Phi-4-multimodal (RAG) με το Azure AI Search

• Παραδείγματα ανάπτυξης εφαρμογών Phi

  • Εφαρμογές Κειμένου & Συνομιλίας
    • Παραδείγματα Phi-4 🆕
      • [📓] Συνομιλία με το Phi-4-mini ONNX Model
      • Συνομιλία με το Phi-4 τοπικά με ONNX Model στο .NET
      • Συνομιλία .NET Console App με το Phi-4 ONNX χρησιμοποιώντας το Semantic Kernel
    • Παραδείγματα Phi-3 / 3.5
      • Τοπικό Chatbot στον περιηγητή χρησιμοποιώντας το Phi3, ONNX Runtime Web και WebGPU
      • Συνομιλία OpenVino
      • Πολυμοντέλο - Διαδραστικό Phi-3-mini και OpenAI Whisper
      • MLFlow - Δημιουργία wrapper και χρήση του Phi-3 με το MLFlow
      • Βελτιστοποίηση Μοντέλου - Πώς να βελτιστοποιήσετε το μοντέλο Phi-3-min για το ONNX Runtime Web με το Olive
      • Εφαρμογή WinUI3 με το Phi-3 mini-4k-instruct-onnx
      • Δείγμα Εφαρμογής Σημειώσεων με Τεχνητή Νοημοσύνη στο WinUI3
      • Fine-tune και Ενσωμάτωση Προσαρμοσμένων Μοντέλων Phi-3 με το Prompt flow
      • Fine-tune και Ενσωμάτωση Προσαρμοσμένων Μοντέλων Phi-3 με το Prompt flow στο Azure AI Foundry
      • Αξιολόγηση του Fine-tuned Μοντέλου Phi-3 / Phi-3.5 στο Azure AI Foundry με Έμφαση στις Αρχές Υπεύθυνης AI της Microsoft

• [📓] Δείγμα πρόβλεψης γλώσσας Phi-3.5-mini-instruct (Κινέζικα/Αγγλικά) - Chatbot RAG Phi-3.5-Instruct WebGPU - Χρήση GPU Windows για δημιουργία λύσης Prompt flow με Phi-3.5-Instruct ONNX - Χρήση του Microsoft Phi-3.5 tflite για δημιουργία Android εφαρμογής - Παράδειγμα Q&A .NET χρησιμοποιώντας τοπικό μοντέλο ONNX Phi-3 με το Microsoft.ML.OnnxRuntime - Εφαρμογή συνομιλίας κονσόλας .NET με Semantic Kernel και Phi-3

  • Δείγματα κώδικα SDK Inference Azure AI

    • Δείγματα Phi-4 🆕
      • [📓] Δημιουργία κώδικα έργου με το Phi-4-multimodal
    • Δείγματα Phi-3 / 3.5
      • Δημιουργήστε το δικό σας Visual Studio Code GitHub Copilot Chat με την οικογένεια Microsoft Phi-3
      • Δημιουργήστε τον δικό σας Visual Studio Code Chat Copilot Agent με το Phi-3.5 μέσω των μοντέλων GitHub

  • Δείγματα Προηγμένης Λογικής

    • Δείγματα Phi-4 🆕
      • [📓] Δείγματα μίνι λογικής Phi-4

  • Επιδείξεις

    • Επιδείξεις μίνι Phi-4 που φιλοξενούνται στο Hugging Face Spaces
    • Επιδείξεις πολυτροπικού Phi-4 που φιλοξενούνται στο Hugging Face Spaces

  • Δείγματα Όρασης

    • Δείγματα Phi-4 🆕
      • [📓] Χρήση του Phi-4-multimodal για ανάγνωση εικόνων και δημιουργία κώδικα
    • Δείγματα Phi-3 / 3.5
      • [📓]Phi-3-vision-Μετατροπή κειμένου από εικόνα σε κείμενο
      • Phi-3-vision-ONNX
      • [📓]Phi-3-vision CLIP Embedding
      • ΕΠΙΔΕΙΞΗ: Phi-3 Ανακύκλωση
      • Phi-3-vision - Οπτικός γλωσσικός βοηθός - με Phi3-Vision και OpenVINO
      • Phi-3 Vision Nvidia NIM
      • Phi-3 Vision OpenVino
      • [📓]Δείγμα πολλαπλών καρέ ή εικόνων Phi-3.5 Vision
      • Τοπικό μοντέλο ONNX Phi-3 Vision χρησιμοποιώντας το Microsoft.ML.OnnxRuntime .NET
      • Μενού για τοπικό μοντέλο ONNX Phi-3 Vision χρησιμοποιώντας το Microsoft.ML.OnnxRuntime .NET

  • Δείγματα Ήχου

    • Δείγματα Phi-4 🆕
      • [📓] Εξαγωγή απομαγνητοφωνήσεων ήχου με το Phi-4-multimodal
      • [📓] Δείγμα Ήχου Phi-4-multimodal
      • [📓] Δείγμα Μετάφρασης Ομιλίας Phi-4-multimodal
      • Εφαρμογή κονσόλας .NET με το Phi-4-multimodal για ανάλυση αρχείου ήχου και δημιουργία απομαγνητοφώνησης

  • Δείγματα MOE

    • Δείγματα Phi-3 / 3.5
      • [📓] Δείγμα Social Media Μοντέλων Μείγματος Ειδικών (MoEs) Phi-3.5
      • [📓] Δημιουργία αγωγού RAG (Ανάκτηση-Ενισχυμένη Γενεά) με NVIDIA NIM Phi-3 MOE, Azure AI Search, και LlamaIndex

  • Δείγματα Κλήσης Συναρτήσεων

    • Δείγματα Phi-4 🆕
      • [📓] Χρήση Κλήσης Συναρτήσεων με το Phi-4-mini

  • Δείγματα Ανάμειξης Πολυτροπικών

    • Δείγματα Phi-4 🆕

• [📓] Χρήση του Phi-4-multimodal ως Τεχνολογικός δημοσιογράφος

  • .NET εφαρμογή κονσόλας που χρησιμοποιεί το Phi-4-multimodal για ανάλυση εικόνων

• Fine-tuning Δείγματα Phi

  • Σενάρια Fine-tuning
  • Fine-tuning vs RAG
  • Fine-tuning: Κάνε το Phi-3 ειδικό στον κλάδο
  • Fine-tuning του Phi-3 με το AI Toolkit για το VS Code
  • Fine-tuning του Phi-3 με την υπηρεσία Azure Machine Learning
  • Fine-tuning του Phi-3 με Lora
  • Fine-tuning του Phi-3 με QLora
  • Fine-tuning του Phi-3 με το Azure AI Foundry
  • Fine-tuning του Phi-3 με το Azure ML CLI/SDK
  • Fine-tuning με το Microsoft Olive
  • Fine-tuning με το Microsoft Olive Hands-On Lab
  • Fine-tuning του Phi-3-vision με Weights and Bias
  • Fine-tuning του Phi-3 με το Apple MLX Framework
  • Fine-tuning του Phi-3-vision (επίσημη υποστήριξη)
  • Fine-tuning του Phi-3 με το Kaito AKS, Azure Containers (επίσημη υποστήριξη)
  • Fine-tuning του Phi-3 και του 3.5 Vision

• Εργαστήριο Εμπειρίας

  • Εξερεύνηση καινοτόμων μοντέλων: LLMs, SLMs, τοπική ανάπτυξη και άλλα
  • Απελευθερώνοντας το δυναμικό του NLP: Fine-Tuning με το Microsoft Olive

• Ακαδημαϊκές Ερευνητικές Εργασίες και Δημοσιεύσεις

  • Textbooks Are All You Need II: phi-1.5 τεχνική αναφορά
  • Phi-3 Τεχνική Αναφορά: Ένα Ικανό Μοντέλο Γλώσσας Τοπικά στο Τηλέφωνό σας
  • Phi-4 Τεχνική Αναφορά
  • Βελτιστοποίηση Μικρών Μοντέλων Γλώσσας για Εντός Οχήματος Λειτουργίες
  • (WhyPHI) Fine-Tuning PHI-3 για Ερωτήσεις Πολλαπλής Επιλογής: Μεθοδολογία, Αποτελέσματα και Προκλήσεις

Χρήση των Μοντέλων Phi

Phi στο Azure AI Foundry

Μπορείτε να μάθετε πώς να χρησιμοποιείτε το Microsoft Phi και πώς να δημιουργείτε ολοκληρωμένες λύσεις στις διάφορες συσκευές σας. Για να δοκιμάσετε το Phi μόνοι σας, ξεκινήστε παίζοντας με τα μοντέλα και προσαρμόζοντας το Phi στα δικά σας σενάρια μέσω του Azure AI Foundry Azure AI Model Catalog. Μπορείτε να μάθετε περισσότερα ξεκινώντας από τον οδηγό Azure AI Foundry.

Playground
Κάθε μοντέλο έχει έναν ειδικό χώρο δοκιμών Azure AI Playground.

Phi στα Μοντέλα του GitHub

Μπορείτε να μάθετε πώς να χρησιμοποιείτε το Microsoft Phi και πώς να δημιουργείτε ολοκληρωμένες λύσεις στις διάφορες συσκευές σας. Για να δοκιμάσετε το Phi μόνοι σας, ξεκινήστε παίζοντας με το μοντέλο και προσαρμόζοντας το Phi στα δικά σας σενάρια μέσω του GitHub Model Catalog. Μπορείτε να μάθετε περισσότερα ξεκινώντας από τον οδηγό GitHub Model Catalog.

Playground Κάθε μοντέλο διαθέτει ένα ειδικό περιβάλλον δοκιμών για το μοντέλο.

Phi στο Hugging Face

Μπορείτε επίσης να βρείτε το μοντέλο στο Hugging Face

Περιβάλλον δοκιμών Περιβάλλον Hugging Chat

Υπεύθυνη Τεχνητή Νοημοσύνη

Η Microsoft δεσμεύεται να βοηθήσει τους πελάτες της να χρησιμοποιούν τα προϊόντα Τεχνητής Νοημοσύνης με υπευθυνότητα, μοιράζοντας τις γνώσεις της και χτίζοντας σχέσεις εμπιστοσύνης μέσω εργαλείων όπως οι Σημειώσεις Διαφάνειας και οι Αξιολογήσεις Επιπτώσεων. Πολλοί από αυτούς τους πόρους βρίσκονται στο https://aka.ms/RAI.
Η προσέγγιση της Microsoft για υπεύθυνη Τεχνητή Νοημοσύνη βασίζεται στις αρχές μας για δικαιοσύνη, αξιοπιστία και ασφάλεια, ιδιωτικότητα και προστασία, συμπερίληψη, διαφάνεια και λογοδοσία.

Τα μεγάλης κλίμακας μοντέλα φυσικής γλώσσας, εικόνας και ομιλίας - όπως αυτά που χρησιμοποιούνται σε αυτό το δείγμα - ενδέχεται να συμπεριφέρονται με τρόπους που είναι άδικοι, αναξιόπιστοι ή προσβλητικοί, προκαλώντας έτσι βλάβες. Συμβουλευτείτε τη Σημείωση Διαφάνειας της υπηρεσίας Azure OpenAI για να ενημερωθείτε σχετικά με τους κινδύνους και τους περιορισμούς.

Η συνιστώμενη προσέγγιση για την αντιμετώπιση αυτών των κινδύνων είναι η ενσωμάτωση ενός συστήματος ασφάλειας στην αρχιτεκτονική σας που μπορεί να ανιχνεύει και να αποτρέπει επιβλαβείς συμπεριφορές. Η Ασφάλεια Περιεχομένου του Azure AI παρέχει ένα ανεξάρτητο επίπεδο προστασίας, ικανό να ανιχνεύει επιβλαβές περιεχόμενο που παράγεται από χρήστες ή από Τεχνητή Νοημοσύνη σε εφαρμογές και υπηρεσίες. Η Ασφάλεια Περιεχομένου του Azure AI περιλαμβάνει APIs για κείμενο και εικόνα που σας επιτρέπουν να ανιχνεύετε επιβλαβές υλικό. Στο Azure AI Foundry, η υπηρεσία Ασφάλειας Περιεχομένου σας επιτρέπει να δείτε, να εξερευνήσετε και να δοκιμάσετε παραδείγματα κώδικα για την ανίχνευση επιβλαβούς περιεχομένου σε διάφορες μορφές. Η ακόλουθη τεκμηρίωση γρήγορης έναρξης σας καθοδηγεί στη διαδικασία αποστολής αιτημάτων στην υπηρεσία.

Ένας άλλος παράγοντας που πρέπει να ληφθεί υπόψη είναι η συνολική απόδοση της εφαρμογής. Σε εφαρμογές πολλαπλών μοντέλων και πολλαπλών μορφών, η απόδοση σημαίνει ότι το σύστημα λειτουργεί όπως εσείς και οι χρήστες σας περιμένετε, συμπεριλαμβανομένου του να μην παράγει επιβλαβείς εξόδους. Είναι σημαντικό να αξιολογήσετε την απόδοση της συνολικής εφαρμογής σας χρησιμοποιώντας Αξιολογητές Απόδοσης και Ποιότητας και Αξιολογητές Κινδύνου και Ασφάλειας. Μπορείτε επίσης να δημιουργήσετε και να αξιολογήσετε με προσαρμοσμένους αξιολογητές.

Μπορείτε να αξιολογήσετε την εφαρμογή Τεχνητής Νοημοσύνης σας στο περιβάλλον ανάπτυξης χρησιμοποιώντας το Azure AI Evaluation SDK. Δίνοντας είτε ένα σύνολο δεδομένων δοκιμής είτε έναν στόχο, οι γεννήσεις της εφαρμογής σας Τεχνητής Νοημοσύνης μετριούνται ποσοτικά με ενσωματωμένους αξιολογητές ή προσαρμοσμένους αξιολογητές της επιλογής σας. Για να ξεκινήσετε με το azure ai evaluation sdk και να αξιολογήσετε το σύστημά σας, μπορείτε να ακολουθήσετε τον οδηγό γρήγορης έναρξης. Μόλις εκτελέσετε έναν κύκλο αξιολόγησης, μπορείτε να οπτικοποιήσετε τα αποτελέσματα στο Azure AI Foundry.

Εμπορικά Σήματα

Αυτό το έργο μπορεί να περιέχει εμπορικά σήματα ή λογότυπα για έργα, προϊόντα ή υπηρεσίες. Η εξουσιοδοτημένη χρήση των εμπορικών σημάτων ή λογοτύπων της Microsoft υπόκειται και πρέπει να ακολουθεί τις Οδηγίες Χρήσης Εμπορικών Σημάτων & Επωνυμιών της Microsoft.
Η χρήση εμπορικών σημάτων ή λογοτύπων της Microsoft σε τροποποιημένες εκδόσεις αυτού του έργου δεν πρέπει να προκαλεί σύγχυση ή να υπονοεί χορηγία από τη Microsoft. Οποιαδήποτε χρήση εμπορικών σημάτων ή λογοτύπων τρίτων υπόκειται στις πολιτικές αυτών των τρίτων.

Αποποίηση ευθυνών:
Αυτό το έγγραφο έχει μεταφραστεί χρησιμοποιώντας υπηρεσίες αυτόματης μετάφρασης βασισμένες σε τεχνητή νοημοσύνη. Παρόλο που καταβάλλουμε προσπάθειες για ακρίβεια, παρακαλούμε να έχετε υπόψη ότι οι αυτόματες μεταφράσεις ενδέχεται να περιέχουν λάθη ή ανακρίβειες. Το πρωτότυπο έγγραφο στη μητρική του γλώσσα θα πρέπει να θεωρείται η αυθεντική πηγή. Για κρίσιμες πληροφορίες, συνιστάται επαγγελματική ανθρώπινη μετάφραση. Δεν φέρουμε ευθύνη για τυχόν παρανοήσεις ή εσφαλμένες ερμηνείες που προκύπτουν από τη χρήση αυτής της μετάφρασης.