Skip to content

Latest commit

 

History

History
102 lines (56 loc) · 5.45 KB

01.HF.md

File metadata and controls

102 lines (56 loc) · 5.45 KB

Hugging Face मध्ये Phi Family वापरणे

Hugging Face ही एक खूप लोकप्रिय AI समुदाय आहे, ज्यामध्ये समृद्ध डेटा आणि मुक्त स्रोत मॉडेल संसाधने उपलब्ध आहेत. वेगवेगळे उत्पादक Hugging Face द्वारे LLM आणि SLM मुक्त स्रोत म्हणून प्रसिद्ध करतात, जसे की Microsoft, Meta, Mistral, Apple, Google, इत्यादी.

Microsoft ने Phi Family Hugging Face वर उपलब्ध करून दिली आहे. विकसक त्यांच्या गरजेनुसार आणि व्यवसायाच्या परिस्थितीनुसार Phi Family चे मॉडेल डाउनलोड करू शकतात. Hugging Face वर Phi Pytorch मॉडेल तैनात करण्याव्यतिरिक्त, आम्ही GGUF आणि ONNX स्वरूपातील क्वांटाइझ्ड मॉडेल देखील जारी केली आहेत, ज्यामुळे अंतिम वापरकर्त्यांना निवडीचा पर्याय मिळतो.

Hugging Face वरून मॉडेल डाउनलोड करणे

तुम्ही खालील लिंकद्वारे Phi Family चे मॉडेल डाउनलोड करू शकता:

तुम्ही वेगवेगळ्या पद्धतीने मॉडेल डाउनलोड करू शकता, जसे की Hugging Face CLI SDK स्थापित करणे किंवा git clone वापरणे.

Hugging Face CLI वापरून Phi Family मॉडेल डाउनलोड करणे

  • Hugging Face CLI स्थापित करा
pip install -U "huggingface_hub[cli]"
  • huggingface-cli वापरून लॉगिन करा

User Access Token चा वापर करून तुमच्या Settings पृष्ठावरून Hugging Face वर लॉगिन करा.

huggingface-cli login --token $HF_TOKEN --add-to-git-credential
  • डाउनलोड करा

तुम्ही मॉडेल डाउनलोड करून कॅशेमध्ये सेव्ह करू शकता.

huggingface-cli download microsoft/phi-4

तुम्ही ते एखाद्या विशिष्ट ठिकाणी सेव्ह करू शकता.

huggingface-cli download microsoft/phi-4 --local-dir $YOUR_PATH

git clone वापरून Phi Family मॉडेल डाउनलोड करणे

तुम्ही git clone वापरून देखील मॉडेल डाउनलोड करू शकता.

git lfs install

git clone https://huggingface.co/microsoft/phi-4

नमुने - Microsoft Phi-4 साठी Inference

  • transformers लायब्ररी स्थापित करणे
pip install transformers -U
  • VSCode मध्ये हा कोड चालवणे
import transformers

pipeline = transformers.pipeline(
    "text-generation",
    model="microsoft/phi-4",
    model_kwargs={"torch_dtype": "auto"},
    device_map="auto",
)

messages = [
    {"role": "user", "content": "I have $20,000 in my savings account, where I receive a 4% profit per year and payments twice a year. Can you please tell me how long it will take for me to become a millionaire? Also, can you please explain the math step by step as if you were explaining it to an uneducated person?"},
]

outputs = pipeline(messages, max_new_tokens=2048)
print(outputs[0]["generated_text"][-1])

अस्वीकरण:
हे दस्तऐवज मशीन-आधारित एआय भाषांतर सेवा वापरून अनुवादित केले गेले आहे. आम्ही अचूकतेसाठी प्रयत्नशील असलो तरी, कृपया लक्षात घ्या की स्वयंचलित भाषांतरांमध्ये त्रुटी किंवा अचूकतेचा अभाव असू शकतो. मूळ भाषेतील मूळ दस्तऐवज हा अधिकृत स्रोत मानला पाहिजे. महत्त्वाच्या माहितीसाठी, व्यावसायिक मानवी भाषांतराची शिफारस केली जाते. या भाषांतराचा वापर केल्यामुळे होणाऱ्या कोणत्याही गैरसमज किंवा चुकीच्या अर्थासाठी आम्ही जबाबदार नाही.