आम्ही Guidance ला Azure AI Foundry मधील Phi-3.5-mini serverless endpoint ऑफरमध्ये आणत आहोत, ज्यामुळे एखाद्या अनुप्रयोगासाठी संरचना निश्चित करून आउटपुट अधिक प्रेडिक्टेबल बनते. Guidance च्या मदतीने, तुम्ही महागड्या रीट्राय टाळू शकता आणि, उदाहरणार्थ, मॉडेलला पूर्वनिर्धारित यादी (उदा., वैद्यकीय कोड्स) मधून निवडण्यासाठी मर्यादित करू शकता, दिलेल्या संदर्भातून थेट कोट्सपुरते आउटपुट मर्यादित करू शकता, किंवा कोणत्याही regex चे पालन करू शकता. Guidance इन्फरन्स स्टॅकमध्ये टोकन बाय टोकन मॉडेलचे मार्गदर्शन करते, ज्यामुळे 30-50% खर्च आणि विलंब कमी होतो, आणि त्यामुळे Phi-3-mini serverless endpoint साठी हे एक अद्वितीय आणि मौल्यवान अॅड-ऑन बनते.
Guidance-AI हे एक फ्रेमवर्क आहे जे विकसकांना AI मॉडेल्स कार्यक्षमतेने तयार करण्यासाठी आणि तैनात करण्यासाठी मदत करते. हे मजबूत AI अनुप्रयोग तयार करण्यासाठी साधने आणि सर्वोत्तम पद्धती प्रदान करण्यावर लक्ष केंद्रित करते.
Phi Models as a Service (MaaS) सोबत वापरल्यावर, हे लहान भाषा मॉडेल्स (SLMs) तैनात करण्यासाठी एक शक्तिशाली आणि खर्च-प्रभावी उपाय प्रदान करते.
Guidance-AI हे एक प्रोग्रामिंग फ्रेमवर्क आहे जे विकसकांना मोठ्या भाषा मॉडेल्स (LLMs) चांगल्या प्रकारे नियंत्रित करण्यास आणि मार्गदर्शन करण्यास मदत करते. हे आउटपुटची अचूक संरचना करण्याची परवानगी देते, पारंपरिक प्रॉम्प्टिंग किंवा फाइन-ट्यूनिंग पद्धतींच्या तुलनेत विलंब आणि खर्च कमी करते.
- कार्यक्षम नियंत्रण: भाषा मॉडेल कसे मजकूर तयार करते हे नियंत्रित करण्यासाठी विकसकांना सक्षम करते, उच्च-गुणवत्तेचे आणि संबंधित आउटपुट सुनिश्चित करते.
- खर्च आणि विलंब कमी करणे: जनरेशन प्रक्रिया अधिक खर्च-प्रभावी आणि जलद बनवते.
- लवचिक एकत्रीकरण: Transformers, llama.cpp, AzureAI, VertexAI, आणि OpenAI यासह विविध बॅकएंडसह कार्य करते.
- समृद्ध आउटपुट संरचना: शर्ती, लूप्स, आणि टूल्सचा वापर यांसारख्या जटिल आउटपुट संरचनांना समर्थन देते, ज्यामुळे स्पष्ट आणि पार्सेबल परिणाम तयार करणे सोपे होते.
- सुसंगतता: एकच Guidance प्रोग्राम एकाधिक बॅकएंडवर चालवता येतो, ज्यामुळे लवचिकता आणि वापरण्यास सुलभता वाढते.
- मर्यादित जनरेशन: मॉडेलच्या आउटपुटला मार्गदर्शन करण्यासाठी रेग्युलर एक्सप्रेशन्स आणि कॉन्टेक्स्ट-फ्री ग्रामर्सचा वापर.
- टूल इंटिग्रेशन: कंट्रोल आणि जनरेशन स्वयंचलितपणे इंटरलीव्ह करणे, जसे की मजकूर जनरेशन कार्यामध्ये कॅल्क्युलेटर वापरणे.
अधिक तपशीलवार माहिती आणि उदाहरणांसाठी, तुम्ही Guidance-AI GitHub repository पाहू शकता.
- खर्च-प्रभावी: उच्च कार्यक्षमता राखून परवडणारे डिझाइन केलेले.
- कमी विलंब: जलद प्रतिसादांची आवश्यकता असलेल्या रिअल-टाइम अनुप्रयोगांसाठी आदर्श.
- लवचिकता: क्लाउड, एज, आणि ऑफलाइन परिस्थितींमध्ये तैनात केले जाऊ शकते.
- सानुकूलन: डोमेन-विशिष्ट डेटासह मॉडेल्सला फाइन-ट्यून करून कार्यक्षमता सुधारित करता येते.
- सुरक्षा आणि अनुपालन: Microsoft च्या AI तत्त्वांसह तयार केलेले, जे जबाबदारी, पारदर्शकता, न्याय, विश्वासार्हता, सुरक्षा, गोपनीयता, आणि समावेशकता सुनिश्चित करतात.
Phi मॉडेल्स इन्फरन्स API द्वारे पे-पर-यूज बिलिंग सिस्टममध्ये उपलब्ध आहेत, ज्यामुळे मोठ्या प्रारंभिक खर्चाशिवाय त्यांना तुमच्या अनुप्रयोगांमध्ये समाकलित करणे सोपे होते.
Phi मॉडेल्स वापरण्यास सुरुवात करण्यासाठी, तुम्ही Azure AI मॉडेल कॅटलॉग किंवा GitHub Marketplace Models पाहू शकता, जे प्रीबिल्ट आणि सानुकूल मॉडेल्स ऑफर करतात. याशिवाय, तुम्ही Azure AI Foundry सारखी साधने वापरून तुमचे AI अनुप्रयोग विकसित आणि तैनात करू शकता.
Guidance सोबत सुरुवात करण्यासाठी नमुना नोटबुक
अस्वीकरण:
हा दस्तऐवज मशीन-आधारित एआय भाषांतर सेवांचा वापर करून अनुवादित करण्यात आला आहे. आम्ही अचूकतेसाठी प्रयत्नशील असलो तरी, कृपया लक्षात घ्या की स्वयंचलित भाषांतरांमध्ये त्रुटी किंवा अचूकतेचा अभाव असू शकतो. मूळ भाषेतील मूळ दस्तऐवज अधिकृत स्रोत मानला जावा. महत्त्वाच्या माहितीसाठी, व्यावसायिक मानव भाषांतराची शिफारस केली जाते. या भाषांतराचा वापर केल्यामुळे होणाऱ्या कोणत्याही गैरसमज किंवा चुकीच्या अर्थासाठी आम्ही जबाबदार नाही.