मैं स्थानीय रूप से सेजमेकर मॉडल को तैनात करने के बारे में विभिन्न पोस्ट देख रहा था, लेकिन स्थानीय स्तर पर भविष्यवाणी/सेवा चलाने के लिए उन्हें एडब्ल्यूएस नोटबुक इंस्टेंस से बंधे रहना होगा (एडब्ल्यूएस सेजमेकर पायथन एसडीके)। यह सेजमेकर प्रशिक्षित मॉडल को पूरी तरह से ऑफ़लाइन चलाने के वास्तविक इरादे को हरा देता है। इसके अलावा कुछ अन्य लोग भी हैं जिन्होंने S3 पर tar.gz फ़ाइल को अनपिक करने का प्रयास किया, इसके बाद सामग्री को स्थानीय रूप से परिनियोजित करने के लिए रैप किया। हालाँकि यह प्रक्रिया कुछ विशेष प्रकार के मॉडलों जैसे कि XGBoost और MXnet तक ही सीमित प्रतीत होती है। इसलिए सेजमेकर नोटबुक इंस्टेंस पर निर्भरता के बिना सेजमेकर प्रशिक्षित मॉडल को ऑफ़लाइन तैनात करने का कोई तरीका है? सलाह के किसी भी रूप की सराहना की जाएगी। धन्यवाद।

2
Zach 20 फरवरी 2020, 02:46
क्या आप SaegMaker बिल्ड-इन एल्गोरिदम के संबंध में पूछ रहे हैं? या SageMaker में अपने स्वयं के ढांचे (TF, Pytorch, ...) का उपयोग कर रहे हैं?
 – 
Gili Nachum
20 फरवरी 2020, 11:56
हाय गिली नाचुम। मैं सेजमेकर बिल्ड-इन एल्गोरिदम और सेजमेकर में खुद के ढांचे दोनों का जिक्र कर रहा हूं। क्या हम प्रशिक्षण के बाद एडब्ल्यूएस पर निर्भरता के बिना सेजमेकर पर प्रशिक्षित मॉडल को पूरी तरह से ऑफ़लाइन तैनात/सेवा कर सकते हैं? यदि नहीं तो क्या सीमाएँ हैं?
 – 
Zach
20 फरवरी 2020, 23:04
क्या आपको इसके लिए कोई प्रासंगिक समाधान/ब्लॉग मिला।
 – 
Srini
20 नवम्बर 2020, 15:37
एटीएम नहीं, अब भी जवाब ढूंढ रहे हैं
 – 
Zach
9 जून 2021, 09:13
क्या किसी को इसका अच्छा जवाब मिला? मेरे पास TensorFlow स्थापित करने और स्थानीय रूप से सेवा करने के बारे में एक कोलाब नोटबुक है यदि इससे मदद मिलती है। colab.research.google. com/github/tensorflow/tfx/blob/master/…
 – 
Charles Curt
22 सितंबर 2021, 05:44

2 जवाब

एक बार जब आप Amazon SageMaker का उपयोग करके एक मॉडल को प्रशिक्षित कर लेते हैं तो आपके पास एक मॉडल प्रविष्टि होगी। मॉडल S3 में एक मॉडल आर्टिफैक्ट को इंगित करेगा। इस tag.gz फ़ाइल में मॉडल भार हैं। फ़ाइल का प्रारूप उस ढांचे (टेंसरफ़्लो/पाइटोरच/एमएक्सनेट/...) पर निर्भर करता है जिसका उपयोग आपने मॉडल को प्रशिक्षित करने के लिए किया है। यदि आपने SageMaker बिल्ट-इन एल्गोरिदम का उपयोग किया है, तो उनमें से अधिकांश MXNet, या XGBoost के साथ क्रियान्वित किए गए हैं, ताकि आप मॉडल को चलाने के लिए प्रासंगिक मॉडल सर्विंग सॉफ़्टवेयर का उपयोग कर सकें।
यदि आपको सर्विंग सॉफ़्टवेयर की आवश्यकता है, तो आप अपने स्थानीय अनुमान सर्वर पर, अनुमान मोड में सेजमेकर डीप-लर्निंग कंटेनर चला सकते हैं। या TFServing जैसे ओपन-सोर्स सर्विंग सॉफ़्टवेयर का उपयोग करें, या मॉडल को इन-मेमोरी में लोड करें।

0
Gili Nachum 25 फरवरी 2020, 15:45
हाय गिली नाचुम। हाँ, मुझे पता है कि मॉडल भार S3 शाखा में tar.gz फ़ाइल के रूप में संग्रहीत हैं। हालांकि मेरा सवाल यह है कि तैनाती के लिए किसी सेजमेकर के उपयोग के बिना आप अपने सर्वर पर प्रशिक्षित सेजमेकर मॉडल को ऑफ़लाइन कैसे सेवा या चलाते हैं। एक गहन शिक्षण मॉडल को चलाने के लिए आपको मॉडल कलाकृतियों (वजन) की आवश्यकता होती है और साथ ही मॉडल को स्थानीय रूप से दोहराने और तैनात करने के लिए छवि की भी आवश्यकता होती है? तो क्या वास्तव में एडब्ल्यूएस पर निर्भरता के बिना मॉडल को ऑफ़लाइन तैनात करने का कोई तरीका है। एक उदाहरण भी बहुत अच्छा होगा। धन्यवाद।
 – 
Zach
26 फरवरी 2020, 00:14

मैंने स्थानीय रूप से अमेजन सेजमेकर लोकल मोड। मेरा मानना ​​​​है कि वही प्रक्रिया अन्य एमएल ढांचे के लिए काम करती है जिसमें आधिकारिक सेजमेकर कंटेनर होते हैं। आप स्थानीय रूप से वही डॉकटर कंटेनर चला सकते हैं जो सेजमेकर आपके मॉडल को एडब्ल्यूएस इन्फ्रास्ट्रक्चर पर तैनात करते समय उपयोग करता है।

स्थानीय रूप से अनुमान के लिए सेजमेकर एंडपॉइंट को तैनात करने के लिए दस्तावेज़ थोड़े बिखरे हुए हैं। एक सारांश:

  1. एपीआई क्लाइंट के स्थानीय संस्करणों का उपयोग करें: आम तौर पर, आप पाइथन से सेजमेकर का उपयोग करने के लिए botocore.client.SageMaker और botocore.client.SageMakerRuntime कक्षाओं का उपयोग करते हैं। स्थानीय रूप से सेजमेकर का उपयोग करने के लिए, इसके बजाय sagemaker.local.LocalSagemakerClient() और sagemaker.local.LocalSagemakerRuntimeClient() का उपयोग करें।
  2. आप चाहें तो स्थानीय tar.gz मॉडल फ़ाइल का उपयोग कर सकते हैं।
  3. मॉडल को परिनियोजित करते समय instance_type को local पर सेट करें।

मैंने पाइटोरच के लिए स्थानीय AWS सेजमेकर वातावरण कैसे सेटअप करें, जो विस्तार से बताता है कि यह कैसे काम करता है।

1
Derek Haynes 3 अप्रैल 2020, 06:34
क्या आपके पाइटोरच मॉडल सेजमेकर पर प्रशिक्षित हैं? मैं सेजमेकर प्रशिक्षित मॉडल को सेजमेकर प्लेटफॉर्म को कॉल किए बिना/सेजमेकर इंस्टेंस से किसी भी प्रकार की कनेक्टिविटी के बिना पूरी तरह से ऑफ़लाइन तैनात करने की बात कर रहा हूं। कारण यह है कि किसी इंस्टेंस की मेजबानी में पैसे खर्च होते हैं, और यह एक अनावश्यक निर्भरता है जिसे प्रशिक्षण के बाद दूर किया जा सकता है।
 – 
Zach
3 अप्रैल 2020, 10:17