Amazon Web Services (AWS) ने चालू असलेल्या re:Invent कॉन्फरन्समध्ये एक नवीन सेवा लाँच केली जी एंटरप्राइझना कृत्रिम बुद्धिमत्ता (AI) भ्रमाची घटना कमी करण्यास मदत करेल. सोमवारी लाँच केलेले, ऑटोमेटेड रिझनिंग चेक टूल पूर्वावलोकनात उपलब्ध आहे आणि Amazon Bedrock Guardrails मध्ये आढळू शकते. कंपनीने असा दावा केला आहे की हे टूल मोठ्या लँग्वेज मॉडेल्स (LLMs) द्वारे व्युत्पन्न केलेल्या प्रतिसादांच्या अचूकतेचे गणितीय प्रमाणीकरण करते आणि भ्रम पासून तथ्यात्मक त्रुटी टाळते. हे ग्राउंडिंग विथ Google Search वैशिष्ट्यासारखेच आहे जे Gemini API तसेच Google AI स्टुडिओ दोन्हीवर उपलब्ध आहे.
AWS ऑटोमेटेड रिझनिंग चेक
AI मॉडेल अनेकदा चुकीचे, दिशाभूल करणारे किंवा काल्पनिक असे प्रतिसाद निर्माण करू शकतात. याला एआय हॅलुसिनेशन म्हणून ओळखले जाते आणि ही समस्या AI मॉडेल्सच्या विश्वासार्हतेवर परिणाम करते, विशेषत: जेव्हा एंटरप्राइझ स्पेसमध्ये वापरली जाते. कंपन्या उच्च-गुणवत्तेच्या संस्थात्मक डेटावर AI सिस्टमला प्रशिक्षण देऊन समस्या काही प्रमाणात कमी करू शकतात, परंतु प्रशिक्षणपूर्व डेटा आणि आर्किटेक्चरल त्रुटी अजूनही AI भ्रमित करू शकतात.
AWS ने एआय हॅलुसिनेशनवर त्याचे समाधान तपशीलवार दिले आहे ब्लॉग पोस्ट. ऑटोमेटेड रिझनिंग चेक टूल नवीन सेफगार्ड म्हणून सादर केले गेले आहे आणि ॲमेझॉन बेडरॉक गार्डेलमध्ये पूर्वावलोकनामध्ये जोडले गेले आहे. ॲमेझॉनने स्पष्ट केले की ते LLMs द्वारे व्युत्पन्न केलेल्या माहितीची पडताळणी करण्यासाठी “गणितीय, तर्क-आधारित अल्गोरिदमिक सत्यापन आणि तर्क प्रक्रिया” वापरते.
प्रक्रिया अगदी सरळ आहे. वापरकर्त्यांना संस्थेच्या नियमांचे वर्णन करणारी संबंधित कागदपत्रे Amazon Bedrock console वर अपलोड करावी लागतील. बेडरॉक आपोआप या दस्तऐवजांचे विश्लेषण करेल आणि प्रारंभिक स्वयंचलित तर्क धोरण तयार करेल, जे नैसर्गिक भाषेतील मजकूर गणिताच्या स्वरूपात रूपांतरित करेल.
एकदा पूर्ण झाल्यावर, वापरकर्ते सेफगार्ड्स विभागाच्या अंतर्गत स्वयंचलित तर्क मेनूवर जाऊ शकतात. तेथे, एक नवीन धोरण तयार केले जाऊ शकते आणि वापरकर्ते विद्यमान दस्तऐवज जोडू शकतात ज्यात एआयने शिकले पाहिजे अशी माहिती आहे. वापरकर्ते मॅन्युअली प्रक्रिया पॅरामीटर्स आणि पॉलिसीचा हेतू देखील सेट करू शकतात. याव्यतिरिक्त, AI ला विशिष्ट परस्परसंवाद समजण्यास मदत करण्यासाठी नमुना प्रश्न आणि उत्तरे देखील जोडली जाऊ शकतात.
एकदा हे सर्व पूर्ण झाल्यावर, AI तैनात करण्यासाठी तयार होईल आणि चॅटबॉटने काही चुकीचे प्रतिसाद दिल्यास स्वयंचलित तर्क तपासण्याचे साधन स्वयंचलितपणे सत्यापित करेल. सध्या, टूल फक्त यूएस वेस्ट (ओरेगॉन) AWS प्रदेशात पूर्वावलोकनात उपलब्ध आहे. कंपनी लवकरच इतर क्षेत्रांमध्ये आणण्याची योजना आखत आहे.
