एंथ्रोपिक ने IPO प्रॉस्पेक्टस में AI से जुड़े गंभीर जोखिमों का पता लगाया

एंथ्रोपिक संभावित निवेशकों को यह बताने की तैयारी कर रहा है कि इसके बिज़नेस के केंद्र में टेक्नोलॉजी भी इसके कुछ सबसे बड़े जोखिम उठा सकती है.

भारतीय मार्केट में इन्वेस्ट करें और 5paisa के साथ भविष्य की क्षमता को अनलॉक करें!

अभी अकाउंट खोलें

अपने IPO प्रॉस्पेक्टस में, क्लॉड मेकर ने चेतावनी दी है कि तेज़ी से उन्नत कृत्रिम बुद्धिमत्ता "मानवता के लिए विनाशकारी या विद्यमान जोखिम" पैदा कर सकती है. फाइलिंग उन उदाहरणों का भी वर्णन करता है जिनमें AI मॉडल स्व-संरक्षित व्यवहार प्रदर्शित कर सकते हैं, जिसमें शटडाउन को रोकना, जानकारी को छिपाना या मैनिपुलेट करना और ब्लैकमेल जैसे व्यवहार शामिल हैं.

चेतावनी एंट्रोपिक के IPO पेपरवर्क का एक असामान्य रूप से बड़ा हिस्सा है. प्रॉस्पेक्टस के 261 पेज के मुख्य सेक्शन के लगभग 80 पेज जोखिमों के लिए समर्पित हैं, जबकि 48 पेज कंपनी के बिज़नेस पर चर्चा करते हैं.

एंथ्रोपिक यह भी स्वीकार करता है कि इन प्रणालियों का आकलन करना अधिक कठिन हो सकता है क्योंकि वे अधिक सक्षम हो जाते हैं. इसके प्रॉस्पेक्टस में कहा गया है कि मॉडल ट्रेनिंग के दौरान क्षमताएं विकसित कर सकते हैं जो तुरंत पहचाने नहीं जाते हैं और डिप्लॉयमेंट के बाद ही स्पष्ट हो सकते हैं.

कंपनी AI सुरक्षा के बारे में अपनी पहचान बना रही है, लेकिन यह काम अपने खुद के फाइनेंशियल और ऑपरेशनल दबाव के साथ आता है. एंथ्रोपिक ने यह नहीं बताया कि यह फाइल करने में सुरक्षा अनुसंधान पर कितना खर्च करता है. हालांकि, इस महीने की शुरुआत में, इसने कहा कि जुलाई में एक सैम्पल सप्ताह के दौरान AI रिसर्च के लिए इस्तेमाल की जाने वाली कंप्यूटिंग पावर का लगभग 6% सुरक्षा कार्य की ओर गया.

सुरक्षा अनुसंधान बिज़नेस के अन्य महंगे हिस्सों के साथ संसाधनों के लिए प्रतिस्पर्धा करता है, जिसमें कंप्यूटिंग क्षमता और एआई प्रतिभा शामिल है. साथ ही, एंथ्रोपिक का कहना है कि कस्टमर की गतिविधि और राजस्व नए मॉडलों के आगमन से प्रेरित होते हैं, जिससे नियमित रूप से रिलीज़ AI विकास में सबसे आगे रहने का एक महत्वपूर्ण हिस्सा बन जाती है.

यह तनाव हाल ही में और भी स्पष्ट हो गया है. एंथ्रोपिक ने पिछले सप्ताह अपने ऑपमस मॉडल का एक नया संस्करण जारी किया, मुख्य कार्यकारी दरियो अमोदी द्वारा लगभग 4,000-वर्ड निबंध प्रकाशित करने के 10 दिनों बाद, जिसमें AI विकास की सीमा पर अधिक मापने वाली गति की मांग की गई.

कंपनी ने टेक्नोलॉजी की भावी पीढ़ियों के निर्माण में मदद करने के लिए मौजूदा AI मॉडल का उपयोग करने के बारे में अधिक जानकारी प्रकाशित करने का भी वादा किया है.

एंथ्रोपिक के प्रॉस्पेक्टस में वृद्धि के साथ-साथ क्या गलत हो सकता है, इसका लंबा विवरण दिया जाता है. संभावित निवेशकों के लिए, यह संदेश असामान्य रूप से कठोर है: कंपनी बढ़ती शक्तिशाली AI में अपार संभावनाएं देखती है, साथ ही यह भी स्वीकार करती है कि उन प्रणालियों को नियंत्रित करना अपने बिज़नेस के आसपास के केंद्रीय जोखिमों में से एक है.