अँथ्रोपिकने IPO प्रॉस्पेक्टस मध्ये गंभीर AI सुरक्षा जोखीम दर्शविली

अँथ्रोपिक संभाव्य गुंतवणूकदारांना सांगण्याची तयारी करत आहे की त्याच्या व्यवसायाच्या केंद्रस्थानी असलेल्या तंत्रज्ञानातही त्याचे काही मोठे धोके असू शकतात.

भारतीय मार्केटमध्ये इन्व्हेस्ट करा आणि 5paisa सह भविष्यातील क्षमता अनलॉक करा!

आत्ताच अकाउंट उघडा

IPO प्रॉस्पेक्टस मध्ये, क्लॉड मेकरने चेतावणी दिली आहे की वाढत्या प्रगत कृत्रिम बुद्धिमत्ता "मानवासाठी आपत्तीजनक किंवा अस्तित्वात असलेले धोके" निर्माण करू शकते. फायलिंग अशा घटनांचे देखील वर्णन करते ज्यामध्ये AI मॉडेल्स स्वत:चे जतन करणारे वर्तन प्रदर्शित करू शकतात, ज्यामध्ये शटडाउनला विरोध करणे, माहिती लपवणे किंवा मॅनिप्युलेट करणे आणि ब्लॅकमेल सारख्या वर्तनाचा समावेश होतो.

चेतावणींचा सर्वसाधारणपणे अँथ्रोपिकच्या IPO पेपरवर्कचा मोठा भाग असतो. प्रॉस्पेक्टसच्या 261-पेज मुख्य सेक्शनचे जवळपास 80 पेज रिस्कसाठी समर्पित आहेत, कंपनीच्या बिझनेसवर चर्चा करणाऱ्या 48 पेजच्या तुलनेत.

अँथ्रोपिक हे देखील मान्य करते की या सिस्टीम्सचे मूल्यांकन करणे अधिक कठीण होऊ शकते कारण ते अधिक सक्षम होतात. त्यांचे प्रॉस्पेक्टस नमूद करते की मॉडेल ट्रेनिंग दरम्यान क्षमता विकसित करू शकतात जे त्वरित ओळखले जात नाहीत आणि डिप्लॉयमेंट नंतरच स्पष्ट होऊ शकतात.

कंपनी AI सुरक्षेबाबत आपली ओळख निर्माण करीत आहे, परंतु ते काम त्याच्या स्वत:च्या फायनान्शियल आणि कार्यात्मक दबावासह येते. फाईल करण्यात सुरक्षा संशोधनावर किती खर्च केला आहे हे अँथ्रोपिकने उघड केले नाही. तथापि, या महिन्याच्या सुरुवातीला, असे म्हटले होते की जुलैमध्ये नमुना आठवड्यात एआय संशोधनासाठी वापरल्या जाणाऱ्या कॉम्प्युटिंग पॉवरपैकी जवळपास 6% सुरक्षा कामासाठी गेले.

कॉम्प्युटिंग क्षमता आणि AI प्रतिभेसह बिझनेसच्या इतर महागड्या भागांसह संसाधनांसाठी सुरक्षा संशोधन स्पर्धा करते. त्याचवेळी, अँथ्रोपिक म्हणते की कस्टमर ॲक्टिव्हिटी आणि महसूल नवीन मॉडेल्सच्या आगमनाद्वारे चालवले जातात, ज्यामुळे नियमित रिलीज AI विकासाच्या आघाडीवर राहण्याचा महत्त्वाचा भाग बनतात.

हा तणाव अलीकडेच अधिक दृश्यमान झाला आहे. ॲंथ्रोपिकने गेल्या आठवड्यात आपल्या ऑपमस मॉडेलची नवीन आवृत्ती प्रकाशित केली, 10 दिवसांनी मुख्य कार्यकारी दारियो अमोदी यांनी एआय विकासाच्या सीमेवर अधिक मोजलेल्या गतीसाठी जवळपास 4,000-वर्ड निबंध प्रकाशित केला.

भविष्यातील पिढ्यांचे टेक्नॉलॉजी निर्माण करण्यास मदत करण्यासाठी विद्यमान AI मॉडेल्सचा वापर कसा केला जातो याबद्दल अधिक माहिती प्रकाशित करण्याचे देखील कंपनीने वचन दिले आहे.

अँथ्रोपिकचे प्रॉस्पेक्टस हे वाढीचे स्थान देते तसेच काय चुकीचे होऊ शकते याचे दीर्घ अकाउंट ठेवते. संभाव्य गुंतवणूकदारांसाठी, मेसेज असामान्यपणे स्टार्क आहे: कंपनीला वाढत्या शक्तिशाली एआय मध्ये मोठ्या प्रमाणात क्षमता दिसते, तसेच ते सिस्टीम नियंत्रित करणे त्याच्या व्यवसायाशी संबंधित मध्यवर्ती जोखमींपैकी एक आहे हे देखील मान्य करते.