એન્થ્રોપિક IPO પ્રોસ્પેક્ટસમાં ગંભીર AI સુરક્ષા જોખમોને ચિહ્નિત કરે છે

એન્થ્રોપિક સંભવિત રોકાણકારોને કહેવાની તૈયારી કરી રહી છે કે તેના વ્યવસાયના હૃદયમાં ટેક્નોલોજી તેના કેટલાક સૌથી મોટા જોખમો પણ લઈ શકે છે.

ભારતીય બજારોમાં ઇન્વેસ્ટ કરો અને 5paisa સાથે ભવિષ્યની ક્ષમતાને અનલૉક કરો!

હમણાં જ એકાઉન્ટ ખોલો

તેના IPO પ્રોસ્પેક્ટસમાં, ક્લૉડ મેક્કરે ચેતવણી આપી છે કે વધુને વધુ ઍડવાન્સ આર્ટિફિશિયલ ઇન્ટેલિજન્સ "માનવતા માટે વિનાશકારી અથવા અસ્તિત્વમાં રહેલા જોખમો" પેદા કરી શકે છે. આ ફાઇલિંગ એવી ઘટનાઓનું પણ વર્ણન કરે છે જેમાં AI મોડેલો સ્વ-સંરક્ષિત વર્તન પ્રદર્શિત કરી શકે છે, જેમાં શટડાઉનનો પ્રતિકાર કરવો, માહિતી છુપાવવી અથવા તેમાં ફેરફાર કરવો અને બ્લૅકમેલ જેવા વર્તનનો સમાવેશ થાય છે.

ચેતવણીઓ એન્થ્રોપિકના IPO પેપરવર્કનો અસામાન્ય રીતે મોટો ભાગ ધરાવે છે. પ્રોસ્પેક્ટસના 261 પેજના મુખ્ય સેક્શનના લગભગ 80 પેજ જોખમો માટે સમર્પિત છે, જે કંપનીના બિઝનેસ પર ચર્ચા કરતા 48 પેજની તુલનામાં છે.

એન્થ્રોપિક એ પણ સ્વીકારે છે કે આ સિસ્ટમ્સનું મૂલ્યાંકન વધુ મુશ્કેલ બની શકે છે કારણ કે તેઓ વધુ સક્ષમ બને છે. તેના પ્રોસ્પેક્ટસમાં નોંધ કરવામાં આવી છે કે મોડેલો ટ્રેનિંગ દરમિયાન ક્ષમતાઓ વિકસિત કરી શકે છે જે તરત જ ઓળખવામાં આવતી નથી અને ડિપ્લોયમેન્ટ પછી જ સ્પષ્ટ થઈ શકે છે.

કંપની AI સુરક્ષાની આસપાસ તેની ઓળખ બનાવી રહી છે, પરંતુ તે કાર્ય તેના પોતાના ફાઇનાન્શિયલ અને કાર્યકારી દબાણ સાથે આવે છે. એન્થ્રોપિકે ફાઇલ કરવામાં સુરક્ષા સંશોધન પર કેટલું ખર્ચ કરે છે તે જાહેર કર્યું નથી. આ મહિનાની શરૂઆતમાં, તેમ છતાં, તેણે કહ્યું કે જુલાઈમાં નમૂના સપ્તાહ દરમિયાન AI સંશોધન માટે ઉપયોગમાં લેવાતી કમ્પ્યુટિંગ પાવરનો લગભગ 6% સુરક્ષા કાર્ય તરફ ગયો.

સુરક્ષા સંશોધન કમ્પ્યુટિંગ ક્ષમતા અને એઆઈ પ્રતિભા સહિત બિઝનેસના અન્ય મોંઘા ભાગો સાથે સંસાધનો માટે સ્પર્ધા કરે છે. તે જ સમયે, એન્થ્રોપિક કહે છે કે ગ્રાહકની પ્રવૃત્તિ અને આવક નવા મોડેલોના આગમન દ્વારા સંચાલિત થાય છે, જે નિયમિત રિલીઝને AI વિકાસમાં આગળ રહેવાનો મહત્વપૂર્ણ ભાગ બનાવે છે.

તે તણાવ તાજેતરમાં વધુ દેખાય છે. એન્થ્રોપિકે ગયા અઠવાડિયે તેના ઓપસ મોડેલનું નવું વર્ઝન બહાર પાડ્યું, મુખ્ય કાર્યકારી દરિયો અમોદેઈ દ્વારા AI વિકાસની સીમા પર વધુ માપવામાં આવતી ગતિ માટે લગભગ 4,000-વર્ડ નિબંધ પ્રકાશિત કર્યાના 10 દિવસ પછી.

કંપનીએ ભવિષ્યની પેઢીઓની ટેક્નોલોજીના નિર્માણમાં મદદ કરવા માટે હાલના AI મોડેલનો ઉપયોગ કેવી રીતે કરે છે તે વિશે વધુ માહિતી પ્રકાશિત કરવાનું પણ વચન આપ્યું છે.

એન્થ્રોપિકના પ્રોસ્પેક્ટસમાં વૃદ્ધિ સાથે સાથે શું ખોટું થઈ શકે છે તે અંગે લાંબી માહિતી આપવામાં આવે છે. સંભવિત રોકાણકારો માટે, મેસેજ અસામાન્ય રીતે સ્ટાર્ક છે: કંપની વધુને વધુ શક્તિશાળી AI માં અપાર સંભાવના જુએ છે, જ્યારે એ પણ સ્વીકારે છે કે તે સિસ્ટમ્સને નિયંત્રિત કરવું તેના બિઝનેસની આસપાસના કેન્દ્રીય જોખમોમાંથી એક છે.