એન્થ્રોપિક સત્તાવાર રીતે છે તેના IPO માટે પ્રોસ્પેક્ટસ ફાઇલ કર્યું છે, એટલે કે AI લેબએ તમામ પ્રકારની અગાઉની ખાનગી માહિતી ડિસ્પ્લે પર મૂકી છે. જ્યારે પ્રોસ્પેક્ટસમાં આંખે ઉડીને આંખે વળગે તેવી આવક – અને તેનાથી પણ મોટા ખર્ચાઓ – જેની કોઈ અપેક્ષા રાખી શકે છે, ત્યારે ફાઇલિંગનો સૌથી મોટો હિસ્સો “જોખમ પરિબળો” માટે સમર્પિત છે, જે બધી વસ્તુઓ જે એન્થ્રોપિકની મોટી યોજનાઓને પાટા પરથી ઉતારી શકે છે. અથવા આ કિસ્સામાં, માનવતા પોતે.
AI માનવતા માટે કેટલી હદે અસ્તિત્વમાં ખતરો ઉભો કરે છે તે વિશે ઘણી વાતો કરવામાં આવી રહી છે, જ્યારે તે ચોક્કસ પદ્ધતિઓ કે જેના દ્વારા તે આ વિનાશ લાવી શકે છે તે મોટે ભાગે અસ્પષ્ટ છે. છેલ્લું પરંતુ ઓછામાં ઓછું નહીં, એન્થ્રોપિકનું બ્રોશર જોખમી પરિબળોને સમર્પિત 94 પૃષ્ઠો સ્પષ્ટ કરે છે કે કંપની ક્યાંથી જોખમ જુએ છે અને તેના સંશોધકો એઆઈ આર્મ્સ રેસ જીતવા માટે કેવી રીતે તેનો સંપર્ક કરી રહ્યા છે.
“પર્યાપ્ત રીતે અદ્યતન AI સિસ્ટમ્સ, જો યોગ્ય સુરક્ષા, દેખરેખ અને સુરક્ષા પગલાં સાથે વિકસિત, તૈનાત અને સંચાલિત ન કરવામાં આવે તો, માનવતા માટે વિનાશક અથવા અસ્તિત્વનું જોખમ ઊભું કરી શકે છે,” પ્રોસ્પેક્ટસ કહે છે, વિવેચકો અને નિયમનકારો અને એન્થ્રોપિકની અંદર બંનેની ચિંતાઓને ટાંકીને. (“અસ્તિત્વીય જોખમો” વાક્ય દેખાય છે તે ત્રણ વખતમાંથી તે પ્રથમ છે.)
જો કે, એન્થ્રોપિક આ પરિણામને ચોક્કસ પ્રક્રિયા સાથે જોડવા માટે સાવચેત છે: પુનરાવર્તિત સ્વ-સુધારણા.
RSI પાછળનો વિચાર આશ્ચર્યજનક રીતે સરળ છે. તે એક એવી સ્થિતિનું વર્ણન કરે છે જેમાં માનવીઓ AI મોડલ્સના સંશોધન અને વિકાસને અન્ય AI મોડલ્સને સોંપે છે. AI અહીં પહેલેથી જ એક મોટી ભૂમિકા ભજવી રહ્યું છે – અને ઓછામાં ઓછી એક લેબએ તેના વજનને હરાવી દે તેવા મોડેલના વિકાસને ઝડપી બનાવવા માટે RSI જેવી જ કંઈકનો ઉપયોગ કર્યો છે – પરંતુ જે દૃશ્ય કયામતના દિવસની ચર્ચાને વેગ આપે છે તે એક છે જેમાં મનુષ્ય સંપૂર્ણપણે લૂપમાંથી બહાર છે.
અથવા જેમ એન્થ્રોપિક ફાઇલિંગ કહે છે: “એઆઈ સિસ્ટમ્સ નોંધપાત્ર રીતે AI સંશોધન અને વિકાસને સ્વચાલિત કરે છે, જેમ કે જોખમો વધશે, ઉદાહરણ તરીકે જો તેઓ નવા મોડલ્સનું મૂલ્યાંકન અને રક્ષણ કરવાની અમારી ક્ષમતાની બહાર AIની પ્રગતિને વેગ આપે છે.”
પ્રોસ્પેક્ટસ વારંવાર નોંધે છે કે RSI એ AI મૉડલ તરફ દોરી શકે છે જે કંપનીના સુરક્ષા પગલાં કરતાં વધુ ઝડપથી વિકસિત થાય છે, અને કંપનીને કદાચ ખ્યાલ ન આવે કે તે આ રેસને ખૂબ મોડું ન થાય ત્યાં સુધી હારી ગઈ છે. એન્થ્રોપિકે ટિપ્પણી માટેની વિનંતીનો તરત જ જવાબ આપ્યો ન હતો.
તે પછી શું થઈ શકે તે પણ નક્કર બને છે. પ્રોસ્પેક્ટસ કહે છે, “જેમ જેમ AI સિસ્ટમ્સ વધુ સ્વાયત્ત બને છે અને ઓછી માનવ દેખરેખ સાથે ફોલો-અપ ક્રિયાઓ કરવા સક્ષમ બને છે,” તેમ જોખમ રહેલું છે કે આવી સિસ્ટમ્સ, માનવીય હેતુઓ સાથે ખોટી સંકલન, ઉદ્દેશ્ય સ્પષ્ટીકરણમાં ભૂલો અથવા સ્વ-ટકાઉ વર્તણૂક, માનવ હસ્તક્ષેપ વિના સ્વતંત્ર રીતે અને મોટા પ્રમાણમાં નુકસાનકારક પગલાં લઈ શકે છે. આ સ્કાયનેટ પ્રદેશ છે.
