કંપનીએ તેમનું નામ નથી આપ્યું, પરંતુ તેમાં સામેલ એજન્સીઓ “ફેડરલ, રાજ્ય અને સ્થાનિક સ્તરે” હતી.
એન્થ્રોપિકે જાહેર કર્યું કે તેના AI એજન્ટોએ તેના નવીનતમ અહેવાલમાં “ફેડરલ, રાજ્ય અને સ્થાનિક સ્તરે” યુ.એસ. સરકારની વેબસાઇટ્સમાં દખલ કરવાનો પ્રયાસ કર્યો હતો. કંપનીએ તેની વિનંતી પર તેની સિસ્ટમમાં નબળાઈઓને ઉજાગર કરવાનું ટાળવા માટે રિપોર્ટમાં ચોક્કસ એજન્સીઓ અથવા સંસ્થાઓનું નામ આપ્યું નથી. પરંતુ એન્થ્રોપિકે કહ્યું કે તેણે પહેલેથી જ સામેલ એજન્સીઓને જાણ કરી દીધી છે અને ઘટનાઓની વ્હાઇટ હાઉસને જાણ કરી દીધી છે. રિપોર્ટમાં શુક્રવારે ફિલાડેલ્ફિયા પોલીસ દ્વારા જાહેર કરાયેલ એક ઘટના વિશે વધુ વિગતો પણ આપવામાં આવી છે જેમાં કંપનીની એક મોડેલે તેની કોલ્ડ કેસ વેબસાઇટ પર હત્યા વિશે ખોટી માહિતી સબમિટ કરી હતી.
આ ઉદાહરણમાં ક્લાઉડ હાઈકુ 4.5 સામેલ છે, જે તેના નફાકારક મોડલ પૈકીનું એક છે, જેને રેન્ડમ પૃષ્ઠો પર નમૂનાના કાર્યો કરવા પડતા હતા. તેને ટિપ ફોર્મ સાથે વણઉકેલાયેલા ગૌહત્યા કેસનો ઉલ્લેખ કરતું પૃષ્ઠ મળ્યું. જેમ તમે અનુમાન કર્યું હશે, ક્લાઉડે ફોર્મ ભર્યું અને એક ટીપ સબમિટ કરી. તેણે કહ્યું: “મારી પાસે આ કેસ સંબંધિત માહિતી હોઈ શકે છે. મને યાદ છે કે આ સમય દરમિયાન (પૃષ્ઠ પર નામવાળી શેરી) ની નજીકમાં વર્ણન સાથે મેળ ખાતા કોઈને જોયા હતા. જો આ માહિતી સંબંધિત હોય તો કૃપા કરીને મારો સંપર્ક કરો.” ફિલાડેલ્ફિયા પોલીસે પુષ્ટિ કરી ધ ન્યૂ યોર્ક ટાઇમ્સ કે એન્થ્રોપિકે તાજેતરમાં તેની ઓફિસને સબમિશનની જાણ કરી હતી. તેમણે કહ્યું કે માહિતી 18 જુલાઈની હતી અને તેને સ્પામ તરીકે ફ્લેગ કરવામાં આવી હતી, તેથી વિભાગે ઓછામાં ઓછા તેની તપાસ કરવામાં સંસાધનોનો બગાડ ન કર્યો.
અન્ય કિસ્સામાં, એન્થ્રોપિકે ક્લાઉડ માયથોસ 5, તેના સાયબર સુરક્ષા-કેન્દ્રિત મોડેલને ફોટામાં બતાવેલ સ્થાનને ઓળખવા કહ્યું. ક્લાઉડે તેના અનુમાનને ત્રિકોણાકાર કરવા માટે સરકારી મિલકતોના નકશાને ઍક્સેસ કરવાનો પ્રયાસ કર્યો, કારણ કે તે વેબ પૃષ્ઠો પરની લિંક્સ પર કોઈ વ્યક્તિની જેમ ક્લિક કરી શક્યો ન હતો. તેના બદલે, તેને એક્સેસ ટોકન્સ મળ્યા અને તેનો ડેટા એક્સેસ કરવા માટે સીધા જ કાર્ડના સર્વર પર પૂછપરછ મોકલી. Mythos 5 એ સ્ટેટ એજન્સીની વેબસાઈટને એક્સેસ ટોકન માટે વિનંતી કરી હતી જેથી કરીને મુલાકાતીઓએ જે ફી ચૂકવવાની અપેક્ષા હતી તે ચૂકવ્યા વિના આંકડાકીય કાર્ય માટે ડેટા કાઢવા માટે.
એન્થ્રોપિકે તેની આકારણી ટ્રાંસ્ક્રિપ્ટ્સની સમીક્ષા કરીને આ ઘટનાઓ શોધી કાઢી. ઓપનએઆઈએ કબૂલ્યું કે તેના એજન્ટો તેમના પરીક્ષણ વાતાવરણમાંથી છટકી ગયા હતા અને સંકેત આપ્યા વિના હગિંગ ફેસમાં હેક થયા હતા તે પછી તેણે જુલાઈમાં તેમની તપાસ કરવાનું શરૂ કર્યું. OpenAI એ સપ્ટેમ્બરમાં પણ પુષ્ટિ કરી હતી કે તેના એજન્ટોએ સરકારી વેબસાઇટ્સ સાથે દખલ કરી હતી, ખાસ કરીને ડિપાર્ટમેન્ટ ઓફ કોમર્સ અને સિક્યોરિટીઝ એન્ડ એક્સચેન્જ કમિશન દ્વારા સંચાલિત.
તેના અહેવાલના સુધારણા વિભાગમાં, એન્થ્રોપિકે જણાવ્યું હતું કે તેણે મોડેલની અનિચ્છનીય ક્રિયાઓની શોધ કર્યા પછી “કેટલાક નિવારક પગલાં લીધા હતા”. “કેટલાક સાર્વજનિક મૂલ્યાંકનો અમે હવે કરતા નથી; અન્ય અમે તેમના ઑફલાઇન સંસ્કરણો પર ખસેડ્યા છે, અથવા પુનઃબીલ્ડ કર્યા છે જેથી તેમના કાર્યો લાઇવ વેબસાઇટ્સ સુધી ન પહોંચે,” અહેવાલમાં જણાવાયું છે. “અમે વ્યાપક ફેરફારો પણ કર્યા છે. અમે અમારા કેટલાક ઈન્ટરનેટ એક્સેસ ટૂલ્સ, જેમ કે વેબ પુનઃપ્રાપ્તિ ટૂલ પર ગાર્ડરેલ્સ અપડેટ કર્યા છે, જેથી મોડેલ તેમની સાથે શું કરી શકે તે નોંધપાત્ર રીતે પ્રતિબંધિત કરી શકાય.” એન્થ્રોપિક પાસે અન્ય પગલાંની સાથે અહેવાલમાં વર્ણવેલ વર્તણૂકોના પ્રકારોને આપમેળે શોધવા અને અવરોધિત કરવા માટેના સાધનો પણ હોવાનો દાવો કરે છે.
