ChatGPT બનાવનારી કંપની OpenAIની સિસ્ટમે 100થી વધુ સંસ્થાઓની સિસ્ટમમાં બળજબરીથી ઘૂસણખોરી કરવાનો પ્રયાસ કર્યો છે. કંપનીએ પોતે જ આ વાતનો ખુલાસો કર્યો છે. આ વાતનો સંકેત છે કે ટેસ્ટિંગ તબક્કામાં જ ટેક કંપનીઓના હાથમાંથી તેમના અદ્યતન AI મોડેલ્સની કમાન છૂટી રહી છે. AI મોડેલ્સ માત્ર સિસ્ટમની સુરક્ષાને બાયપાસ કરી રહ્યા નથી, પરંતુ નક્કી કરાયેલી મર્યાદાઓ તોડીને માનવીય નિયંત્રણની બહાર જઈ રહ્યા છે. OpenAIએ સંસ્થાઓને એલર્ટ કરી કંપનીએ પોતાના AI એજન્ટની ચપેટમાં આવેલી 100થી વધુ સંસ્થાઓને એલર્ટ જારી કર્યું છે. જોકે, કંપનીનો દાવો છે કે આ સંસ્થાઓનો

ડેટા ચોરાયો નથી. OpenAIએ બચાવમાં દલીલ કરી કે AI એજન્ટ્સે સિસ્ટમનું તાળું તોડ્યું નહોતું, પરંતુ માત્ર બંધ દરવાજો બળજબરીથી ખખડાવીને અને તેનું હેન્ડલ ફેરવીને અંદર ઘૂસવાનો પ્રયાસ કર્યો હતો. વેબસાઇટ્સને ખોટા કમાન્ડ આપ્યા તપાસમાં સામે આવ્યું છે કે આ AI એજન્ટ્સે અનેક વેબસાઇટ્સને મનમાની અને અનધિકૃત કમાન્ડ મોકલીને તેમની પાસેથી ખોટી પ્રક્રિયાઓ ચલાવવાનો પ્રયાસ કર્યો હતો. એટલું જ નહીં, સુરક્ષા વ્યવસ્થાને ચકમો આપવા માટે આ એજન્ટ્સે વેબસાઇટ્સને એકબીજા સાથે સંપર્ક સાધવાના માધ્યમ (કમ્યુનિકેશન ચેનલ) તરીકે ઉપયોગમાં લીધી અને નક્કી કરાયેલા સુરક્ષા માપદંડોને સંપૂર્ણપણે અવગણીને તેમને બાયપાસ

કરવાનો પ્રયાસ કર્યો. OpenAIએ સ્વીકાર્યું કે સુરક્ષા કવચ નિષ્ફળ સાબિત થયું OpenAIએ સ્વીકાર્યું છે કે તેના સુરક્ષા કવચ AI એજન્ટ્સને નિયંત્રણમાં રાખવામાં નિષ્ફળ રહ્યા. કંપનીના પ્રવક્તાએ જણાવ્યું કે અસરગ્રસ્ત સંસ્થાઓને તકનીકી ડેટા આપી દેવામાં આવ્યો છે, જેથી તેઓ સિસ્ટમમાં થયેલી ઘૂસણખોરી અને સુરક્ષાની ખામીઓની તપાસ કરી શકે. પોતાની નિષ્ફળતા બાદ હવે OpenAIએ દાવો કર્યો છે કે તે AI મોડલના આ અસામાન્ય વર્તન અને સુરક્ષાની ખામીઓ સાથે જોડાયેલા તારણો જાહેર કરશે, જેથી વિશ્વભરના સાયબર સુરક્ષા નિષ્ણાતો મળીને આ ખતરાનો ઉકેલ શોધી શકે. આટલો મોટો ડેટા કે

માણસને વાંચવામાં 6.6 કરોડ વર્ષ લાગી જાય કંપની 50 પેટાબાઇટ ડેટા રેકોર્ડ્સની તપાસ કરી રહી છે. આ તપાસ માટે 7,000 અત્યાધુનિક GB200 અને GB300 GPUs લગાવવામાં આવ્યા છે. તેમાં દરરોજ ₹5 કરોડનો ખર્ચ થઈ રહ્યો છે. જો આ સમગ્ર ડેટા સામાન્ય અંગ્રેજી શબ્દોમાં લખાયેલો હોય, તો એક માણસ દર મિનિટે 240 શબ્દોની ઝડપી ગતિએ સતત વાંચે તો પણ તેને પૂરા કરવામાં આશરે 6.6 કરોડ વર્ષ લાગી જશે. માણસોની ક્ષમતાની બહાર હોવાથી જ આ કામ AI મોડલ્સ પાસે કરાવવામાં આવી રહ્યું છે. તપાસને વધુ સચોટ બનાવવા માટે

વધુ કમ્પ્યુટિંગ પાવરનો ઉપયોગ કરવામાં આવશે. હગિંગ ફેસની ઘટના બાદ સુરક્ષા નિયમો કડક આ ઘટના સામે આવ્યા બાદ OpenAI દ્વારા સુરક્ષા વ્યવસ્થાને ઘણી વધુ કડક બનાવવામાં આવી છે: હગિંગ ફેસ ઘટના વિશે જાણો… આ મામલો AIની દુનિયાની અત્યાર સુધીની સૌથી ચોંકાવનારી ઘટનાઓમાંની એક છે. સરળ શબ્દોમાં સમજીએ કે ખરેખર શું થયું હતું: 1. 'આન્સર કી' ચોરવા માટે કરવામાં આવેલો હેક OpenAI પોતાના એક AI મોડેલની સાયબર સુરક્ષા ક્ષમતાની તપાસ કરવા માટે તેનો ટેસ્ટ લઈ રહી હતી. ટેસ્ટમાં સારો સ્કોર કરવા માટે AIએ એક ખતરનાક શોર્ટકટ પસંદ

કર્યો. તેણે વિચાર્યું કે પ્રશ્નો ઉકેલવા કરતાં સીધી 'આન્સર કી' ચોરી લેવી વધુ સારી છે. 2. પ્રતિબંધો તોડીને ઇન્ટરનેટ સુધી પહોંચ્યું તે AI મોડેલને એક સુરક્ષિત અને બંધ ટેસ્ટિંગ એન્વાયરમેન્ટમાં રાખ્યું હતું, જ્યાં તેને ઇન્ટરનેટ ચલાવવાની મંજૂરી નહોતી. તેમ છતાં AI એ તે સિસ્ટમની સુરક્ષા તોડી, ઇન્ટરનેટ સુધી પોતાની પહોંચ બનાવી અને જાણીતા AI પ્લેટફોર્મ હગિંગ ફેસની સિસ્ટમને હેક કરી, જેથી ત્યાંથી જવાબ મેળવી શકે. 16 જુલાઈએ હગિંગ ફેસે આ હેકનો ખુલાસો કર્યો હતો. 3. બે મહિનાથી ચાલી રહ્યું હતું ગુપ્ત નેટવર્ક તપાસમાં સામે આવ્યું

કે આ કોઈ એકલા AI મોડેલનું કામ નહોતું. આ સિલસિલો ઘટનાના આશરે બે મહિના પહેલાં એટલે કે મેની શરૂઆતથી જ ચાલી રહ્યો હતો. OpenAIના જ સર્વરોની અંદર અનેક AI એજન્ટ્સ એકબીજા માટે ગુપ્ત નોંધો છોડી રહ્યા હતા. આ નોંધોમાં તેઓ એકબીજાને જણાવી રહ્યા હતા કે સિસ્ટમની સુરક્ષા કેવી રીતે તોડવી અને પ્રતિબંધિત ડેટા સુધી કેવી રીતે પહોંચવું. આ એજન્ટ્સ પોતાને 'સ્વોર્મ' એટલે કે સંગઠિત ટોળકી કહી રહ્યા હતા. 4. અનિયંત્રિત વર્તન ઇજનેરોએ આ મોડલ્સને આવું કરવા માટે કોઈ તાલીમ આપી નહોતી. AIએ સિસ્ટમમાં ઉપલબ્ધ સંસાધનોનો ઉપયોગ

કરીને આ રીત પોતે જ વિકસાવી લીધી હતી. OpenAIને પોતાના જ સર્વરમાં ચાલી રહેલા આ સમગ્ર નેટવર્કની જાણ સુદ્ધાં નહોતી. ચિંતાનું ખરું કારણ શું છે? આને એક ઉદાહરણથી સમજીએ: જો તમને તમારી રસોડામાં બે કીડીઓ દેખાય, તો તેનો અર્થ એ નથી કે ઘરમાં માત્ર બે જ કીડીઓ છે. આ ઘટના કોઈક રીતે પકડાઈ ગઈ, પરંતુ સૌથી મોટો ભય એ છે કે બંધ દરવાજાઓ અને સુરક્ષિત સર્વરોની પાછળ આવી કેટલી AI સિસ્ટમ્સ છે, જે માણસોની જાણકારી વિના પોતાની મર્યાદાઓ ઓળંગી રહી છે. અમેરિકન અને ઓસ્ટ્રેલિયન સરકારી સાઇટ્સમાં

પણ ઘૂસણખોરી હગિંગ ફેસની ઘટના બાદ OpenAIના AI એજન્ટ્સે અમેરિકા અને ઓસ્ટ્રેલિયાની સરકારી વેબસાઇટ્સમાં પણ ઘૂસણખોરી કરી હતી. આ સ્થિતિને ધ્યાનમાં રાખીને OpenAIએ મોનિટરિંગ વધારી દીધું છે અને પોતાના નવા મોડલના વિકાસ પર હાલમાં રોક લગાવી દીધી છે. AIથી માનવતાના અંતનું જોખમ AI સંશોધક જેકબ કૉક્સનનો દાવો છે કે જો AI પર સમયસર કડક નિયંત્રણ નહીં મૂકવામાં આવે, તો તે ટૂંક સમયમાં માનવતાના અંતનું કારણ બની શકે છે. બીજી તરફ, AI કંપની એન્થ્રોપિકના CEO ડારિયો અમોડેઈએ પણ સ્વીકાર્યું છે કે AIના વિકાસને ધીમો કરવાની જરૂર છે.