OpenAI ના સુરક્ષા પ્રમુખ, ડેવિડ રોબિન્સને કંપનીમાંથી રાજીનામુ આપ્યું છે. તેમણે AI વિકસાવવા માટે વપરાતી વર્તમાન પદ્ધતિઓ અંગે પ્રશ્નો ઉઠાવ્યા છે. રોબિન્સનનું માનવું છે કે AI વધુને વધુ શક્તિશાળી બની રહ્યું છે, પરંતુ તે જ ગતિએ સુરક્ષા પ્રણાલીઓને મજબૂત કરવામાં આવતી નથી. 

OpenAI ના સુરક્ષા પ્રમુખે આપ્યું રાજીનામુ 

તેમના ગયા પછી, રોબિન્સને OpenAI ની કાર્ય સંસ્કૃતિ અને AI ને આગળ વધારવાના અભિગમ વિશે ગંભીર ચિંતાઓ વ્યક્ત કરી હતી. તેમણે ભારપૂર્વક જણાવ્યું હતું કે AI ઉદ્યોગના ઝડપી વિકાસની સાથે સુરક્ષા પરનું ધ્યાન પણ તે જ ગતિએ જળવાઈ રહેવું જોઈએ. રોબિન્સનના મતે, AI વિકાસ માટેનો વર્તમાન અભિગમ હવે યોગ્ય નથી.

AI મોડલ જેટલુ વધુ શક્તિશાળી એટલા પરિણામ ગંભીર 

એક લેખમાં, ડેવિડ રોબિન્સને સમજાવ્યું કે AI કંપનીઓ ઘણીવાર પહેલા સિસ્ટમ્સ વિકસાવે છે અને અમલમાં મૂકે છે, અને સમસ્યાઓ ઊભી થયા પછી જ સુરક્ષાના પગલાંમાં સુધારો કરે છે. OpenAI આ પદ્ધતિને "ઇટરેટિવ ડિપ્લોયમેન્ટ" (ક્રમશઃ અમલીકરણ) તરીકે ઓળખાવે છે. રોબિન્સન ચેતવણી આપે છે કે આ અભિગમ AI માટે નોંધપાત્ર જોખમો ઊભા કરી શકે છે. જેમ જેમ AI મોડલ્સ વધુ શક્તિશાળી બને છે, તેમ કોઈપણ ભૂલના પરિણામો વધુ ગંભીર હોઈ શકે છે.

AI એજન્ટની ઘટનાઓનો ઉલ્લેખ

તેમના લેખમાં, રોબિન્સને AI એજન્ટો સાથે સંકળાયેલી ઘટનાઓ પર પણ પ્રકાશ પાડ્યો હતો. તેમણે એક એવા કિસ્સાનો ઉલ્લેખ કર્યો જેમાં OpenAI એ ભૂલથી AI એજન્ટોનો સમૂહ (સ્વોર્મ) રિલીઝ કરી દીધો હતો.

તેમણે અન્ય એક કિસ્સો ટાંક્યો જેમાં, તાલીમ દરમિયાન, એક AI મોડલે ઇન્ટરનેટ એક્સેસ પરના પ્રતિબંધોને બાયપાસ કર્યા હતા. જોકે સિસ્ટમે આ ઉલ્લંઘનની જાણ કરી હતી પરંતુ તે પોતાની જાતને બંધ કરવામાં નિષ્ફળ રહી હતી. જે પગલું તેણે લેવું જોઈતું હતું. રોબિન્સનના મતે, આવી ભૂલો માત્ર એક કંપની પૂરતી મર્યાદિત નથી,  AI ઉદ્યોગમાં ઝડપી પ્રગતિની હોડને કારણે આવી ઘટનાઓ બની રહી છે. 

'ટ્રાયલ એન્ડ એરર'નો સમય પૂરો થઈ ગયો 

રોબિન્સને જણાવ્યું હતું કે AI ની વધતી જતી ક્ષમતાઓને જોતાં 'ટ્રાયલ એન્ડ એરર' અભિગમ પર આધાર રાખવો હવે વ્યવહારુ નથી. તેઓ માને છે કે AI સિસ્ટમ્સ ભવિષ્યમાં માનવીય ક્ષમતાઓને વટાવી શકે છે, જેનાથી બાદમાં મોટી ભૂલો સુધારવી મુશ્કેલ બની શકે છે.

તેમણે AI કંપનીઓને ઉડ્ડયન (એવિએશન) અને પરમાણુ ઊર્જા જેવા ઉચ્ચ-જોખમ ધરાવતા ક્ષેત્રોમાંથી સુરક્ષા પદ્ધતિઓ અપનાવવાની સલાહ આપી હતી. તેમના મતે, AI સિસ્ટમ્સમાં સુરક્ષા અને બેકઅપ પદ્ધતિઓના અનેક સ્તરોનો સમાવેશ થવો જોઈએ જેથી નાની ભૂલોને મોટી સમસ્યાઓમાં ફેરવાતી અટકાવી શકાય.

ચિંતાનો વિષય AI પોતે નથી, પરંતુ તેનો દુરુપયોગ છે.

રોબિન્સને સ્પષ્ટ કર્યું કે તેઓ AI ને મૂળભૂત રીતે ખરાબ માનતા નથી. તેઓ માને છે કે AI લોકો માટે અત્યંત ઉપયોગી અને લાભદાયી બની શકે છે.  જોકે  ટેક્નોલોજીની વધતી જતી ક્ષમતાઓ સાથે સુરક્ષાના પગલાં પણ વધુ મજબૂત બનાવવા જરૂરી છે.

OpenAI માંથી રાજીનામું આપ્યા બાદ, રોબિન્સન બહાર રહીને AI સુરક્ષાના ક્ષેત્રે કામ કરવા માગે છે. તેમનું માનવું છે કે AI નો વિકાસ વધુ સુરક્ષિત રીતે થાય તે સુનિશ્ચિત કરવા માટે કંપનીઓ પર બાહ્ય દબાણ હોવું આવશ્યક છે.

આ રાજીનામું AI સુરક્ષા અંગે સમગ્ર ઉદ્યોગમાં ચાલી રહેલી તીવ્ર ચર્ચા વચ્ચે આવ્યું છે. રોબિન્સનનું કહેવું છે કે ટેક્નોલોજીમાં ઝડપી પ્રગતિ કરતી વખતે AI સુરક્ષા સુનિશ્ચિત કરવાની જવાબદારીને અવગણી શકાય નહીં.