સમ્રાટનું નવું AI, અને તેની નીચે રોટિંગ ફાઉન્ડેશન
યાદ છે જ્યારે AI આપણને બધાને બચાવશે? તારણ કાઢે છે, તારણહાર હવે સમયસમાપ્તિ માટે પૂછે છે. હમણાં જ, અમારા AI-સંચાલિત ભવિષ્યના ખૂબ જ આર્કિટેક્ટ્સ - "ફ્રન્ટિયર" સંશોધકો અને નાણાકીય હેવીવેઈટ્સ-સામૂહિક રીતે બ્રેક માર્યા, "વધતી સલામતી ચિંતાઓ" [1] ને કારણે વિકાસમાં મંદીની માંગણી કરી. બજાર, હંમેશા મંદબુદ્ધિનું સાધન, ફેફસામાં ઉધરસ દ્વારા પ્રતિક્રિયા આપે છે: ચિપ સ્ટોક્સ અને મુખ્ય AI ખેલાડીઓ ગબડ્યા [2]. બેઇજિંગે, અનુમાનિત રીતે, ચેતવણીઓની મજાક ઉડાવી હતી, જ્યારે સિઓલના ચિપ જાયન્ટ્સે ભાવિ AI એડવાન્સમેન્ટ્સ [2] માટે અપફ્રન્ટ ચુકવણીઓ પર ધ્યાન આપ્યું હતું.
હાથીદાંતના ટાવર માટે આ માત્ર દાર્શનિક ચર્ચા નથી. આ એક ધરતીકંપની પાળી છે, ઉદ્યોગના ઉચ્ચ વર્ગની અંદરથી બેદરકારીનો જાહેર સ્વીકાર. અને પ્રમાણિકપણે, તે થોડું ખૂબ અનુકૂળ છે.
એઆઈ પોઝ: પરોપકાર કે પાવર પ્લે?
ચાલો સ્પષ્ટ થઈએ: જ્યારે રોકેટ બનાવનાર લોકોને અચાનક ખ્યાલ આવે છે કે તેઓ પ્રક્ષેપણ પછી પેરાશૂટ ભૂલી ગયા છે, ત્યારે તે ગહન નૈતિક જાગૃતિની ક્ષણ નથી. તે વિલંબિત, સ્વ-સેવા આપતા રખાતા છે. આ વિશાળ આંખોવાળા આદર્શવાદીઓ નથી; આ એવા ટાઇટન્સ છે જેઓ ઘાતાંકીય વૃદ્ધિ અને બજારના વર્ચસ્વનો પીછો કરીને મેટલ તરફ પેડલને આગળ ધપાવે છે. હવે, "અણધાર્યા પરિણામો" ના ભય સાથે - અને કદાચ, વધુ ઉદ્ધતાઈથી, અનુભૂતિ કે વર્તમાન ગતિ બિનટકાઉ છે અથવા તેઓએ તેમની આગેવાની એકીકૃત કરવાની જરૂર છે - તેઓ સામૂહિક શ્વાસ માટે બોલાવે છે.
બજારની પ્રતિક્રિયા જણાવી રહી છે. ચિપ શેરોમાં ઘટાડો માત્ર ભય વિશે નથી; તે સંભવિત મંદીના તાત્કાલિક નાણાકીય અસરો વિશે છે. બેઇજિંગનું પુશબેક? સ્પષ્ટ સંકેત કે રાષ્ટ્રીય વ્યૂહાત્મક લાભ અમૂર્ત સલામતી ચિંતાઓને દૂર કરે છે. અને સિઓલના ચિપમેકર્સ અપફ્રન્ટ ચૂકવણીનો ઇનકાર કરે છે? તે મૂડીનો અવાજ છે જે અચાનક અનિશ્ચિત ભવિષ્યની લાંબા ગાળાની સ્થિરતા અને નફાકારકતા પર સવાલ ઉઠાવે છે.
અમારા માટે, સીટીઓ અને એન્જિનિયરિંગ લીડ કરે છે, આ સીધું અસ્તવ્યસ્ત લેન્ડસ્કેપમાં ભાષાંતર કરે છે. રેગ્યુલેટરી હસ્તક્ષેપોને વેગ મળવાની અપેક્ષા રાખો, AI પ્રોજેક્ટ્સને પુનઃપ્રાધાન્ય આપવાની ફરજ પાડવી. AI માટે "ઝડપી ચાલ અને વસ્તુઓને તોડી નાખો" એથોસ સત્તાવાર રીતે મૃત્યુ પામી છે, જેનું સ્થાન "નૈતિક AI વિકાસ" ફ્રેમવર્ક માટે ઉગ્ર શોધ દ્વારા લેવામાં આવ્યું છે જે પહેલા દિવસથી જ તૈયાર થવું જોઈએ. રોકાણ વધુ સાવધ બનશે, વ્યૂહરચના ઘડશે, અને હા, જોબ માર્કેટમાં ઠંડીનો અનુભવ થશે કારણ કે સોનાનો ધસારો વધુ માપેલા, અને આશા છે કે વધુ જવાબદાર અભિગમ તરફ દોરી જશે. પરંતુ ચાલો આને શુદ્ધ પરોપકારની ભૂલ ન કરીએ. આ "વિરામ" નિયંત્રણ અને બજારના પુનઃ માપાંકન વિશે એટલું જ છે જેટલું તે વાસ્તવિક સલામતી વિશે છે.
જ્યારે ટાઇટન્સ ચર્ચા કરે છે, ત્યારે ફાઉન્ડેશન તૂટી જાય છે
હવે, જ્યારે AI ચુનંદા લોકો તેમની અસ્તિત્વની કટોકટી અનુભવી રહ્યા છે, ભાવિ સુપરઇન્ટેલિજન્સની નીતિશાસ્ત્ર પર ચર્ચા કરી રહ્યા છે, ત્યારે ચાલો અત્યારે બહાર આવી રહેલા અત્યંત વાસ્તવિક, અત્યંત વર્તમાન અને તદ્દન વિનાશક સુરક્ષા કટોકટી વિશે વાત કરીએ.
આ અઠવાડિયે, CISA એ તેના જાણીતા શોષિત નબળાઈઓની સૂચિ [3] માં બહુવિધ નવા CVE ઉમેર્યા છે. અમે સિસ્કો સિક્યોર ઈમેઈલ ગેટવે (CVE-2023-20269) [4] માં કન્ફર્મેડ રુટ RCE વિશે વાત કરી રહ્યા છીએ, GitLab (CVE-2023-2825) [3] માં CVSS 10.0 પાથ ટ્રાવર્સલ અને તાજેતરમાં પેચ કરાયેલ ક્રોમ શૂન્ય-દિવસ (C26-34) [26-34] ની માંગ છે. તાત્કાલિક ધ્યાન.
પરંતુ વાસ્તવિક આંતરડા પંચ, જે દરેક સુરક્ષા વ્યાવસાયિકની ચીસોને રદબાતલ બનાવવી જોઈએ, તે પાયાની ખામીઓનો સતત ખતરો છે. CVE-2021-1647 ને ધ્યાનમાં લો, જે Microsoft ડિફેન્ડરના માલવેર પ્રોટેક્શન એન્જિન [5] માં સ્થાનિક વિશેષાધિકાર વૃદ્ધિની નબળાઈ છે. આ કોઈ અસ્પષ્ટ ખામી ન હતી; તેનો સાર્વજનિક પ્રૂફ-ઓફ-કન્સેપ્ટ હતો અને તેનો જંગલીમાં સક્રિયપણે શોષણ કરવામાં આવ્યો હતો, જે દર્શાવે છે કે કેવી રીતે આપણા ડિજિટલ સંરક્ષણના નિર્ણાયક ઘટકો સાથે ચેડા થઈ શકે છે અને અમુક સમયગાળા માટે સંવેદનશીલ રહી શકે છે.
તે ડૂબી જવા દો. જ્યારે અમે AI સંવેદનાની નૈતિકતા પર ચર્ચા કરી રહ્યા છીએ, ત્યારે અમારા અંતિમ બિંદુઓને સુરક્ષિત કરવા માટે રચાયેલ ખૂબ જ સૉફ્ટવેર, અમારા ડિજિટલ સંરક્ષણનું પાયાનું સ્તર, સાર્વજનિક રૂપે જાણીતી, સક્રિય રીતે શોષિત ખામીઓને આશ્રિત કરવા માટે દર્શાવવામાં આવ્યું છે જે હુમલાખોરને વિશેષાધિકારો વધારવા માટે પરવાનગી આપે છે. જ્યારે તમારી કારની બ્રેક ફેઈલ થઈ રહી હોય અને એન્જિનમાં આગ લાગી હોય ત્યારે તે વાર્પ ડ્રાઈવના દાર્શનિક અસરો વિશે દલીલ કરવા જેવું છે.
ધ રેકૉનિંગ: એક જ સિક્કાની બે બાજુઓ
આ અલગ વાર્તાઓ નથી. તે એક જ ઊંડે ક્ષતિગ્રસ્ત સિક્કાની બે બાજુઓ છે: એક ટેક ઉદ્યોગ કે જેણે મૂળભૂત સુરક્ષા, સ્થિરતા અને જવાબદારી કરતાં ઝડપ, નવીનતા અને નવીનતાને સતત પ્રાધાન્ય આપ્યું છે.
મંદી માટે AI નેતાઓનો અચાનક કૉલ એ એક પ્રતિક્રિયાશીલ, સ્વ-સેવા કરવાનો પ્રયાસ છે તે પછી તેઓ પહેલાથી જ શક્તિશાળી, નબળી રીતે સમજી શકાય તેવી સિસ્ટમને જંગલમાં ઉતારી ચૂક્યા છે. તે એક કબૂલ છે કે "ઝડપી ચાલ અને વસ્તુઓને તોડી નાખો" મંત્ર, જ્યારે સંભવિત રૂપે વિશ્વ-બદલતી તકનીક પર લાગુ કરવામાં આવે છે, તે માત્ર બેજવાબદાર નથી, પણ જોખમી છે.
શૂન્ય-દિવસ આક્રમણ, ખાસ કરીને નિર્ણાયક ડિફેન્ડર નબળાઈ, પાયાના આઇટી પર લાગુ આ જ માનસિકતાનું સીધું, પીડાદાયક પરિણામ છે. તે એક સંસ્કૃતિનું પરિણામ છે જે ઘણીવાર સુરક્ષાને દરેક ઉત્પાદન અને સિસ્ટમના અભિન્ન, બિન-વાટાઘાટ કરી શકાય તેવા ઘટકને બદલે એક પછીના વિચાર, અનુપાલન ચેકબોક્સ અથવા ખર્ચ કેન્દ્ર તરીકે લે છે. અમે આગલા ચમકદાર ઑબ્જેક્ટનો પીછો કરવામાં એટલા વ્યસ્ત છીએ - આગામી LLM, આગામી AI એજન્ટ - કે અમે અમારા પગ નીચેની જમીનને સડી જવા દીધી છે.
સીટીઓ અને એન્જિનિયરિંગ લીડ્સ માટે, સંદેશ સખત અને તાત્કાલિક છે. તમારા ફીડને પાર કરતા દરેક AI વલણનો પીછો કરવાનું બંધ કરો. ફંડામેન્ટલ્સ પર ડબલ ડાઉન. પેચિંગને પ્રાધાન્ય આપો, ખાસ કરીને સિસ્કો, ગિટલેબ જેવી ગંભીર, સક્રિય રીતે શોષિત નબળાઈઓ અને ડિફેન્ડરના ભૂતકાળના LPE દ્વારા દર્શાવવામાં આવેલા સતત ખતરા માટે. મજબૂત શમનનો અમલ કરો. તમારા વિક્રેતાઓ પાસેથી તેમની સુરક્ષાની મુદ્રા માટે જવાબદારીની માંગ કરો, માત્ર તેમના ફીચર રોડમેપ માટે નહીં.
બજારની ગડબડ અને સંબોધિત ન કરાયેલ પાયાની સુરક્ષા સમસ્યાઓ માત્ર સમાચારની વસ્તુઓ નથી. તેઓ એક હિસાબ છે. એક તકનીકી દુનિયા જે ખૂબ ઝડપી, ખૂબ અવિચારી અને અંતે, ખૂબ ખુલ્લી છે. મોટા થવાનો, આપણા પાયાને સુરક્ષિત કરવાનો આ સમય છે, અને પછી, તો જ, સાવધાનીપૂર્વક આગળની સરહદનો વિચાર કરો.
સ્ત્રોતો
[1] જીવન સંસ્થાનું ભવિષ્ય — જાયન્ટ AI પ્રયોગોને થોભાવો: એક ખુલ્લો પત્ર — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — AI નિષ્ણાતો અદ્યતન AI સિસ્ટમ્સના વિકાસમાં વિરામ માટે કહે છે — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — જાણીતી શોષિત નબળાઈઓ સૂચિ — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [૪] સિસ્કો સિક્યુરિટી એડવાઇઝરી — સિસ્કો સિક્યોર ઈમેઈલ અને વેબ મેનેજર, સિસ્કો ઈમેઈલ સિક્યુરિટી એપ્લાયન્સ અને સિસ્કો વેબ સિક્યુરિટી એપ્લાયન્સ નબળાઈઓ — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-sqa-esq5 [5] માઈક્રોસોફ્ટ સિક્યોરિટી રિસ્પોન્સ સેન્ટર — માઈક્રોસોફ્ટ ડિફેન્ડર લોકલ પ્રિવિલેજ એસ્કેલેશન વલ્નેરેબિલિટી — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647