द एम्परर्स न्यू एआय, आणि त्याच्या खाली सडणारा पाया

सम्राटचे नवीन AI, आणि त्याच्या खाली सडणारा पाया

AI आपल्या सर्वांना कधी वाचवणार होते ते लक्षात ठेवा? बाहेर वळते, तारणकर्ते आता कालबाह्यतेसाठी विचारत आहेत. नुकतेच, आमच्या AI-चालित भविष्याचे शिल्पकार - "फ्रंटियर" संशोधक आणि आर्थिक हेवीवेट-यांनी एकत्रितपणे ब्रेक मारला, "सुरक्षेच्या वाढत्या चिंतांमुळे" विकासात मंदीची मागणी केली [१]. बाजार, कधीही बोथट साधन, फुफ्फुसाचा खोकला करून प्रतिसाद दिला: चिप साठा आणि प्रमुख AI खेळाडू कोसळले [2]. बीजिंगने, अंदाजानुसार, इशाऱ्यांची खिल्ली उडवली, तर सोलच्या चिप दिग्गजांनी भविष्यातील एआय प्रगतीसाठी आगाऊ पेमेंट करण्यास टाळाटाळ केली [२].

हस्तिदंती टॉवरसाठी हा केवळ तात्विक वादविवाद नाही. ही एक भूकंपीय बदल आहे, उद्योगातील उच्चभ्रू लोकांकडून बेपर्वाईची जाहीर कबुली. आणि खरे सांगायचे तर, ते थोडेसे सोयीचे आहे.

एआय पॉज: परोपकार किंवा पॉवर प्ले?

चला स्पष्ट होऊ द्या: जेव्हा रॉकेट बनवलेल्या लोकांना अचानक लक्षात येते की ते प्रक्षेपणानंतर * पॅराशूट विसरले आहेत, तेव्हा हा सखोल नैतिक जागृतीचा क्षण नाही. हे एक विलंबित, स्वत: ची सेवा देणारी भांडणे आहे. हे रुंद डोळ्यांचे आदर्शवादी नाहीत; हे टायटन्स आहेत जे पेडलला धातूकडे ढकलत आहेत, घातांकीय वाढ आणि बाजारातील वर्चस्वाचा पाठलाग करत आहेत. आता, "अनपेक्षित परिणाम" ची भीती मोठ्या प्रमाणात पसरत आहे - आणि कदाचित, अधिक तिरकसपणे, सध्याचा वेग टिकाऊ नाही हे लक्षात आले आहे किंवा त्यांना त्यांचे नेतृत्व मजबूत करणे आवश्यक आहे - ते सामूहिक श्वास घेण्यासाठी कॉल करीत आहेत.

बाजारातील प्रतिक्रिया सांगत आहेत. चिप स्टॉक्समध्ये बुडविणे ही केवळ भीती नाही; हे संभाव्य मंदीच्या तात्काळ आर्थिक परिणामांबद्दल आहे. बीजिंगचा पुशबॅक? राष्ट्रीय धोरणात्मक फायदा अमूर्त सुरक्षा चिंतांवर मात करणारा स्पष्ट संकेत. आणि सोलचे चिपमेकर आगाऊ देयके नाकारत आहेत? अचानक अनिश्चित भविष्यातील दीर्घकालीन स्थिरता आणि नफा यावर प्रश्नचिन्ह निर्माण करण्याचा हा आवाज आहे.

आमच्यासाठी, सीटीओ आणि अभियांत्रिकी आघाडीवर आहेत, हे थेट एका गोंधळलेल्या लँडस्केपमध्ये अनुवादित करते. AI प्रकल्पांना पुन्हा प्राधान्य देण्यास भाग पाडून नियामक हस्तक्षेपांना गती मिळण्याची अपेक्षा करा. AI साठी "मुव्ह फास्ट अँड ब्रेक थिंग्ज" ची नीतिमत्ता अधिकृतपणे मृत झाली आहे, ज्याची जागा "नैतिक एआय डेव्हलपमेंट" फ्रेमवर्कसाठी एक उन्मत्त शोधाने घेतली आहे जी पहिल्या दिवसापासून बनवायला हवी होती. गुंतवणूक अधिक सावध होईल, रणनीती मुख्यत्वे होतील आणि हो, नोकऱ्यांच्या बाजारपेठेत थंडी जाणवेल कारण सोन्याची गर्दी अधिक मोजमाप, आणि आशेने, अधिक जबाबदार, दृष्टिकोनाला मार्ग देते. पण याला शुद्ध परमार्थ समजू नका. हे "विराम" जितके नियंत्रण आणि मार्केट री-कॅलिब्रेशन बद्दल आहे तितकेच ते वास्तविक सुरक्षिततेबद्दल आहे.

टायटन्स वादविवाद करत असताना, पाया कोसळला

आता, जेव्हा AI उच्चभ्रू लोक त्यांच्या अस्तित्वाचे संकट आले आहेत, भविष्यातील सुपरइंटिलिजन्सच्या नीतिमत्तेवर वादविवाद करत आहेत, तेव्हा आत्ताच समोर येत असलेल्या अगदी वास्तविक, अतिशय वर्तमान आणि पूर्णपणे विनाशकारी सुरक्षा संकटाबद्दल बोलूया.

या आठवड्यात, CISA ने त्याच्या Known Exploited Vulnerabilities catalog [३] मध्ये अनेक नवीन CVE जोडले. आम्ही Cisco Secure Email Gateway (CVE-2023-20269) [4] मधील पुष्टीकृत रूट RCE, GitLab (CVE-2023-2825) [3] मधील CVSS 10.0 पाथ ट्रॅव्हर्सल आणि अलीकडेच पॅच केलेल्या Chrome बद्दल बोलत आहोत जी शून्य-दिवसाची (C2VE-34) मागणी आहे. त्वरित लक्ष.

पण खरा आतड्याचा ठोसा, ज्याने प्रत्येक सुरक्षा व्यावसायिकाची किंकाळी शून्यात आणली पाहिजे, ती म्हणजे मूलभूत त्रुटींचा सतत धोका. CVE-2021-1647 विचारात घ्या, मायक्रोसॉफ्ट डिफेंडरच्या मालवेअर प्रोटेक्शन इंजिन [५] मधील स्थानिक विशेषाधिकार वाढीची भेद्यता. हा काही अस्पष्ट दोष नव्हता; त्याच्याकडे सार्वजनिक पुरावा-संकल्पना होती आणि जंगलात सक्रियपणे शोषण केले गेले, आमच्या डिजिटल संरक्षणाच्या महत्त्वपूर्ण घटकांशी कशा प्रकारे तडजोड केली जाऊ शकते आणि काही कालावधीसाठी असुरक्षित राहू शकते.

ते बुडू द्या. आम्ही AI भावनांच्या नैतिकतेवर वादविवाद करत असताना, आमच्या शेवटच्या बिंदूंचे संरक्षण करण्यासाठी डिझाइन केलेले सॉफ्टवेअर, आमच्या डिजिटल संरक्षणाचा पायाभूत स्तर, सार्वजनिकपणे ज्ञात, सक्रियपणे शोषण केलेल्या त्रुटींना आश्रय देणारे दाखवले गेले आहे ज्यामुळे आक्रमणकर्त्याला विशेषाधिकार वाढवता येतात. तुमच्या कारचे ब्रेक निकामी होत असताना आणि इंजिनला आग लागल्यावर वार्प ड्राइव्हच्या तात्विक परिणामांबद्दल वाद घालण्यासारखे आहे.

हिशोब: एकाच नाण्याच्या दोन बाजू

या वेगळ्या कथा नाहीत. ते एकाच गंभीरपणे सदोष नाण्याच्या दोन बाजू आहेत: एक तंत्रज्ञान उद्योग ज्याने मूलभूत सुरक्षा, स्थिरता आणि जबाबदारी यापेक्षा वेग, नवीनता आणि नवकल्पना यांना सातत्याने प्राधान्य दिले आहे.

एआय लीडर्सचा अचानक मंदीसाठी कॉल हा एक प्रतिक्रियात्मक, स्वयं-सेवा करण्याचा प्रयत्न आहे * नंतर* त्यांनी आधीच शक्तिशाली, खराब समजल्या जाणाऱ्या प्रणाली जंगलात आणल्या आहेत. हे मान्य आहे की "जलद हालचाल करा आणि गोष्टी तोडा" मंत्र, जेव्हा संभाव्य जग बदलणाऱ्या तंत्रज्ञानावर लागू केला जातो, तेव्हा तो केवळ बेजबाबदार नाही तर धोकादायक आहे.

शून्य-दिवसाचा हल्ला, विशेषत: गंभीर डिफेंडर असुरक्षा, हा मूलभूत IT वर लागू केलेल्या याच मानसिकतेचा थेट, वेदनादायक परिणाम आहे. प्रत्येक उत्पादन आणि प्रणालीचा अविभाज्य, नॉन-निगोशिएबल घटक न मानता सुरक्षा हा विचार, अनुपालन चेकबॉक्स किंवा खर्च केंद्र मानणाऱ्या संस्कृतीचा हा परिणाम आहे. पुढच्या चमकदार वस्तूचा पाठलाग करण्यात आम्ही इतके व्यस्त आहोत-पुढील LLM, पुढचा AI एजंट—की आम्ही आमच्या पायाखालची जमीनच सडू दिली आहे.

सीटीओ आणि अभियांत्रिकी लीड्ससाठी, संदेश स्पष्ट आणि तात्काळ आहे. तुमची फीड ओलांडणाऱ्या प्रत्येक AI ट्रेंडचा पाठलाग करणे थांबवा. मूलभूत गोष्टींवर दुप्पट करा. पॅचिंगला प्राधान्य द्या, विशेषत: Cisco, GitLab मधील गंभीर, सक्रियपणे शोषण केलेल्या असुरक्षा आणि डिफेंडरच्या भूतकाळातील LPEs द्वारे दर्शविलेल्या सततच्या धोक्यासाठी. मजबूत उपाय लागू करा. तुमच्या विक्रेत्यांकडून त्यांच्या सुरक्षेसाठी जबाबदारीची मागणी करा, केवळ त्यांच्या वैशिष्ट्यपूर्ण रोडमॅपसाठी नाही.

बाजारातील गडबड आणि अनावृत्त मूलभूत सुरक्षा समस्या या केवळ बातम्या नाहीत. ते हिशेब आहेत. एक तंत्रज्ञान जग जे खूप वेगवान, खूप बेपर्वा आणि शेवटी खूप उघड आहे. हीच वेळ आहे मोठं होण्याची, आपला पाया सुरक्षित करण्याची आणि मग, तेव्हाच, सावधपणे पुढच्या सीमेचा विचार करा.

स्रोत

[१] जीवन संस्थेचे भविष्य - जायंट एआय प्रयोगांना विराम द्या: एक खुले पत्र - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [२] CNBC — AI तज्ञांनी प्रगत AI प्रणालींच्या विकासाला विराम द्यावा — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [३] CISA — ज्ञात शोषित भेद्यता कॅटलॉग — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [४] सिस्को सिक्युरिटी ॲडव्हायझरी — सिस्को सिक्युर ईमेल आणि वेब मॅनेजर, सिस्को ईमेल सिक्युरिटी अप्लायन्स, आणि सिस्को वेब सिक्युरिटी अप्लायन्स व्हल्नेरबिलिटीज — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-sqa-esq5 [५] मायक्रोसॉफ्ट सिक्युरिटी रिस्पॉन्स सेंटर — मायक्रोसॉफ्ट डिफेंडर लोकल प्रिव्हिलेज एस्केलेशन व्हल्नरबिलिटी — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647