सम्राटको नयाँ एआई, र यसको मुनि सडिएको फाउन्डेशन

सम्राटको नयाँ एआई, र यसको मुनि सडिरहेको फाउन्डेशन

याद गर्नुहोस् जब AI ले हामी सबैलाई बचाउने थियो? बाहिर जान्छ, मुक्तिदाताहरूले अब समय समाप्तिको लागि सोधिरहेका छन्। भर्खरै, हाम्रो एआई-संचालित भविष्यका धेरै वास्तुकारहरू - "फ्रन्टियर" अनुसन्धानकर्ताहरू र वित्तीय हेवीवेटहरू-सामूहिक रूपमा ब्रेक प्रहार गरे, "बढ्दो सुरक्षा चिन्ताहरू" [१] को कारण विकासमा ढिलाइको माग गर्दै। बजार, सधैं ब्लन्ट इन्स्ट्रुमेन्ट, फोक्सो खोक्दै प्रतिक्रिया दियो: चिप स्टक र प्रमुख एआई प्लेयरहरू खस्कियो [२]। बेइजिङ, अनुमानित रूपमा, चेतावनीहरूमा खिल्ली उडायो, जबकि सियोलका चिप दिग्गजहरूले भविष्यमा एआई प्रगतिहरूका लागि अग्रिम भुक्तानीहरूमा टाँसिए [२]।

यो हात्तीको दाँतको टावरको लागि दार्शनिक बहस मात्र होइन। यो एक भूकम्पीय परिवर्तन हो, उद्योगको अभिजात वर्ग भित्रबाट लापरवाहीको सार्वजनिक स्वीकार। र स्पष्ट रूपमा, यो अलि धेरै सुविधाजनक छ।

एआई पज: परोपकार वा पावर प्ले?

स्पष्ट हुनुहोस्: जब रकेट निर्माण गर्ने मानिसहरूले अचानक महसुस गरे कि उनीहरूले * प्रक्षेपण पछि * प्यारासुटहरू बिर्सेका थिए, यो गहिरो नैतिक जागरणको क्षण होइन। यो एक ढिलो, स्व-सेवा स्क्र्याम्बल हो। यी चौडा आँखा भएका आदर्शवादी होइनन्; यी टाइटनहरू हुन् जसले धातुमा पेडल धकेल्दै छन्, घातीय वृद्धि र बजार प्रभुत्वलाई पछ्याउँदै। अब, "अप्रत्याशित नतिजाहरू" ठूला देखिन थालेको छ - र हुनसक्छ, अझ डरलाग्दो रूपमा, वर्तमान गति दिगो छैन वा उनीहरूले आफ्नो नेतृत्वलाई सुदृढ गर्न आवश्यक छ भन्ने अनुभूतिले - उनीहरूले सामूहिक सासको लागि आह्वान गरिरहेका छन्।

बजारको प्रतिक्रिया बताउँछ। चिप स्टकमा डुब्नु भनेको डरको बारेमा मात्र होइन; यो सम्भावित मन्दीको तत्काल वित्तीय प्रभावहरूको बारेमा हो। बेइजिङको पुशब्याक? राष्ट्रिय रणनीतिक लाभले अमूर्त सुरक्षा सरोकारहरूलाई हटाउँछ भन्ने स्पष्ट संकेत। र सियोलका चिपमेकरहरूले अग्रिम भुक्तानीहरू अस्वीकार गर्दैछन्? यो अचानक अनिश्चित भविष्यको दीर्घकालीन स्थिरता र नाफामा प्रश्न उठाउने पूँजीको आवाज हो।

हाम्रो लागि, CTOs र ईन्जिनियरिङ् नेतृत्वहरू, यसले सीधा अराजक परिदृश्यमा अनुवाद गर्दछ। एआई परियोजनाहरूको पुन: प्राथमिकतालाई बाध्य पार्दै, नियामक हस्तक्षेपहरू तीव्र हुने अपेक्षा गर्नुहोस्। एआईका लागि "मुभ फास्ट एन्ड ब्रेक थिंग्स" को लोकाचार आधिकारिक रूपमा मरेको छ, जसको ठाउँमा "नैतिक एआई विकास" फ्रेमवर्कहरूका लागि उन्मत्त खोजीहरू छन् जुन पहिलो दिनबाट पकाइएको हुनुपर्छ। लगानी थप सतर्क हुनेछ, रणनीतिहरू पिभोट हुनेछन्, र हो, सुनको भीडले थप मापन, र आशा छ, अझ बढी जिम्मेवार, दृष्टिकोणलाई बाटो दिँदा रोजगार बजारहरूले चिसो महसुस गर्नेछन्। तर यसलाई शुद्ध परोपकारको रूपमा नबिर्सौं। यो "पज" नियन्त्रण र बजार पुन: क्यालिब्रेसन को बारे मा धेरै छ यो वास्तविक सुरक्षा को बारे मा छ।

टाइटन्स बहस गर्दा, फाउन्डेशन टुक्रा टुक्रा हुन्छ

अब, जब एआई अभिजात वर्गहरूले आफ्नो अस्तित्वको संकट भोगिरहेका छन्, भविष्यको सुपरइन्टेलिजेन्सको नैतिकताको बारेमा बहस गरिरहेका छन्, आउनुहोस्, एकदमै वास्तविक, धेरै वर्तमान, र पूर्ण रूपमा विनाशकारी सुरक्षा संकटको बारेमा कुरा गरौं।

यो हप्ता, CISA ले यसको ज्ञात शोषण जोखिम सूची [३] मा धेरै नयाँ CVEs थप्यो। हामी सिस्को सेक्योर इमेल गेटवे (CVE-2023-20269) [4] मा पुष्टि भएको रूट RCE, GitLab (CVE-2023-2825) [3] मा CVSS 10.0 पथ ट्र्याभर्सल, र हालसालै प्याच गरिएको Chrome zero-day (C2V-34) [26-34] मा माग राखिएको कुरा गर्दैछौं। तत्काल ध्यान।

तर वास्तविक पेट पंच, जुन प्रत्येक सुरक्षा पेशेवरलाई शून्यमा चिच्याउनुपर्छ, त्यो आधारभूत त्रुटिहरूको निरन्तर खतरा हो। CVE-2021-1647 लाई विचार गर्नुहोस्, माइक्रोसफ्ट डिफेन्डरको मालवेयर सुरक्षा इन्जिन [५] मा स्थानीय विशेषाधिकार वृद्धि जोखिम। यो कुनै अस्पष्ट दोष थिएन; यसको सार्वजनिक प्रमाण-अवधारणा थियो र हाम्रो डिजिटल प्रतिरक्षाका महत्वपूर्ण घटकहरू कसरी सम्झौता गर्न सकिन्छ र एक अवधिको लागि कमजोर रहन सकिन्छ भनेर हाइलाइट गर्दै जंगलमा सक्रिय रूपमा शोषण गरिएको थियो।

त्यसलाई भित्र डुब्न दिनुहोस्। हामी AI भावनाको नैतिकतामा बहस गर्दैछौं, हाम्रो अन्तिम बिन्दुहरू जोगाउन डिजाइन गरिएको सफ्टवेयर, हाम्रो डिजिटल रक्षाको आधारभूत तह, सार्वजनिक रूपमा ज्ञात, सक्रिय रूपमा शोषण गरिएका त्रुटिहरूलाई बन्दरगाह गर्न देखाइएको छ जसले आक्रमणकर्तालाई विशेषाधिकारहरू बढाउन अनुमति दिन्छ। यो तपाईंको कारको ब्रेक फेल हुँदा र इन्जिनमा आगो लागेको बेला वार्प ड्राइभको दार्शनिक प्रभावहरूको बारेमा बहस गर्नु जस्तै हो।

गणना: एउटै सिक्काका दुई पक्ष

यी अलग कथाहरू होइनन्। तिनीहरू एउटै गहिरो त्रुटिपूर्ण सिक्काका दुई पाटा हुन्: एक प्राविधिक उद्योग जसले निरन्तर गति, नवीनता, र आधारभूत सुरक्षा, स्थिरता र जिम्मेवारीमा नवीनतालाई प्राथमिकता दिएको छ।

सुस्तताको लागि एआई नेताहरूको अचानक आह्वान एक प्रतिक्रियाशील, स्वयं-सेवा गर्ने प्रयास हो पाठ्यक्रम-सच्चाउने * पछि* तिनीहरूले पहिले नै शक्तिशाली, खराब बुझेका प्रणालीहरू जंगलीमा ल्याइसकेका छन्। यो स्वीकार्य छ कि "छिटो जानुहोस् र चीजहरू तोड्नुहोस्" मन्त्र, जब सम्भावित रूपमा विश्व-परिवर्तन गर्ने प्रविधिमा लागू हुन्छ, गैरजिम्मेवार मात्र होइन, खतरनाक पनि छ।

शून्य-दिनको आक्रमण, विशेष गरी महत्वपूर्ण डिफेन्डर जोखिम, आधारभूत आईटीमा लागू गरिएको यही मानसिकताको प्रत्यक्ष, पीडादायी परिणाम हो। यो संस्कृतिको नतिजा हो जसले प्रायः सुरक्षालाई प्रत्येक उत्पादन र प्रणालीको अभिन्न, गैर-वार्तालाप गर्न मिल्ने कम्पोनेन्टको सट्टा पछिको विचार, अनुपालन जाँच बाकस, वा लागत केन्द्रको रूपमा व्यवहार गर्दछ। हामी अर्को चम्किलो वस्तु - अर्को LLM, अर्को AI एजेन्ट - को पछि लाग्न यति व्यस्त छौं कि हामीले हाम्रो खुट्टा मुनिको जमिन कुहिन दियौं।

CTOs र ईन्जिनियरिङ् लीडहरूका लागि, सन्देश कडा र तत्काल छ। तपाईंको फिड पार गर्ने हरेक AI प्रवृतिलाई पछ्याउन रोक्नुहोस्। आधारभूत कुराहरूमा दोब्बर तल। प्याचिङलाई प्राथमिकता दिनुहोस्, विशेष गरी Cisco, GitLab, र डिफेन्डरको विगतका LPEs द्वारा उदाहरणित लगातार खतरा जस्ता महत्वपूर्ण, सक्रिय रूपमा शोषण गरिएका कमजोरीहरूको लागि। बलियो न्यूनीकरणहरू लागू गर्नुहोस्। तपाईंको विक्रेताहरूबाट तिनीहरूको सुरक्षा आसनको लागि जवाफदेहीता माग्नुहोस्, तिनीहरूको सुविधा रोडम्याप मात्र होइन।

बजारको गडबड र सम्बोधन नगरिएका आधारभूत सुरक्षा मुद्दाहरू समाचार वस्तु मात्र होइनन्। तिनीहरू एक हिसाब हो। एक प्राविधिक संसार जुन धेरै छिटो, धेरै लापरवाह र अन्तमा, धेरै खुला छ। यो हुर्कने समय हो, हाम्रो जग सुरक्षित गर्नुहोस्, र त्यसपछि, * त्यसपछि मात्र*, सावधानीपूर्वक अर्को सीमानालाई विचार गर्नुहोस्।

स्रोतहरू

[१] जीवन संस्थानको भविष्य - विशाल एआई प्रयोगहरू रोक्नुहोस्: खुला पत्र - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [२] CNBC — AI विशेषज्ञहरूले उन्नत AI प्रणालीहरूको विकासमा रोक लगाउन आह्वान गर्छन् — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [३] CISA - ज्ञात शोषण जोखिम सूची - https://www.cisa.gov/known-exploited-vulnerabilities-catalog [४] सिस्को सुरक्षा सल्लाहकार - सिस्को सुरक्षित इमेल र वेब प्रबन्धक, सिस्को इमेल सुरक्षा उपकरण, र सिस्को वेब सुरक्षा उपकरण कमजोरीहरू - https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-es-sq55 [५] माइक्रोसफ्ट सेक्युरिटी रेस्पोन्स सेन्टर — माइक्रोसफ्ट डिफेन्डर लोकल प्रिभिलेज एस्केलेसन भेद्यता — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647