చక్రవర్తి యొక్క కొత్త AI, మరియు దాని క్రింద కుళ్ళిపోతున్న ఫౌండేషన్
AI మనందరినీ ఎప్పుడు రక్షించబోతోందో గుర్తుందా? రక్షకులు ఇప్పుడు సమయం ముగియాలని అడుగుతున్నారు. ఇటీవలే, మన AI-ఆధారిత భవిష్యత్తు యొక్క ఆర్కిటెక్ట్‌లు- "సరిహద్దు" పరిశోధకులు మరియు ఆర్థిక హెవీవెయిట్‌లు - "పెరుగుతున్న భద్రతా సమస్యలు" [1] కారణంగా అభివృద్ధిని మందగించాలని డిమాండ్ చేస్తూ సమిష్టిగా బ్రేకులు కొట్టారు. మార్కెట్, ఎప్పుడూ మొద్దుబారిన పరికరం, ఊపిరితిత్తులను దగ్గడం ద్వారా ప్రతిస్పందించింది: చిప్ స్టాక్‌లు మరియు ప్రధాన AI ప్లేయర్‌లు పడిపోయాయి [2]. బీజింగ్, ఊహాజనితంగా, హెచ్చరికలను అపహాస్యం చేసింది, అయితే సియోల్ యొక్క చిప్ దిగ్గజాలు భవిష్యత్ AI పురోగమనాల కోసం ముందస్తు చెల్లింపులను నిరోధించాయి [2].
ఇది ఐవరీ టవర్‌కి సంబంధించిన తాత్విక చర్చ మాత్రమే కాదు. ఇది భూకంప మార్పు, పరిశ్రమలోని ప్రముఖుల నుండి నిర్లక్ష్యానికి బహిరంగంగా అంగీకరించడం. మరియు స్పష్టంగా, ఇది కొద్దిగా చాలా సౌకర్యవంతంగా ఉంటుంది.
AI పాజ్: పరోపకారం లేదా పవర్ ప్లే?
స్పష్టంగా చెప్పండి: రాకెట్‌ను నిర్మించిన వ్యక్తులు అకస్మాత్తుగా పారాచూట్‌లను ప్రయోగించిన తర్వాత మరచిపోయారని గ్రహించినప్పుడు, ఇది లోతైన నైతిక మేల్కొలుపు యొక్క క్షణం కాదు. ఇది ఆలస్యమైన, స్వయం సేవకు సంబంధించిన పెనుగులాట. వీరు విశాల దృష్టిగల ఆదర్శవాదులు కాదు; ఘాతాంక వృద్ధి మరియు మార్కెట్ ఆధిపత్యాన్ని వెంటాడుతూ, మెటల్‌కు పెడల్‌ను నెట్టివేస్తున్న టైటాన్‌లు వీరు. ఇప్పుడు, "ఊహించని పరిణామాలు" పెద్దదవుతున్నాయి-మరియు బహుశా, మరింత విరక్తంగా, ప్రస్తుత వేగం నిలకడలేనిది లేదా వారు తమ ఆధిక్యాన్ని ఏకీకృతం చేయాల్సిన అవసరం ఉందని గ్రహించి-వారు సామూహిక శ్వాస కోసం పిలుపునిస్తున్నారు.
మార్కెట్ స్పందనే తెలియజేస్తోంది. చిప్ స్టాక్స్‌లో తగ్గుదల భయం గురించి మాత్రమే కాదు; ఇది సంభావ్య మందగమనం యొక్క తక్షణ ఆర్థిక చిక్కుల గురించి. బీజింగ్ యొక్క పుష్‌బ్యాక్? జాతీయ వ్యూహాత్మక ప్రయోజనం నైరూప్య భద్రతా ఆందోళనలను ట్రంప్‌కు గురిచేసే స్పష్టమైన సంకేతం. మరియు సియోల్ చిప్‌మేకర్‌లు ముందస్తు చెల్లింపులను నిరాకరిస్తున్నారా? అకస్మాత్తుగా అనిశ్చిత భవిష్యత్తు యొక్క దీర్ఘకాలిక స్థిరత్వం మరియు లాభదాయకతను ప్రశ్నించే మూలధనం యొక్క ధ్వని అది.
మాకు, CTOలు మరియు ఇంజనీరింగ్ లీడ్స్, ఇది నేరుగా అస్తవ్యస్తమైన ప్రకృతి దృశ్యానికి అనువదిస్తుంది. రెగ్యులేటరీ జోక్యాలను వేగవంతం చేయాలని ఆశించడం, AI ప్రాజెక్ట్‌ల పునఃప్రాధాన్యతను బలవంతం చేయడం. AI కోసం "వేగంగా తరలించు మరియు వస్తువులను విచ్ఛిన్నం చేయి" ఎథోస్ అధికారికంగా చనిపోయింది, మొదటి రోజు నుండి బేక్ చేయబడి ఉండవలసిన "నైతిక AI డెవలప్‌మెంట్" ఫ్రేమ్‌వర్క్‌ల కోసం వెర్రి శోధనతో భర్తీ చేయబడింది. పెట్టుబడి మరింత జాగ్రత్తగా ఉంటుంది, వ్యూహాలు ఇరుసుగా మారుతాయి మరియు అవును, బంగారు రష్ మరింత కొలవబడిన మరియు ఆశాజనక, మరింత బాధ్యతాయుతమైన విధానానికి దారితీసినందున ఉద్యోగ మార్కెట్లు చల్లగా ఉంటాయి. అయితే దీన్ని స్వచ్ఛమైన పరోపకారం అని తప్పు పట్టకూడదు. ఈ "పాజ్" అనేది నియంత్రణ మరియు మార్కెట్ రీ-క్యాలిబ్రేషన్‌కి సంబంధించినది మరియు నిజమైన భద్రత గురించి కూడా అంతే.
టైటాన్స్ డిబేట్ అయితే, ఫౌండేషన్ కృంగిపోతుంది
ఇప్పుడు, AI ఎలైట్ వారి అస్తిత్వ సంక్షోభాన్ని ఎదుర్కొంటున్నప్పుడు, భవిష్యత్ సూపర్ ఇంటెలిజెన్స్ యొక్క నీతి గురించి చర్చిస్తున్నప్పుడు, ప్రస్తుతం బయటపడుతున్న నిజమైన, అత్యంత ప్రస్తుత మరియు పూర్తిగా విపత్తు భద్రతా సంక్షోభం గురించి మాట్లాడుకుందాం.
ఈ వారం, CISA దాని తెలిసిన ఎక్స్‌ప్లోయిటెడ్ వల్నరబిలిటీస్ కేటలాగ్ [3]కి బహుళ కొత్త CVEలను జోడించింది. మేము Cisco సురక్షిత ఇమెయిల్ గేట్‌వే (CVE-2023-20269) [4]లో ధృవీకరించబడిన రూట్ RCE గురించి మాట్లాడుతున్నాము, GitLab (CVE-2023-2825) [3]లో CVSS 10.0 పాత్ ట్రావెర్సల్, మరియు ఇటీవల ప్యాచ్ చేయబడిన Chrome సున్నా-రోజు (CVE-420) 3 తక్షణ దృష్టిని కోరింది.
కానీ నిజమైన గట్ పంచ్, ప్రతి భద్రతా నిపుణుడిని శూన్యంగా కేకలు వేయాలి, ఇది పునాది లోపాల యొక్క నిరంతర ముప్పు. CVE-2021-1647ని పరిగణించండి, మైక్రోసాఫ్ట్ డిఫెండర్ యొక్క మాల్వేర్ ప్రొటెక్షన్ ఇంజిన్ [5]లో స్థానిక ప్రత్యేకాధికారాల పెంపు దుర్బలత్వం. ఇది కొన్ని అస్పష్టమైన లోపం కాదు; ఇది పబ్లిక్ ప్రూఫ్-ఆఫ్-కాన్సెప్ట్‌ను కలిగి ఉంది మరియు అడవిలో చురుకుగా దోపిడీ చేయబడింది, మా డిజిటల్ రక్షణ యొక్క కీలకమైన భాగాలు ఎలా రాజీపడవచ్చు మరియు కొంత కాలం వరకు హాని కలిగించవచ్చు.
అది మునిగిపోనివ్వండి. మేము AI సెంటియన్స్ యొక్క నైతికత గురించి చర్చిస్తున్నప్పుడు, మా డిజిటల్ రక్షణ యొక్క పునాది పొర అయిన మన అంతిమ బిందువులను రక్షించడానికి రూపొందించబడిన సాఫ్ట్‌వేర్, బహిరంగంగా తెలిసిన, చురుగ్గా ఉపయోగించబడే లోపాలను కలిగి ఉన్నట్లు చూపబడింది, ఇది దాడి చేసేవారికి అధికారాలను పెంచుకోవడానికి వీలు కల్పిస్తుంది. ఇది మీ కారు బ్రేక్‌లు విఫలమవుతున్నప్పుడు మరియు ఇంజిన్ మంటల్లో ఉన్నప్పుడు వార్ప్ డ్రైవ్ యొక్క తాత్విక చిక్కుల గురించి వాదించడం లాంటిది.
గణన: ఒకే నాణేనికి రెండు వైపులా
ఇవి వేరు వేరు కథలు కాదు. అవి ఒకే లోతైన లోపభూయిష్ట నాణేనికి రెండు వైపులా ఉన్నాయి: ప్రాథమిక భద్రత, స్థిరత్వం మరియు బాధ్యతపై స్థిరంగా వేగం, కొత్తదనం మరియు ఆవిష్కరణలను గ్రహించిన సాంకేతిక పరిశ్రమ.
మందగమనం కోసం AI నాయకులు చేసిన ఆకస్మిక పిలుపు, వారు ఇప్పటికే శక్తివంతమైన, సరిగా అర్థం చేసుకోని వ్యవస్థలను అడవిలోకి విడుదల చేసిన తర్వాత* కోర్సును సరిదిద్దడానికి ఒక రియాక్టివ్, స్వీయ-సేవ ప్రయత్నం. ప్రపంచాన్ని మార్చే సాంకేతికతకు వర్తింపజేసినప్పుడు, "వేగంగా తరలించండి మరియు వస్తువులను విచ్ఛిన్నం చేయండి" అనే మంత్రం బాధ్యతారాహిత్యం మాత్రమే కాదు, ప్రమాదకరమైనది అని అంగీకరించడం.
జీరో-డే దాడి, ముఖ్యంగా క్రిటికల్ డిఫెండర్ దుర్బలత్వం, పునాది ఐటికి వర్తించే ఇదే ఆలోచన యొక్క ప్రత్యక్ష, బాధాకరమైన పరిణామం. ఇది ప్రతి ఒక్క ఉత్పత్తి మరియు సిస్టమ్‌లో సమగ్రమైన, చర్చించలేని అంశంగా కాకుండా, భద్రతను తరచుగా ఆలోచన, సమ్మతి చెక్‌బాక్స్ లేదా ఖర్చు కేంద్రంగా పరిగణించే సంస్కృతి యొక్క ఫలితం. మేము తదుపరి మెరిసే వస్తువు-తదుపరి LLM, తదుపరి AI ఏజెంట్-వెంబడించడంలో చాలా బిజీగా ఉన్నాము, తద్వారా మేము మా పాదాల క్రింద ఉన్న భూమిని కుళ్ళిపోయేలా చేసాము.
CTOలు మరియు ఇంజనీరింగ్ లీడ్స్ కోసం, సందేశం పూర్తిగా మరియు తక్షణమే. మీ ఫీడ్‌ను దాటే ప్రతి AI ట్రెండ్‌ను వెంబడించడం ఆపివేయండి. ఫండమెంటల్స్‌పై రెండింతలు. ముఖ్యంగా Cisco, GitLab మరియు డిఫెండర్ యొక్క గత LPEల ద్వారా ఉదహరించబడిన నిరంతర ముప్పు వంటి క్లిష్టమైన, చురుగ్గా ఉపయోగించబడే దుర్బలత్వాల కోసం ప్యాచింగ్‌కు ప్రాధాన్యత ఇవ్వండి. పటిష్టమైన ఉపశమనాలను అమలు చేయండి. మీ విక్రయదారుల నుండి వారి ఫీచర్ రోడ్‌మ్యాప్ మాత్రమే కాకుండా వారి భద్రతా భంగిమ కోసం వారి నుండి జవాబుదారీతనం డిమాండ్ చేయండి.
మార్కెట్ పతనం మరియు అడ్రస్ లేని పునాది భద్రతా సమస్యలు కేవలం వార్తల అంశాలు మాత్రమే కాదు. అవి ఒక లెక్క. చాలా వేగవంతమైన, చాలా నిర్లక్ష్యంగా మరియు చివరకు చాలా బహిర్గతం అయిన సాంకేతిక ప్రపంచం. ఇది ఎదగడానికి, మన పునాదులను భద్రపరచడానికి, ఆపై, అప్పుడే, తదుపరి సరిహద్దును జాగ్రత్తగా పరిశీలించడానికి సమయం ఆసన్నమైంది.
మూలాలు
[1] లైఫ్ ఇన్స్టిట్యూట్ యొక్క భవిష్యత్తు — పాజ్ జెయింట్ AI ప్రయోగాలు: బహిరంగ లేఖ — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — AI నిపుణులు అధునాతన AI సిస్టమ్‌ల అభివృద్ధిలో విరామం కోసం పిలుపునిచ్చారు — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — తెలిసిన ఎక్స్‌ప్లోయిటెడ్ వల్నరబిలిటీస్ కేటలాగ్ — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] సిస్కో సెక్యూరిటీ అడ్వైజరీ — సిస్కో సురక్షిత ఇమెయిల్ మరియు వెబ్ మేనేజర్, సిస్కో ఇమెయిల్ సెక్యూరిటీ అప్లయన్స్, మరియు సిస్కో వెబ్ సెక్యూరిటీ అప్లయన్స్ దుర్బలత్వాలు — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-Su-8Q [5] మైక్రోసాఫ్ట్ సెక్యూరిటీ రెస్పాన్స్ సెంటర్ — మైక్రోసాఫ్ట్ డిఫెండర్ లోకల్ ప్రివిలేజ్ ఎస్కలేషన్ వల్నరబిలిటీ — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647