AI స్లోడౌన్ ఒక డిస్ట్రక్షన్. మీ ఇల్లు మంటల్లో ఉంది.
నిస్సందేహంగా ఉండనివ్వండి: సాంకేతిక పరిశ్రమ చివరకు AIతో "కమ్ టు జీసస్" క్షణాన్ని కలిగి ఉంది, కానీ అది నిజమైన పశ్చాత్తాపం వలె తక్కువగా మరియు వ్యూహాత్మక ఇరుసులాగా అనిపిస్తుంది. అకస్మాత్తుగా, ఈ బ్రేక్‌నెక్ AI రేస్ యొక్క ఆర్కిటెక్ట్‌లు - ప్రముఖ పరిశోధకులు మరియు వారి కెఫిన్-ఇంధన స్ప్రింట్‌లకు నిధులు సమకూర్చిన ఫైనాన్షియర్‌లు - మందగమనం కోసం పిలుపునిచ్చారు [1]. వారు "అంతర్గత పాలన", "నైతిక ఫ్రేమ్‌వర్క్‌లు" మరియు "మరింత ఉద్దేశపూర్వక" వేగం గురించి మాట్లాడుతున్నారు. మరియు మార్కెట్, ఎప్పుడూ సెన్సిటివ్ బేరోమీటర్, చిప్ స్టాక్‌లలో అస్థిరతకు కారణమయ్యే AI పెట్టుబడుల యొక్క స్థిరత్వం గురించి ఆందోళనలతో ఇప్పటికే ప్రతిస్పందించింది [2].
ఇది బాహ్య నియంత్రణ కాదు; ఇది AI పర్యావరణ వ్యవస్థలోనే ఉద్భవిస్తున్న అంతర్గత "ఫాల్ట్ లైన్". మరియు C-సూట్ వారి భవిష్యత్ సృష్టి యొక్క తాత్విక చిక్కులను చర్చిస్తున్నప్పుడు, వర్తమానం చురుకుగా మండుతోంది.
అనుకూలమైన పాజ్
సమయాన్ని పరిగణించండి. సంవత్సరాలుగా, మంత్రం "వేగంగా తరలించు మరియు వస్తువులను విచ్ఛిన్నం చేయడం" లేదా ఇటీవల, "వేగంగా తరలించి AGIని నిర్మించడం". ఇప్పుడు, శక్తివంతమైన మోడల్‌లు ఇప్పటికే అమలులో ఉన్నాయి, పోటీ ప్రకృతి దృశ్యం ఎక్కువగా నిర్వచించబడింది మరియు వాస్తవమైన, అర్ధవంతమైన నియంత్రణ యొక్క భయంతో, హెచ్చరిక కోసం పిలుపులు కొద్దిగా ఖాళీగా ఉన్నాయి. ఇది తీవ్రమైన నష్టాలకు నిజమైన మేల్కొలుపు లేదా అధికారాన్ని ఏకీకృతం చేయడానికి, పోటీదారులను నెమ్మదించడానికి మరియు పిచ్‌ఫోర్క్‌లు బయటకు రాకముందే ప్రజల అవగాహనను నిర్వహించడానికి లెక్కించిన యుక్తినా?
కంప్యూట్, టాలెంట్ మరియు ఫౌండేషన్ మోడల్స్‌లో మీరు ఇప్పటికే మార్కెట్‌ను మూలన పడేసినప్పుడు జాగ్రత్తగా ఉండమని చెప్పడం సులభం. "ఉత్పత్తి రోడ్‌మ్యాప్‌లు, రిస్క్ అసెస్‌మెంట్‌లు మరియు వ్యూహాత్మక ప్రణాళికల పునః మూల్యాంకనం"పై పరిశ్రమ యొక్క ఆకస్మిక దృష్టి శ్రేష్ఠమైనదిగా అనిపిస్తుంది, అయితే ఇది వనరులను తిరిగి సమలేఖనం చేయడానికి అనుకూలమైన మార్గంగా కూడా అనిపిస్తుంది. ఇది ఓపెన్ సోర్స్ ప్రత్యామ్నాయాలు లేదా అవసరమైన వనరులకు ప్రాప్యతను నియంత్రించడం లేదా నియంత్రణ ఫ్రేమ్‌వర్క్‌లను ప్రభావితం చేయడం ద్వారా స్థాపించబడిన దిగ్గజాలను సవాలు చేసే చిన్న ఆటగాళ్లను సమర్థవంతంగా నెమ్మదిస్తుంది. "నైతిక ఫ్రేమ్‌వర్క్" అకస్మాత్తుగా అత్యంత ముఖ్యమైనది, మోడల్‌లు స్క్రాప్ చేయబడిన డేటాపై శిక్షణ పొందుతున్నప్పుడు కాదు, కానీ ఇప్పుడు అవి నిజంగా సమాజాన్ని పునర్నిర్మించేంత శక్తివంతమైనవి.
అకడమిక్ మరియు సైంటిఫిక్ కమ్యూనిటీలలో వినిపించిన ఆందోళనలు, సమస్యలను తెరవడానికి AI "పరిష్కారాలు" వారి ఫీల్డ్‌ల సమగ్రతను బెదిరించగలవని హెచ్చరించడం [3], ఈ అంతర్గత ఆందోళన యొక్క లోతుకు స్పష్టమైన సూచిక. అయితే దీన్ని పరోపకారం అని తప్పు పట్టకూడదు. ఇది ఉద్యోగాలు లేదా మౌలిక సదుపాయాలపై AI ప్రభావం గురించి కాదు; ఇది నియంత్రణ గురించి – ఎవరు దానిని నిర్వహిస్తారు మరియు ఏ వేగంతో ఉంటారు. "మేము నిర్మించాలా?" అనే చర్చ తక్కువగా ఉంది. మరియు "మేము దీన్ని ఎంత వేగంగా నిర్మించాలో ఎవరు నిర్ణయించుకుంటారు మరియు ఎవరికి లాభం?"
వారు భవిష్యత్తు గురించి చర్చిస్తున్నప్పుడు, మీ వర్తమానం రాజీ పడింది
ఇప్పుడు, AI యొక్క అంతర్గత చీలిక యొక్క నైరూప్య, భవిష్యత్తును దృష్టిలో ఉంచుకునే ఆందోళనల నుండి మన నెట్‌వర్క్‌లలో ప్రస్తుతం ఆవిష్కృతమవుతున్న తక్షణ, స్పష్టమైన సంక్షోభానికి పైవట్ చేద్దాం. AI టైటాన్‌లు తమ మెషీన్‌ల గురించి ఆలోచిస్తుండగా, మీ కార్యాచరణ బృందాలు పూర్తి స్థాయిలో సైబర్‌ సెక్యూరిటీ విపత్తును ఎదుర్కొనేందుకు ప్రయత్నిస్తున్నాయి.
మేము సైద్ధాంతిక బెదిరింపులు లేదా సాధారణ పోకడల గురించి మాట్లాడటం లేదు. మేము ఫౌండేషనల్ ఎంటర్‌ప్రైజ్ సాఫ్ట్‌వేర్‌లో చురుగ్గా ఉపయోగించబడుతున్న జీరో-డే దుర్బలత్వాల గురించి మాట్లాడుతున్నాము, స్లెడ్జ్‌హామర్ శక్తితో క్లిష్టమైన మౌలిక సదుపాయాలను తాకడం.
- ఇవంతి కనెక్ట్ సెక్యూర్ మరియు పాలసీ సెక్యూర్ (CVE-2023-46805 & CVE-2024-21887): ఇది కేవలం బగ్ కాదు; అది ఒక ఖాళీ గాయం. Ivanti యొక్క VPN మరియు నెట్‌వర్క్ యాక్సెస్ సొల్యూషన్‌లలోని ఈ దుర్బలత్వాలు చురుకుగా ఉపయోగించబడ్డాయి, దాడి చేసేవారు ప్రామాణీకరణను దాటవేయడానికి మరియు రిమోట్ ఆదేశాలను అమలు చేయడానికి అనుమతిస్తుంది. CISA అనేక హెచ్చరికలను జారీ చేసింది, సురక్షిత రిమోట్ యాక్సెస్ కోసం ఈ సిస్టమ్‌లపై ఆధారపడే సంస్థలకు క్లిష్టమైన ప్రమాదాన్ని హైలైట్ చేసింది [4]. మీ ప్రాథమిక నెట్‌వర్క్ రక్షణ, గేట్ వద్ద చెడ్డ వ్యక్తులను ఆపడానికి మీరు ఆధారపడే ఒక విషయం, దాడి చేసేవారికి లెక్కలేనన్ని ఎంటర్‌ప్రైజ్ నెట్‌వర్క్‌లకు లోతైన యాక్సెస్‌ను మంజూరు చేయడానికి చురుకుగా ఉపయోగించబడుతోంది.
- Cisco IOS XE వెబ్ UI (CVE-2023-20198): గరిష్ట తీవ్రత. చురుకుగా దోపిడీ చేయబడింది. ఈ దుర్బలత్వం ప్రామాణీకరించబడని దాడి చేసేవారిని ప్రత్యేక ఖాతాలను సృష్టించడానికి మరియు ప్రభావితమైన Cisco IOS XE పరికరాలపై పూర్తి నియంత్రణను పొందేందుకు అనుమతిస్తుంది. దాడి చేసే వ్యక్తి మీ నెట్‌వర్క్ ఇన్‌ఫ్రాస్ట్రక్చర్ మేనేజ్‌మెంట్ ప్లేన్‌ను కలిగి ఉంటే, వారు మీ మొత్తం నెట్‌వర్క్‌ను కలిగి ఉంటారు. ఆట ముగిసింది [5].
CISA వినోదం కోసం "హెచ్చరికలు" జారీ చేయడం లేదు; వారు రద్దీగా ఉన్న థియేటర్‌లో "అగ్ని" అని అరుస్తున్నారు. ఇవి కేవలం సైద్ధాంతిక బెదిరింపులు కాదు; గ్లోబల్ ఎంటర్‌ప్రైజెస్ అంతటా కోర్ డిఫెన్స్ మరియు మేనేజ్‌మెంట్ సిస్టమ్‌లను రాజీ చేయడానికి అవి చురుకుగా ఉపయోగించబడుతున్నాయి.
రియల్ ఫాల్ట్ లైన్
వ్యంగ్యం చాలా మందంగా ఉంది, మీరు దానిని నిస్తేజమైన కత్తితో కత్తిరించవచ్చు. ఒక వైపు, AI ఎలైట్ వారు ఇంకా నిర్మించుకుంటున్న భవిష్యత్తు యొక్క నైతిక చిక్కుల గురించి చర్చించారు, సంవత్సరాలుగా తనిఖీ చేయని త్వరణం తర్వాత మందగమనం కోసం పిలుపునిచ్చారు. మరోవైపు, మన ప్రస్తుత పునాది సాంకేతికత యొక్క తక్షణ, అస్తిత్వ ముప్పును మేము కలిగి ఉన్నాము, అడ్రస్ లేని, అన్‌ప్యాచ్ చేయని దుర్బలత్వాల బరువుతో చురుకుగా కృంగిపోతున్నాము.
నిజమైన "ఫాల్ట్ లైన్" అనేది AI సంఘంలో మాత్రమే కాదు; ఇది ఆవిష్కరణ యొక్క ఐవరీ టవర్ మరియు కార్యాచరణ వాస్తవికత యొక్క కందకాల మధ్య ఉంది. ఇది AI కోసం "స్వీయ-నియంత్రణ" యొక్క వియుక్త, భవిష్యత్తు-కేంద్రీకృత చర్చల మధ్య మరియు ఈ రోజు మనం ఆధారపడే సిస్టమ్‌లలో వాస్తవమైన భద్రత మరియు స్థిరత్వం కోసం తక్షణ, ఖచ్చితమైన అవసరం.
CTOలు మరియు ఇంజినీరింగ్‌కు నాయకత్వం వహిస్తున్నందున, AI మందగమనం యొక్క తాత్విక చర్చల ద్వారా మేము పరధ్యానంలో ఉండలేము. ఆ చర్చలు దీర్ఘకాలికంగా ముఖ్యమైనవి అయినప్పటికీ, మీ ఇల్లు చురుకుగా మంటల్లో ఉన్నప్పుడు అవి విలాసవంతమైనవి. "ప్రొడక్ట్ రోడ్‌మ్యాప్‌ల పున-మూల్యాంకనం" అనేది మా ప్రస్తుత మౌలిక సదుపాయాల యొక్క నాసిరకం పునాదులను పెంచడంతో ప్రారంభించాలి. కార్యాచరణ కొనసాగింపు మరియు డేటా సమగ్రతను రాజీ పడే తక్షణ, చురుకైన దోపిడీ బెదిరింపులకు "ప్రమాద అంచనాలు" ప్రాధాన్యతనివ్వాలి ఈనాడు.
పరిశ్రమ ప్రాధాన్యతలు తారుమారయ్యాయి. చురుకుగా కుళ్ళిపోతున్న పునాదిపై మేము వేగంగా, మెరిసే వస్తువులను నిర్మిస్తున్నాము. AI మందగమనం కోసం పిలుపు అవసరమైన సంభాషణ కావచ్చు, కానీ ఇవంతి మరియు సిస్కో జీరో-డేస్‌తో వ్యవహరించే మనలాంటి వారికి, పైకప్పు గుహలో ఉన్నప్పుడు కర్టెన్ల రంగు గురించి చర్చిస్తున్నట్లు అనిపిస్తుంది. వర్తమానంపై దృష్టి పెట్టండి. మనం చురుకుగా రక్తస్రావం కానంత వరకు భవిష్యత్తు వేచి ఉంటుంది.
మూలాలు
[1] జెయింట్ AI ప్రయోగాలను పాజ్ చేయడానికి బహిరంగ లేఖ — https://futureoflife.org/open-letter-pause-ai-development/ [2] AI స్టాక్‌లు పెరుగుతున్నాయి, కానీ కొంతమంది పెట్టుబడిదారులు భయాందోళనలకు గురవుతున్నారు - https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] సైన్స్‌లో AI విప్లవం: వాగ్దానాలు మరియు ప్రమాదాలు — https://www.nature.com/articles/d41586-023-03223-y [4] బెదిరింపు నటులు ఇవంతి కనెక్ట్ సెక్యూర్ మరియు ఇవంతి పాలసీ సురక్షిత దుర్బలత్వాలను ఉపయోగించుకుంటున్నారు — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] సిస్కో IOS XE సాఫ్ట్‌వేర్ వెబ్ UI వల్నరబిలిటీని ఉపయోగించుకుంటున్న ముప్పు నటులు — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a