Inteligjenca e re e perandorit dhe fondacioni i kalbur poshtë tij
E mbani mend kur AI do të na shpëtonte të gjithëve? Rezulton se shpëtimtarët tani po kërkojnë një timeout. Kohët e fundit, vetë arkitektët e së ardhmes sonë të drejtuar nga AI - studiuesit "kufitar" dhe peshat e rënda financiare - së bashku goditën frenat, duke kërkuar një ngadalësim të zhvillimit për shkak të "shqetësimeve të përshkallëzuara të sigurisë" [1]. Tregu, gjithnjë instrumenti i hapur, u përgjigj duke kollitur një mushkëri: aksionet e çipave dhe lojtarët kryesorë të AI ranë [2]. Pekini, në mënyrë të parashikueshme, u tall me paralajmërimet, ndërsa gjigantët e çipave të Seulit kundërshtuan pagesat paraprake për avancimet e ardhshme të AI [2].
Ky nuk është vetëm një debat filozofik për kullën e fildishtë. Ky është një ndryshim sizmik, një pranim publik i pamaturisë nga brenda elitës së industrisë. Dhe sinqerisht, është paksa shumë i përshtatshëm.
Pauza e AI: Altruizëm apo lojë me fuqi?
Le të jemi të qartë: kur njerëzit që ndërtuan raketën e kuptojnë papritur se i harruan parashutat pas lëshimit, nuk është një moment zgjimi i thellë etik. Është një përleshje e vonuar dhe vetë-shërbyese. Këta nuk janë idealistë me sy hapur; këta janë titanët që kanë shtyrë pedalin drejt metalit, duke ndjekur rritjen eksponenciale dhe dominimin e tregut. Tani, me spektrin e "pasojave të paparashikuara" që duket i madh - dhe ndoshta, në mënyrë më cinike, të kuptuarit se ritmi aktual është i paqëndrueshëm ose se ata duhet të konsolidojnë drejtimin e tyre - ata po bëjnë thirrje për një frymëmarrje kolektive.
Reagimi i tregut është i qartë. Një rënie në aksionet e çipave nuk ka të bëjë vetëm me frikën; bëhet fjalë për implikimet e menjëhershme financiare të një ngadalësimi të mundshëm. Kundërshtimi i Pekinit? Një sinjal i qartë se avantazhi strategjik kombëtar tejkalon shqetësimet abstrakte të sigurisë. Dhe prodhuesit e çipave të Seulit refuzojnë pagesat paraprake? Ky është tingulli i kapitalit që vë në pikëpyetje stabilitetin dhe përfitimin afatgjatë të një të ardhmeje të papritur të pasigurt.
Për ne, CTO-të dhe drejtuesit inxhinierikë, kjo përkthehet drejtpërdrejt në një peizazh kaotik. Pritet që ndërhyrjet rregullatore të përshpejtohen, duke detyruar një ri-prioritet të projekteve të AI. Etosi "lëviz shpejt dhe thye gjërat" për AI është zyrtarisht i vdekur, i zëvendësuar nga një kërkim i furishëm për kornizat e "zhvillimit etik të inteligjencës artificiale" që duhet të ishin futur që nga dita e parë. Investimet do të bëhen më të kujdesshme, strategjitë do të rrotullohen dhe po, tregjet e punës do të ndiejnë të ftohtin ndërsa nxitimi i arit i lë vendin një qasjeje më të matur dhe me shpresë, më të përgjegjshme. Por le të mos e ngatërrojmë këtë me altruizëm të pastër. Kjo "pauzë" ka të bëjë sa me kontrollin dhe rikalibrimin e tregut, aq edhe me sigurinë e vërtetë.
Ndërsa debati për Titanët, fondacioni shkatërrohet
Tani, ndërsa elita e inteligjencës artificiale po përjeton krizën e saj ekzistenciale, duke debatuar mbi etikën e superinteligjencës së ardhshme, le të flasim për krizën shumë reale, shumë aktuale dhe krejtësisht katastrofike të sigurisë që po shpaloset tani.
Këtë javë, CISA shtoi shumë CVE të reja në katalogun e saj të Vulnerabiliteteve të Shfrytëzuara të Njohura [3]. Po flasim për një RCE rrënjë të konfirmuar në Cisco Secure Email Gateway (CVE-2023-20269) [4], një kalim i rrugës CVSS 10.0 në GitLab (CVE-2023-2825) [3] dhe një kërkesë të korrigjuar së fundi të Chrome me vëmendje zero-ditore [3-4862].
Por goditja e vërtetë e zorrëve, ajo që duhet të bëjë çdo profesionist të sigurisë të bërtasë në boshllëk, është kërcënimi i vazhdueshëm i të metave themelore. Konsideroni CVE-2021-1647, një cenueshmëri lokale e përshkallëzimit të privilegjeve në Motorin e Mbrojtjes së Malware të Microsoft Defender [5]. Kjo nuk ishte ndonjë e metë e paqartë; ai kishte një provë publike të konceptit dhe u shfrytëzua në mënyrë aktive në natyrë, duke theksuar se si komponentët kritikë të mbrojtjes sonë dixhitale mund të komprometohen dhe të mbeten të pambrojtur për një periudhë.
Lëreni këtë të zhytet. Ndërsa ne po debatojmë mbi etikën e ndjenjës së AI, vetë softueri i krijuar për të mbrojtur pikat tona përfundimtare, shtresa themelore e mbrojtjes sonë dixhitale, është treguar se ka të meta të njohura publikisht, të shfrytëzuara në mënyrë aktive që lejojnë një sulmues të ngrejë privilegje. Është njësoj si të grindesh për implikimet filozofike të drejtimit të deformimit ndërsa frenat e makinës suaj po dështojnë dhe motori është në zjarr.
Llogaritja: Dy anët e së njëjtës monedhë
Këto nuk janë histori të veçanta. Ato janë dy anët e së njëjtës medalje thellësisht me të meta: një industri teknologjike që vazhdimisht i ka dhënë përparësi shpejtësisë, risisë dhe inovacionit të perceptuar mbi sigurinë, stabilitetin dhe përgjegjësinë themelore.
Thirrja e papritur e drejtuesve të inteligjencës artificiale për një ngadalësim është një përpjekje reaktive dhe egoiste për të korrigjuar kursin pasi ata të kenë lëshuar tashmë sisteme të fuqishme, të kuptuara keq në natyrë. Është një pranim se mantra "lëviz shpejt dhe thye gjërat", kur zbatohet për teknologjinë që mund të ndryshojë botën, nuk është thjesht e papërgjegjshme, por e rrezikshme.
Sulmi i ditës zero, veçanërisht cenueshmëria kritike e Defender, është pasoja e drejtpërdrejtë dhe e dhimbshme e të njëjtit mentalitet të aplikuar në IT themelor. Është rezultat i një kulture që shpesh e trajton sigurinë si një mendim të mëvonshëm, një kuti kontrolli përputhshmërie ose një qendër kostoje, në vend të një komponenti integral dhe të panegociueshëm të çdo produkti dhe sistemi të vetëm. Jemi kaq të zënë duke ndjekur objektin tjetër të shndritshëm – LLM-në e radhës, agjentin e radhës të AI – saqë e kemi lënë vetë tokën nën këmbët tona të kalbet.
Për CTO-të dhe drejtuesit inxhinierikë, mesazhi është i qartë dhe i menjëhershëm. Ndaloni së ndjekuri çdo tendencë të AI që kalon furnizimin tuaj. Dyfishoni bazat. Jepini përparësi korrigjimit, veçanërisht për dobësitë kritike, të shfrytëzuara në mënyrë aktive si ato në Cisco, GitLab dhe kërcënimi i vazhdueshëm i ilustruar nga LPE-të e kaluara të Defender. Zbatoni zbutje të fuqishme. Kërkoni llogari nga shitësit tuaj për qëndrimin e tyre të sigurisë, jo vetëm udhërrëfyesin e veçorive të tyre.
Rënia e tregut dhe çështjet e pazgjidhura të sigurisë themelore nuk janë vetëm lajme. Ata janë një llogari. Një botë teknologjike që është shumë e shpejtë, shumë e pamatur dhe së fundi, shumë e ekspozuar. Është koha të rritemi, të sigurojmë themelet tona dhe më pas, vetëm atëherë, të shqyrtojmë me kujdes kufirin tjetër.
Burimet
[1] Instituti Future of Life — Pushoni Eksperimentet Giant AI: Një Letër e Hapur — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC - Ekspertët e AI bëjnë thirrje për pauzë në zhvillimin e sistemeve të avancuara të AI - https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Katalogu i njohur i dobësive të shfrytëzuara — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Këshillim për sigurinë Cisco — Cisco Secure Email and Web Manager, Cisco Email Security Appliance dhe Dobësitë e Cisco Web Security Appliance — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-a-s [5] Qendra e Përgjigjes së Sigurisë së Microsoft - Dënueshmëria e Përshkallëzimit të Privilegjisë Lokale të Microsoft Defender - https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647