Nýja gervigreind keisarans og rotnandi grunnurinn undir henni
Manstu þegar gervigreind ætlaði að bjarga okkur öllum? Í ljós kemur að bjargvættirnir biðja nú um frest. Nýlega hafa sjálfir arkitektar gervigreindardrifnu framtíðar okkar – „landamæra“ rannsakendur og fjármálaþungavigtarmenn – í sameiningu bremsað og kröfðust þess að hægja á þróuninni vegna „stigvaxandi öryggisáhyggjuefna“ [1]. Markaðurinn, sem alltaf er barefli, brást við með því að hósta upp lungun: spónabirgðir og helstu gervigreindarspilarar hrundu [2]. Fyrirsjáanlegt var að Peking hæddist að viðvörunum, á meðan flísarisarnir í Seoul slepptu við fyrirframgreiðslur fyrir framfarir gervigreindar í framtíðinni [2].
Þetta er ekki bara heimspekileg umræða um fílabeinsturninn. Þetta er skjálftabreyting, opinber viðurkenning á kæruleysi innan elítu iðnaðarins. Og satt að segja er það aðeins of þægilegt.
Gervigreindarhléið: Altruism eða Power Play?
Við skulum vera á hreinu: þegar fólkið sem smíðaði eldflaugina áttar sig skyndilega á því að það gleymdi fallhlífunum eftir að skotið var á loft, þá er það ekki augnablik djúpstæðrar siðferðislegrar vakningar. Þetta er síðbúið, sjálfsþurftarkast. Þetta eru ekki stóreygðir hugsjónamenn; þetta eru títanarnir sem hafa verið að ýta á pedalinn í mál, elta veldisvöxt og markaðsyfirráð. Nú þegar draugur „ófyrirséðra afleiðinga“ er yfirvofandi – og kannski frekar tortrygginn, átta sig á því að núverandi hraða er ósjálfbær eða að þeir þurfi að treysta forustu sína – kalla þeir á sameiginlegan anda.
Viðbrögð markaðarins eru áberandi. Dýfa í flísbirgðum snýst ekki bara um ótta; það snýst um tafarlausar fjárhagslegar afleiðingar hugsanlegrar samdráttar. Peking afturför? Skýrt merki um að stefnumótandi forskot á landsvísu trónir yfir óhlutbundnum öryggisáhyggjum. Og flísaframleiðendur Seoul að neita fyrirframgreiðslum? Það er hljóð fjármagns sem efast um langtímastöðugleika og arðsemi skyndilega óvissrar framtíðar.
Fyrir okkur, tæknistjóra og verkfræðinga, skilar þetta sér beint í óskipulegt landslag. Búast við að eftirlitsaðgerðum muni hraða, sem þvingar fram endurforgangsröðun gervigreindarverkefna. „Farðu hratt og brjóttu hlutina“ fyrir gervigreind er opinberlega dautt, í stað hennar kemur ofboðsleg leit að „siðrænum gervigreindarþróun“ ramma sem hefði átt að vera bakað inn frá fyrsta degi. Fjárfestingar verða varkárari, aðferðir munu snúast og já, vinnumarkaðir munu finna fyrir kuldanum þegar gullæðið víkur fyrir mældari, og vonandi ábyrgari, nálgun. En við skulum ekki misskilja þetta fyrir hreinum sjálfræði. Þetta „hlé“ snýst jafn mikið um eftirlit og endurkvörðun á markaði og um raunverulegt öryggi.
Á meðan Titans Debate, grunnurinn molnar
Nú, á meðan gervigreind elítan er í tilvistarkreppu sinni, rökræða um siðfræði ofurgreindar í framtíðinni, skulum við tala um hina mjög raunverulegu, mjög núverandi og gjörsamlega hörmulegu öryggiskreppu sem þróast núna.
Í þessari viku bætti CISA mörgum nýjum CVE við listann yfir þekkta hagnýta veikleika [3]. Við erum að tala um staðfesta rót RCE í Cisco Secure Email Gateway (CVE-2023-20269) [4], CVSS 10.0 slóð í GitLab (CVE-2023-2825) [3], og nýlega lagfærðan Chrome núlldaga (CVE-2023-4863) sem krafðist strax athygli.
En hið raunverulega kýla, það sem ætti að fá alla öryggissérfræðinga til að öskra út í tómið, er viðvarandi ógn af grunngöllum. Lítum á CVE-2021-1647, staðbundið varnarleysi til að auka forréttindi í malware Protection Engine Microsoft Defender [5]. Þetta var ekki einhver óljós galli; það var með opinbera Proof-of-Concept og var virkt nýtt í náttúrunni, sem undirstrikaði hvernig mikilvægir þættir stafrænna varnar okkar geta verið í hættu og verið viðkvæmir um tíma.
Leyfðu því að sökkva inn. Á meðan við erum að rökræða siðfræði gervigreindar, hefur verið sýnt fram á að hugbúnaðurinn sem er hannaður til að vernda endapunkta okkar, grunnlagið í stafrænu varnarkerfi okkar, geymir opinberlega þekkta, virkan misnotaða galla sem gera árásarmanni kleift að hækka réttindi. Þetta er eins og að rífast um heimspekilegar afleiðingar warp drive á meðan bremsur bílsins eru að bila og vélin kviknar.
Reikningurinn: Tvær hliðar á sama peningnum
Þetta eru ekki aðskildar sögur. Þær eru tvær hliðar á sama mjög gölluðu peningi: tækniiðnaður sem hefur stöðugt forgangsraðað hraða, nýjungum og skynjað nýsköpun fram yfir grundvallaröryggi, stöðugleika og ábyrgð.
Skyndileg ákall gervigreindarleiðtoga um hægagang er viðbragðsgjörn, sjálfsþjöppuð tilraun til að leiðrétta námskeiðið eftir að þeir hafa þegar sleppt öflugum, illa skilnum kerfum út í náttúruna. Það er viðurkenning á því að „hreyfa sig hratt og brjóta hlutina“ mantra, þegar hún er notuð á tækni sem getur breytt heiminum, er ekki bara óábyrg heldur hættuleg.
Núll-daga árásin, sérstaklega mikilvæga varnarleysið í Defender, er bein, sársaukafull afleiðing af þessu sama hugarfari sem notað er til grundvallar upplýsingatækni. Það er afleiðing af menningu sem lítur oft á öryggi sem eftiráhugsun, gátreit til samræmis eða kostnaðarmiðstöð, frekar en óaðskiljanlegur hluti af hverri einustu vöru og kerfi. Við erum svo upptekin af því að elta næsta glansandi hlut - næsta LLM, næsta gervigreindaraðila - að við höfum látið jörðina undir fótum okkar rotna.
Fyrir tæknistjóra og verkfræðinga eru skilaboðin áþreifanleg og strax. Hættu að elta allar gervigreindarstefnur sem fara yfir strauminn þinn. Tvöföldun á grundvallaratriðum. Forgangsraðaðu plástra, sérstaklega fyrir mikilvæga, virkan misnotaða veikleika eins og þá í Cisco, GitLab og viðvarandi ógninni sem dæmi um fyrri LPEs Defender. Innleiða öflugar mótvægisaðgerðir. Krefjast ábyrgðar frá söluaðilum þínum fyrir öryggisstöðu þeirra, ekki bara eigin vegakort þeirra.
Hrun markaðarins og ómeðhöndluð grunnöryggismál eru ekki bara fréttir. Þeir eru uppgjör. Tækniheimur sem er of hraður, of kærulaus og að lokum of afhjúpaður. Það er kominn tími til að vaxa úr grasi, tryggja undirstöður okkar og síðan, aðeins þá, íhuga næstu landamæri varlega.
Heimildir
[1] Future of Life Institute — Gera hlé á risastórum gervigreindartilraunum: Opið bréf — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC - Sérfræðingar í gervigreindum kalla eftir hlé á þróun háþróaðra gervigreindarkerfa - https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Known Exploited Vulnerabilities Catalog — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory — Cisco Secure Email and Web Manager, Cisco Email Security Appliance og Cisco Web Security Appliance Varnarleysi — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Öryggisviðbragðsmiðstöð Microsoft – varnarleysi Microsoft Defender Local Privilege Escalation – https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647