The Emperor's New AI, and the Rotting Foundation Beneath It
Unthâld doe't AI ús allegearre soe rêde? Blykt, de ferlossers freegje no om in time-out. Krekt koartlyn sloegen de arsjitekten fan ús AI-oandreaune takomst - de "frontier" ûndersikers en finansjele swiergewichten - kollektyf de remmen, en easke in fertraging yn ûntwikkeling fanwege "eskalearjende feiligenssoarch" [1]. De merk, ea it stompe ynstrumint, reagearre troch in long op te hoesten: chip-oandielen en grutte AI-spilers tumbled [2]. Peking, foarsisber, spotte mei de warskôgings, wylst de chipgiganten fan Seoul kearden foar foarôfbetellingen foar takomstige AI-foarútgongen [2].
Dit is net allinich in filosofysk debat foar de ivoaren toer. Dit is in seismyske ferskowing, in iepenbiere erkenning fan roekeloosheid fan binnen de elite fan 'e yndustry. En earlik sein, it is in bytsje te handich.
De AI-pauze: altruïsme as Power Play?
Litte wy dúdlik wêze: as de minsken dy't de raket bouden ynienen realisearje dat se de parachutes ferjitten nei lansearring, is it gjin momint fan djippe etyske wekker. It is in let, sels-servearjende scramble. Dat binne gjin wide-eyed idealisten; dit binne de titanen dy't it pedaal nei it metaal hawwe triuwe, efternei eksponinsjele groei en merkdominânsje. No, mei it spektakel fan 'ûnfoarsjoene gefolgen' dy't grut driget - en miskien, mear sinysk, it besef dat it hjoeddeistige tempo net duorsum is of dat se har foarsprong moatte konsolidearje - roppe se om in kollektyf azem.
De reaksje fan 'e merk is sprekend. In dip yn chip stocks is net allinnich oer eangst; it giet oer de direkte finansjele gefolgen fan in mooglike fertraging. Peking's pushback? In dúdlik sinjaal dat nasjonaal strategysk foardiel trumfet abstrakte feiligens soargen. En de chipmakers fan Seoul wegerje foarôfbetellingen? Dat is it lûd fan kapitaal dy't de stabiliteit en profitabiliteit op lange termyn fan in ynienen ûnwisse takomst betwifelje.
Foar ús, de CTO's en engineering leads, fertaalt dit direkt yn in chaotysk lânskip. Ferwachtsje regeljouwing yntervinsjes te versnellen, twingt in re-prioritization fan AI projekten. It ethos fan "snel bewegen en brekke dingen" foar AI is offisjeel dea, ferfongen troch in heulende syktocht nei "etyske AI-ûntwikkeling" kaders dy't fan 'e dei ien ôf moatte wurde bakt. Ynvestearingen sille foarsichtiger wurde, strategyen sille draaie, en ja, wurkmerken sille de kjeld fiele as de goudkoarts plak makket foar in mear mjitten, en hooplik, mear ferantwurdlike, oanpak. Mar lit ús dit net ferjitte mei suver altruïsme. Dizze "pauze" giet safolle oer kontrôle en opnij kalibraasje fan 'e merk as oer echte feiligens.
Wylst it Titans-debat, de stifting brokkelt
No, wylst de AI-elite har eksistinsjele krisis hat, debattearje oer de etyk fan takomstige superintelliginsje, litte wy prate oer de heul echte, heul oanwêzich en folslein katastrofale feiligenskrisis dy't * op dit stuit * ûntwikkelt.
Dizze wike hat CISA meardere nije CVE's tafoege oan har katalogus oer bekende eksploitearre kwetsberens [3]. Wy prate oer in befêstige root-RCE yn Cisco Secure Email Gateway (CVE-2023-20269) [4], in CVSS 10.0 paadtraversal yn GitLab (CVE-2023-2825) [3], en in koartlyn patched Chrome nul-day (CVE-2023-4863) dy't easkje [immediate].
Mar de echte gut punch, dejinge dy't elke befeiligingsprofessional yn 'e leechte moat meitsje skrieme, is de oanhâldende bedriging fan fûnemintele gebreken. Beskôgje CVE-2021-1647, in lokale kwetsberens foar eskalaasje fan privileezjes yn Microsoft Defender's Malware Protection Engine [5]. Dit wie net ien of oare obskure flater; it hie in iepenbier Proof-of-Concept en waard aktyf eksploitearre yn it wyld, en markeart hoe krityske komponinten fan ús digitale ferdigening kinne wurde kompromittearre en in perioade kwetsber bliuwe.
Lit dat ynsinke. Wylst wy debattearje oer de etyk fan AI-gefoel, is oantoand dat de software dy't ûntwurpen is om ús einpunten te beskermjen, de fûnemintele laach fan ús digitale ferdigening, iepenbier bekende, aktyf eksploitearre gebreken hat dy't in oanfaller tastean privileezjes te ferheegjen. It is as arguminten oer de filosofyske gefolgen fan warp-drive, wylst de remmen fan jo auto mislearje en de motor yn 'e brân stiet.
The Reckoning: Twa kanten fan deselde munt
Dit binne gjin aparte ferhalen. Se binne twa kanten fan deselde djip gebrekkige munt: in tech-yndustry dy't konsekwint snelheid, nijichheid en ynnovaasje hat prioritearre boppe fûnemintele feiligens, stabiliteit en ferantwurdlikens.
De hommelse oprop fan 'e AI-lieders foar in fertraging is in reaktyf, selsbetsjinnend besykjen om kursus te korrigearjen * nei't * se al krêftige, min begrepen systemen yn it wyld hawwe loslitten. It is in bekentenis dat de "snel bewegen en dingen brekke" mantra, as tapast op potensjeel wrâldferoarjende technology, net allinich ûnferantwurdlik, mar gefaarlik is.
De nul-dei oanfal, benammen de krityske kwetsberens fan Defender, is it direkte, pynlike gefolch fan deselde mentaliteit tapast op fûnemintele IT. It is it resultaat fan in kultuer dy't feiligens faak behannelet as in neitocht, in karfakje foar neilibjen, as in kostensintrum, yn stee fan in yntegraal, net-ûnderhannelbere komponint fan elk produkt en systeem. Wy binne sa drok om it folgjende glânzjende objekt te jagen - de folgjende LLM, de folgjende AI-agint - dat wy de heule grûn ûnder ús fuotten ferrotte hawwe litten.
Foar CTO's en engineering leads is it berjocht sterk en direkt. Stopje mei elke AI-trend te jagen dy't jo feed krúst. Dûbelje op 'e fûneminten. Prioritearje patching, foaral foar krityske, aktyf eksploitearre kwetsberens lykas dy yn Cisco, GitLab, en de oanhâldende bedriging foarbyld fan Defender's ferline LPE's. Implementearje robúste mitigaasjes. Easkje ferantwurding fan jo leveransiers foar har feiligensposysje, net allinich har funksje roadmap.
De tumble fan 'e merk en de net oanpakte fûnemintele feiligensproblemen binne net allinich nijsitems. Se binne in rekkening. In technologyske wrâld dy't te rap, te roekeloos, en úteinlik te bleatsteld is. It is tiid om te groeien, ús fûneminten te befeiligjen, en dan, pas dan, foarsichtich de folgjende grins te beskôgjen.
Boarnen
[1] Future of Life Institute - Pause Giant AI-eksperiminten: in iepen brief - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC - AI-saakkundigen roppe foar pauze yn ûntwikkeling fan avansearre AI-systemen - https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA - Bekende eksploitearre vulnerabilities Catalog - https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory - Cisco Secure Email and Web Manager, Cisco Email Security Appliance, en Cisco Web Security Appliance Vulnerabilities - https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Microsoft Security Response Center - Microsoft Defender Local Privilege Escalation Vulnerability - https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647