Kejsarens nya AI och Rotting Foundation Beneath It
Kommer du ihåg när AI skulle rädda oss alla? Det visar sig att räddarna nu ber om en timeout. Alldeles nyligen slog själva arkitekterna bakom vår AI-drivna framtid - "frontier"-forskarna och finansiella tungviktare - tillsammans bromsen och krävde en inbromsning i utvecklingen på grund av "eskalerande säkerhetsproblem" [1]. Marknaden, alltid det trubbiga instrumentet, svarade med att hosta upp en lunga: chipaktier och stora AI-spelare ramlade [2]. Peking, förutsägbart, hånade varningarna, medan Seouls chipjättar avstod från förskottsbetalningar för framtida AI-framsteg [2].
Detta är inte bara en filosofisk debatt för elfenbenstornet. Detta är ett seismiskt skifte, ett offentligt erkännande av hänsynslöshet från branschens elit. Och ärligt talat, det är lite för bekvämt.
AI-pausen: altruism eller maktspel?
Låt oss vara tydliga: när människorna som byggde raketen plötsligt inser att de glömde fallskärmarna efter lanseringen, är det inte ett ögonblick av djupgående etiskt uppvaknande. Det är en försenad, självbetjänande scramble. Dessa är inte storögda idealister; det här är titanerna som har trampat på pedalen, jagat exponentiell tillväxt och marknadsdominans. Nu, med spöket av "oförutsedda konsekvenser" som hotar stort – och kanske mer cyniskt, insikten om att den nuvarande takten är ohållbar eller att de behöver konsolidera sitt försprång – kräver de ett kollektivt andetag.
Marknadens reaktion är talande. Ett dopp i chipstockar handlar inte bara om rädsla; det handlar om de omedelbara ekonomiska konsekvenserna av en potentiell avmattning. Pekings tillbakadragande? En tydlig signal om att nationell strategisk fördel överträffar abstrakta säkerhetsproblem. Och Seouls chiptillverkare vägrar förskottsbetalningar? Det är ljudet av kapital som ifrågasätter den långsiktiga stabiliteten och lönsamheten i en plötsligt osäker framtid.
För oss, CTO:erna och ingenjörsledarna, leder detta direkt till ett kaotiskt landskap. Räkna med att regulatoriska ingrepp kommer att accelerera, vilket tvingar fram en omprioritering av AI-projekt. "Förflytta dig snabbt och bryt saker"-etos för AI är officiellt död, ersatt av ett frenetiskt sökande efter "etisk AI-utveckling"-ramverk som borde ha bakats in från dag ett. Investeringarna kommer att bli mer försiktiga, strategierna kommer att svänga, och ja, arbetsmarknaderna kommer att känna kylan när guldrushen ger vika för ett mer mätt och förhoppningsvis mer ansvarsfullt tillvägagångssätt. Men låt oss inte förväxla detta med ren altruism. Denna "paus" handlar lika mycket om kontroll och omkalibrering av marknaden som om äkta säkerhet.
Medan Titans Debatt faller sönder stiftelsen
Nu, medan AI-eliten har sin existentiella kris och diskuterar etiken för framtida superintelligens, låt oss prata om den mycket verkliga, mycket närvarande och fullständigt katastrofala säkerhetskrisen som utspelar sig just nu.
Den här veckan lade CISA till flera nya CVE:er till sin katalog över kända exploaterade sårbarheter [3]. Vi pratar om en bekräftad rot-RCE i Cisco Secure Email Gateway (CVE-2023-20269) [4], en CVSS 10.0-vägövergång i GitLab (CVE-2023-2825) [3], och en nyligen korrigerad Chrome zero-day (CVE-2023-4863) som krävde uppmärksamhet [omedelbart].
Men den verkliga magen, den som borde få alla säkerhetspersonal att skrika in i tomrummet, är det ihållande hotet om grundläggande brister. Tänk på CVE-2021-1647, en sårbarhet i lokal behörighetseskalering i Microsoft Defenders Malware Protection Engine [5]. Detta var inte något dunkelt fel; den hade ett offentligt Proof-of-Concept och exploaterades aktivt i naturen, vilket belyste hur kritiska komponenter i vårt digitala försvar kan äventyras och förbli sårbara under en period.
Låt det sjunka in. Medan vi diskuterar etiken kring AI-känsla, har själva mjukvaran designad för att skydda våra slutpunkter, det grundläggande lagret i vårt digitala försvar, visat sig hysa allmänt kända, aktivt utnyttjade brister som gör att en angripare kan höja privilegier. Det är som att bråka om de filosofiska konsekvenserna av warp drive medan din bils bromsar brister och motorn brinner.
Uppgörelsen: Två sidor av samma mynt
Det här är inte separata berättelser. De är två sidor av samma djupt bristfälliga mynt: en teknisk industri som konsekvent har prioriterat hastighet, nyhet och uppfattat innovation framför grundläggande säkerhet, stabilitet och ansvar.
AI-ledarnas plötsliga uppmaning till en avmattning är ett reaktivt, självbetjänt försök att kurskorrigera efter att de redan har släppt lös kraftfulla, dåligt förstådda system i naturen. Det är ett erkännande att "flytta snabbt och bryt saker"-mantrat, när det tillämpas på potentiellt världsförändrande teknologi, inte bara är oansvarigt, utan farligt.
Nolldagsangreppet, särskilt den kritiska Defender-sårbarheten, är den direkta, smärtsamma konsekvensen av samma tankesätt som tillämpas på grundläggande IT. Det är resultatet av en kultur som ofta behandlar säkerhet som en eftertanke, en kryssruta för efterlevnad eller ett kostnadsställe, snarare än en integrerad, icke förhandlingsbar komponent i varje enskild produkt och system. Vi är så upptagna med att jaga nästa blanka objekt – nästa LLM, nästa AI-agent – att vi har låtit själva marken under våra fötter ruttna.
För CTO:er och ingenjörsledare är budskapet skarpt och omedelbart. Sluta jaga alla AI-trender som korsar ditt flöde. Dubbla ner på grunderna. Prioritera patchning, särskilt för kritiska, aktivt utnyttjade sårbarheter som de i Cisco, GitLab och det ihållande hot som exemplifieras av Defenders tidigare LPE:er. Implementera robusta begränsningar. Kräv ansvar från dina leverantörer för deras säkerhetsställning, inte bara deras funktionsfärdplan.
Marknadens fall och de oåtgärdade grundläggande säkerhetsfrågorna är inte bara nyheter. De är en räkning. En teknisk värld som är för snabb, för hänsynslös och slutligen för exponerad. Det är dags att växa upp, säkra våra grunder och sedan, först då, försiktigt överväga nästa gräns.
Källor
[1] Future of Life Institute — Pause Giant AI Experiments: An Open Letter — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — AI-experter kräver paus i utvecklingen av avancerade AI-system — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Known Exploited Vulnerabilities Catalog — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory — Cisco Secure Email and Web Manager, Cisco Email Security Appliance och Cisco Web Security Appliance Vulnerabilities — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Microsoft Security Response Center – Microsoft Defender Local Privilege Escalation Vulnerability – https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647