AI Slowdown er en distraksjon. Huset ditt er i brann.
La oss være rettferdige: Teknologiindustrien har endelig sitt «kom til Jesus»-øyeblikket med AI, men det føles mindre som ekte omvendelse og mer som et strategisk omdreiningspunkt. Plutselig ber selve arkitektene bak dette halsbrekkende AI-løpet – de fremtredende forskerne og finansmennene som finansierte sine koffeindrevne spurter – en nedgang [1]. De snakker om «intern styring», «etiske rammer» og et «mer bevisst» tempo. Og markedet, alltid det sensitive barometeret, har allerede reagert, med bekymringer om bærekraften til AI-investeringer som forårsaker volatilitet i brikkeaksjer [2].
Dette er ikke ekstern regulering; det er en intern "feillinje" som dukker opp fra selve AI-økosystemet. Og mens C-suiten diskuterer de filosofiske implikasjonene av deres fremtidige kreasjoner, brenner nåtiden aktivt.
Den praktiske pausen
Vurder timingen. I årevis har mantraet vært "beveg deg fort og knekk ting," eller mer nylig, "flyt deg raskt og bygg AGI." Nå, med kraftige modeller allerede utplassert, med det konkurransedyktige landskapet stort sett definert, og med spøkelset av faktisk, meningsfull regulering truende, ringer oppfordringene til forsiktighet litt hult. Er dette en genuin oppvåkning til de dype risikoene, eller en kalkulert manøver for å konsolidere makten, bremse konkurrenter og styre offentlig oppfatning før høygaflene kommer ut?
Det er lett å forkynne forsiktighet når du allerede har tatt markedet i hjørnet på data-, talent- og grunnleggende modeller. Bransjens plutselige fokus på "re-evaluering av produktveikart, risikovurderinger og strategisk planlegging" høres edelt ut, men det høres også ut som en praktisk måte å justere ressursene på nytt. Dette kan potensielt bremse åpen kildekode-alternativer eller mindre aktører som kan utfordre de etablerte gigantene ved å kontrollere tilgangen til essensielle ressurser eller påvirke regulatoriske rammeverk. Det "etiske rammeverket" er plutselig viktigst, ikke da modellene ble trent på skrapte data, men nå som de er kraftige nok til å virkelig omforme samfunnet.
Bekymringer uttrykt i akademiske og vitenskapelige miljøer, som advarer om at AI "løsninger" på åpne problemer kan true integriteten til deres felt [3], er en sterk indikator på dybden av denne interne bekymringen. Men la oss ikke forveksle dette med altruisme. Dette handler ikke om AIs innvirkning på jobber eller infrastruktur; det handler om kontroll – hvem som bruker den, og i hvilket tempo. Debatten handler mindre om "skal vi bygge det?" og mer om "hvem skal bestemme hvor raskt vi bygger det, og hvem tjener?"
Mens de diskuterer fremtiden, er nåtiden kompromittert
La oss nå dreie fra de abstrakte, fremtidsorienterte bekymringene til AIs interne rift til den umiddelbare, håndgripelige krisen som utspiller seg på nettverkene våre akkurat nå. Mens AI-titanene grubler over sjelen til maskinene deres, streber operative teamene dine for å begrense en fullstendig cybersikkerhetskatastrofe.
Vi snakker ikke om teoretiske trusler eller generelle trender. Vi snakker om aktivt utnyttede nulldagssårbarheter i grunnleggende bedriftsprogramvare, og treffer kritisk infrastruktur med kraften til en slegge.
- Ivanti Connect Secure og Policy Secure (CVE-2023-46805 & CVE-2024-21887): Dette er ikke bare en feil; det er et gapende sår. Disse sårbarhetene i Ivantis VPN- og nettverkstilgangsløsninger har blitt aktivt utnyttet, slik at angripere kan omgå autentisering og utføre eksterne kommandoer. CISA har utstedt flere advarsler, som fremhever den kritiske risikoen for organisasjoner som er avhengige av disse systemene for sikker fjerntilgang [4]. Ditt primære nettverksforsvar, den eneste tingen du stoler på for å stoppe skurkene ved porten, blir aktivt utnyttet for å gi angripere dyp tilgang til utallige bedriftsnettverk.
- Cisco IOS XE Web UI (CVE-2023-20198): Maksimal alvorlighetsgrad. Aktivt utnyttet. Dette sikkerhetsproblemet lar uautentiserte angripere opprette privilegerte kontoer og få full kontroll over berørte Cisco IOS XE-enheter. Hvis en angriper eier nettverksinfrastrukturens administrasjonsplan, eier de hele nettverket ditt. Spill over [5].
CISA utsteder ikke "advarsler" for moro skyld; de skriker «ild» i et overfylt teater. Dette er ikke bare teoretiske trusler; de brukes aktivt til å kompromittere kjerneforsvar og styringssystemer på tvers av globale virksomheter.
Den virkelige feillinjen
Ironien er så tykk at du kan kutte den med en sløv kniv. På den ene siden har vi AI-eliten som diskuterer de etiske implikasjonene av en fremtid de fortsatt bygger, og krever en nedgang etter år med ukontrollert akselerasjon. På den andre siden har vi den umiddelbare, eksistensielle trusselen om at vår nåværende grunnleggende teknologi aktivt smuldrer opp under vekten av uadresserte, uopprettede sårbarheter.
Den virkelige "feillinjen" er ikke bare innenfor AI-fellesskapet; det er mellom innovasjonens elfenbenstårn og skyttergravene til den operasjonelle virkeligheten. Det er mellom de abstrakte, fremtidsfokuserte diskusjonene om "selvregulering" for AI og det umiddelbare, konkrete behovet for faktisk sikkerhet og stabilitet i systemene vi stoler på i dag.
Som CTO-er og ingeniører har vi ikke råd til å bli distrahert av de filosofiske debattene om AI-nedgangen. Selv om disse diskusjonene er viktige på lang sikt, er de en luksus når huset ditt brenner aktivt. "Re-evalueringen av produktveikart" bør starte med å støtte opp det smuldrende grunnlaget for vår eksisterende infrastruktur. "Risikovurderingene" må prioritere de umiddelbare, aktivt utnyttede truslene som kompromitterer operasjonell kontinuitet og dataintegritet i dag.
Bransjens prioriteringer er skjeve. Vi bygger raskere, mer skinnende ting på et fundament som aktivt råtner. Oppfordringen til en AI-nedgang kan være en nødvendig samtale, men for de av oss på bakken, som arbeider med Ivanti og Cisco zero-days, føles det som å diskutere fargen på gardinene mens taket faller inn. Fokuser på nåtiden. Fremtiden kan vente til vi ikke blør aktivt.
Kilder
[1] Et åpent brev for å sette gigantiske AI-eksperimenter på pause – https://futureoflife.org/open-letter-pause-ai-development/ [2] AI-aksjer skyter i været, men noen investorer blir nervøse — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] AI-revolusjonen innen vitenskap: løfter og farer — https://www.nature.com/articles/d41586-023-03223-y [4] Trusselaktører som utnytter Ivanti Connect Secure og Ivanti Policy Secure sårbarheter – https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Trusselaktører som utnytter Cisco IOS XE-programvarens webgrensesnittsårbarhet – https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a