AI Slowdown er en distraktion. Dit hus brænder.

AI Slowdown er en distraktion. Dit hus brænder.

Lad os være ligefrem: Teknologiindustrien har endelig sit "kom til Jesus"-øjeblik med AI, men det føles mindre som ægte omvendelse og mere som et strategisk omdrejningspunkt. Pludselig opfordrer selve arkitekterne bag dette halsbrækkende AI-race – de fremtrædende forskere og finansfolkene, der finansierede deres koffeindrevne sprints – til en opbremsning [1]. De taler om "intern styring", "etiske rammer" og et "mere bevidst" tempo. Og markedet, nogensinde det følsomme barometer, har allerede reageret med bekymringer om bæredygtigheden af ​​AI-investeringer, der forårsager volatilitet i chipaktier [2].

Dette er ikke ekstern regulering; det er en intern "fejllinje", der dukker op fra selve AI-økosystemet. Og mens C-suiten diskuterer de filosofiske implikationer af deres fremtidige kreationer, brænder nutiden aktivt.

Den praktiske pause

Overvej timingen. I årevis har mantraet været "bevæg dig hurtigt og bryd tingene", eller for nylig "bevæg dig hurtigt og opbyg AGI." Nu, med kraftfulde modeller, der allerede er implementeret, med det konkurrenceprægede landskab stort set defineret, og med spøgelsen af ​​faktisk, meningsfuld regulering truende, lyder opfordringerne til forsigtighed lidt hule. Er dette en ægte opvågning af de dybe risici, eller en kalkuleret manøvre for at konsolidere magten, bremse konkurrenterne og styre offentlighedens opfattelse, før højgaflerne kommer ud?

Det er nemt at prædike forsigtighed, når du allerede har grebet markedet i et hjørne på computer-, talent- og grundlæggende modeller. Branchens pludselige fokus på "re-evaluering af produktkøreplaner, risikovurderinger og strategisk planlægning" lyder nobelt, men det lyder også som en bekvem måde at justere ressourcerne på. Dette kan potentielt bremse open source-alternativer eller mindre aktører, der kan udfordre de etablerede giganter ved at kontrollere adgangen til væsentlige ressourcer eller påvirke regulatoriske rammer. Den "etiske ramme" er pludselig altafgørende, ikke da modellerne blev trænet på skrabet data, men nu hvor de er stærke nok til virkelig at omforme samfundet.

Bekymringer i akademiske og videnskabelige samfund, der advarer om, at AI-"løsninger" på åbne problemer kan true integriteten af ​​deres felter [3], er en skarp indikator for dybden af ​​denne interne bekymring. Men lad os ikke forveksle dette med altruisme. Dette handler ikke om AI's indvirkning på job eller infrastruktur; det handler om kontrol – hvem udøver den, og i hvilket tempo. Debatten handler mindre om "skal vi bygge det?" og mere om "hvem skal bestemme, hvor hurtigt vi bygger det, og hvem profiterer?"

Mens de debatterer fremtiden, er din nutid kompromitteret

Lad os nu dreje fra de abstrakte, fremtidsorienterede bekymringer om AI's interne splid til den umiddelbare, håndgribelige krise, der udspiller sig på vores netværk lige nu. Mens AI-titanerne overvejer sjælen i deres maskiner, kæmper dine operationelle teams for at begrænse en komplet cybersikkerhedskatastrofe.

Vi taler ikke om teoretiske trusler eller generelle tendenser. Vi taler om aktivt udnyttede zero-day-sårbarheder i grundlæggende virksomhedssoftware, der rammer kritisk infrastruktur med en forhammers kraft.

• Ivanti Connect Secure og Policy Secure (CVE-2023-46805 & CVE-2024-21887): Dette er ikke kun en fejl; det er et gabende sår. Disse sårbarheder i Ivantis VPN- og netværksadgangsløsninger er blevet aktivt udnyttet, hvilket gør det muligt for angribere at omgå godkendelse og udføre fjernkommandoer. CISA har udstedt flere advarsler, der fremhæver den kritiske risiko for organisationer, der er afhængige af disse systemer til sikker fjernadgang [4]. Dit primære netværksforsvar, den ene ting du stoler på for at stoppe de slemme fyre ved porten, bliver aktivt udnyttet til at give angribere dyb adgang til utallige virksomhedsnetværk.
• Cisco IOS XE Web UI (CVE-2023-20198): Maksimal sværhedsgrad. Aktivt udnyttet. Denne sårbarhed giver uautoriserede angribere mulighed for at oprette privilegerede konti og få fuld kontrol over berørte Cisco IOS XE-enheder. Hvis en angriber ejer din netværksinfrastrukturs administrationsplan, ejer de hele dit netværk. Spil slut [5].

CISA udsender ikke "advarsler" for sjov; de skriger "ild" i et overfyldt teater. Disse er ikke kun teoretiske trusler; de bliver aktivt brugt til at kompromittere kerneforsvar og ledelsessystemer på tværs af globale virksomheder.

Den rigtige fejllinje

Ironien er så tyk, at du kan skære den med en sløv kniv. På den ene side har vi AI-eliten, der diskuterer de etiske implikationer af en fremtid, de stadig er ved at opbygge, og opfordrer til en afmatning efter år med ukontrolleret acceleration. På den anden side har vi den umiddelbare, eksistentielle trussel om, at vores nuværende grundlæggende teknologi aktivt smuldrer under vægten af ​​uadresserede, uoprettede sårbarheder.

Den virkelige "fejllinje" er ikke kun inden for AI-fællesskabet; det er mellem innovationens elfenbenstårn og skyttegravene i den operationelle virkelighed. Det er mellem de abstrakte, fremtidsfokuserede diskussioner om "selvregulering" for AI og det umiddelbare, konkrete behov for faktisk sikkerhed og stabilitet i de systemer, vi stoler på i dag.

Som CTO'er og ingeniørledere har vi ikke råd til at blive distraheret af de filosofiske debatter om AI-afmatningen. Selvom disse diskussioner er vigtige på lang sigt, er de en luksus, når dit hus brænder aktivt. "Reevalueringen af ​​produktkøreplaner" bør starte med at styrke det smuldrende grundlag for vores eksisterende infrastruktur. "Risikovurderingerne" skal prioritere de umiddelbare, aktivt udnyttede trusler, der kompromitterer operationel kontinuitet og dataintegritet i dag.

Branchens prioriteringer er skæve. Vi bygger hurtigere, mere skinnende ting på et fundament, der aktivt rådner. Opfordringen til en opbremsning af kunstig intelligens kan være en nødvendig samtale, men for os på jorden, der beskæftiger os med Ivanti og Cisco zero-days, føles det som at diskutere farven på gardinerne, mens taget falder ind. Fokuser på nuet. Fremtiden kan vente, indtil vi ikke aktivt bløder.

Kilder

[1] Et åbent brev til pause i gigantiske AI-eksperimenter — https://futureoflife.org/open-letter-pause-ai-development/ [2] AI-aktier stiger i vejret, men nogle investorer bliver nervøse — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] AI-revolutionen inden for videnskab: løfter og farer — https://www.nature.com/articles/d41586-023-03223-y [4] Trusselaktører, der udnytter Ivanti Connect Secure og Ivanti Policy Secure sårbarheder — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Trusselskuespillere, der udnytter Cisco IOS XE-softwarens web-UI-sårbarhed — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a