De AI-vertraging is een afleiding. Je huis staat in brand.
Laten we eerlijk zijn: de technologie-industrie beleeft eindelijk haar 'kom tot Jezus'-moment met AI, maar het voelt minder als oprecht berouw en meer als een strategische spil. Plotseling roepen juist de architecten van deze halsbrekende AI-race – de prominente onderzoekers en de financiers die hun door cafeïne aangedreven sprints financierden – op tot een vertraging [1]. Ze hebben het over ‘intern bestuur’, ‘ethische kaders’ en een ‘meer weloverwogen’ tempo. En de markt, altijd de gevoelige barometer, heeft al gereageerd, met zorgen over de duurzaamheid van AI-investeringen die volatiliteit in chipaandelen veroorzaakten [2].
Dit is geen externe regulering; het is een interne ‘breuklijn’ die voortkomt uit het AI-ecosysteem zelf. En terwijl de C-suite debatteert over de filosofische implicaties van hun toekomstige creaties, brandt het heden actief.
De handige pauze
Denk aan het tijdstip. Jarenlang was de mantra 'beweeg snel en maak dingen kapot', of recenter 'beweeg snel en bouw AGI op'. Nu er al krachtige modellen zijn ingezet, het concurrentielandschap grotendeels is gedefinieerd en het schrikbeeld van daadwerkelijke, zinvolle regulering opdoemt, klinkt de roep om voorzichtigheid een beetje hol. Is dit een echt besef van de grote risico's, of een berekende manoeuvre om de macht te consolideren, concurrenten af te remmen en de publieke perceptie te beheersen voordat de hooivorken tevoorschijn komen?
Het is gemakkelijk om voorzichtig te zijn als je de markt al in het nauw hebt gedreven op het gebied van computer-, talent- en fundamentele modellen. De plotselinge focus van de industrie op ‘herevaluatie van productroadmaps, risicobeoordelingen en strategische planning’ klinkt nobel, maar het klinkt ook als een handige manier om de middelen opnieuw op elkaar af te stemmen. Dit zou mogelijk open source-alternatieven of kleinere spelers kunnen vertragen die de gevestigde reuzen zouden kunnen uitdagen door de toegang tot essentiële hulpbronnen te controleren of de regelgevingskaders te beïnvloeden. Het ‘ethische raamwerk’ is plotseling van het allergrootste belang, niet toen de modellen werden getraind op basis van verzamelde gegevens, maar nu ze krachtig genoeg zijn om de samenleving werkelijk te hervormen.
De zorgen die binnen academische en wetenschappelijke gemeenschappen worden geuit en die waarschuwen dat AI-‘oplossingen’ voor open problemen de integriteit van hun vakgebied zouden kunnen bedreigen [3], zijn een duidelijke indicatie van de diepte van deze interne bezorgdheid. Maar laten we dit niet verwarren met altruïsme. Dit gaat niet over de impact van AI op banen of infrastructuur; het gaat om controle – wie het hanteert, en in welk tempo. Het debat gaat minder over "moeten we het bouwen?" en meer over "wie mag beslissen hoe snel we het bouwen, en wie profiteert?"
Terwijl ze over de toekomst debatteren, wordt jouw heden in gevaar gebracht
Laten we nu eens kijken van de abstracte, toekomstgerichte zorgen over de interne kloof in AI naar de onmiddellijke, tastbare crisis die zich op dit moment op onze netwerken afspeelt. Terwijl de AI-titanen nadenken over de ziel van hun machines, proberen uw operationele teams een regelrechte cyberveiligheidscatastrofe in te dammen.
We hebben het niet over theoretische bedreigingen of algemene trends. We hebben het over actief uitgebuit zero-day-kwetsbaarheden in fundamentele bedrijfssoftware, waarbij kritieke infrastructuur met de kracht van een voorhamer wordt getroffen.
- Ivanti Connect Secure en Policy Secure (CVE-2023-46805 & CVE-2024-21887): Dit is niet zomaar een bug; het is een gapende wond. Deze kwetsbaarheden in de VPN- en netwerktoegangsoplossingen van Ivanti zijn actief uitgebuit, waardoor aanvallers de authenticatie kunnen omzeilen en opdrachten op afstand kunnen uitvoeren. CISA heeft meerdere waarschuwingen afgegeven, waarin het kritieke risico wordt benadrukt voor organisaties die afhankelijk zijn van deze systemen voor veilige toegang op afstand [4]. Uw primaire netwerkverdediging, het enige waarop u vertrouwt om de slechteriken aan de poort tegen te houden, wordt actief uitgebuit om aanvallers diepe toegang te verlenen tot talloze bedrijfsnetwerken.
- Cisco IOS XE Web UI (CVE-2023-20198): Maximale ernst. Actief uitgebuit. Door dit beveiligingslek kunnen niet-geverifieerde aanvallers geprivilegieerde accounts aanmaken en volledige controle krijgen over getroffen Cisco IOS XE-apparaten. Als een aanvaller eigenaar is van het beheervlak van uw netwerkinfrastructuur, is hij of zij eigenaar van uw hele netwerk. Spel voorbij [5].
CISA geeft geen “waarschuwingen” uit voor de lol; ze schreeuwen 'vuur' in een druk theater. Dit zijn niet alleen theoretische bedreigingen; ze worden actief gebruikt om de belangrijkste verdedigings- en managementsystemen van mondiale ondernemingen in gevaar te brengen.
De echte breuklijn
De ironie is zo dik dat je hem met een bot mes zou kunnen snijden. Aan de ene kant hebben we de AI-elite die debatteert over de ethische implicaties van een toekomst die ze nog steeds aan het opbouwen zijn, en roept op tot een vertraging na jaren van ongecontroleerde versnelling. Aan de andere kant hebben we te maken met de onmiddellijke, existentiële dreiging van onze huidige fundamentele technologie die actief afbrokkelt onder het gewicht van niet-geadresseerde, niet-gepatchte kwetsbaarheden.
De echte ‘breuklijn’ ligt niet alleen binnen de AI-gemeenschap; het bevindt zich tussen de ivoren toren van innovatie en de loopgraven van de operationele realiteit. Het gaat tussen de abstracte, toekomstgerichte discussies over ‘zelfregulering’ voor AI en de onmiddellijke, concrete behoefte aan daadwerkelijke veiligheid en stabiliteit in de systemen waar we vandaag de dag op vertrouwen.
Als CTO's en engineeringleiders kunnen we het ons niet veroorloven om afgeleid te worden door de filosofische debatten over de vertraging van de AI. Hoewel deze discussies belangrijk zijn voor de lange termijn, zijn ze een luxe als uw huis actief in brand staat. De ‘herevaluatie van productroadmaps’ zou moeten beginnen met het verstevigen van de afbrokkelende fundamenten van onze bestaande infrastructuur. Bij de ‘risicobeoordelingen’ moet prioriteit worden gegeven aan de onmiddellijke, actief uitgebuite bedreigingen die vandaag de operationele continuïteit en gegevensintegriteit in gevaar brengen.
De prioriteiten van de sector zijn scheef. We bouwen snellere, glanzendere dingen op een fundament dat actief aan het rotten is. De roep om een AI-vertraging is misschien een noodzakelijk gesprek, maar voor degenen onder ons die te maken hebben met Ivanti en Cisco zero-days, voelt het alsof we debatteren over de kleur van de gordijnen terwijl het dak instort. Focus op het heden. De toekomst kan wachten tot we niet meer actief bloeden.
Bronnen
[1] Een open brief om gigantische AI-experimenten te pauzeren – https://futureoflife.org/open-letter-pause-ai-development/ [2] AI-aandelen stijgen enorm, maar sommige beleggers worden nerveus – https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] De AI-revolutie in de wetenschap: beloften en gevaren – https://www.nature.com/articles/d41586-023-03223-y [4] Bedreigingsactoren die de kwetsbaarheden van Ivanti Connect Secure en Ivanti Policy Secure misbruiken – https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Bedreigingsactoren die misbruik maken van de kwetsbaarheid van de webinterface van Cisco IOS XE-software – https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a