De AI Slowdown is in ôflieding. Jo hûs stiet yn 'e brân.
Litte wy bot wêze: de tech-yndustry hat einlings syn "kom nei Jezus" momint mei AI, mar it fielt minder as echte berou en mear as in strategysk draaipunt. Ynienen easkje de arsjitekten fan dizze brekkende AI-race - de foaroansteande ûndersikers en de finansiers dy't har sprints mei kafeïne finansierden - om in fertraging [1]. Se hawwe it oer "ynterne bestjoer", "etyske kaders," en in "mear opsetlik" tempo. En de merk, ea de gefoelige barometer, hat al reagearre, mei soargen oer de duorsumens fan AI-ynvestearingen dy't volatiliteit yn chipoandielen feroarsaakje [2].
Dit is gjin eksterne regeljouwing; it is in ynterne "foutline" dy't ûntstiet út it AI-ekosysteem sels. En wylst de C-suite debatten oer de filosofyske gefolgen fan har takomstige kreaasjes, baarnt it hjoeddeiske aktyf.
De handige pauze
Tink oan de timing. Jierrenlang is de mantra "ferpleatse fluch en brekke dingen," of mear resint, "ferhúzje fluch en bouwe AGI." No, mei krêftige modellen dy't al ynset binne, mei it kompetitive lânskip foar in grut part definiearre, en mei it spook fan wirklike, betsjuttingsfolle regeljouwing opdoarjend, klinke de oproppen om foarsichtigens in bytsje hol. Is dit in wirklik wekkerjen foar de djippe risiko's, as in berekkene manoeuvre om macht te konsolidearjen, konkurrinten te fertrage, en iepenbiere persepsje te behearjen foardat de pitchforks útkomme?
It is maklik om foarsichtigens te preekjen as jo de merk al yn 'e hoeke hawwe op rekken, talint en basismodellen. De hommelse fokus fan 'e sektor op "opnij evaluaasje fan produktroadkaarten, risiko-beoardielingen en strategyske planning" klinkt aadlik, mar it klinkt ek as in handige manier om boarnen opnij út te rjochtsjen. Dit kin mooglik iepen-boarne-alternativen as lytsere spilers fertrage dy't de fêststelde reuzen kinne útdaagje troch tagong te kontrolearjen ta essensjele boarnen of troch it beynfloedzjen fan regeljouwingskaders. It "etyske ramt" is ynienen foarop, net doe't de modellen waarden oplaat op skrapte gegevens, mar no't se machtich genôch binne om de maatskippij wirklik te herfoarmjen.
Soargen útsprutsen binnen akademyske en wittenskiplike mienskippen, warskôgje dat AI "oplossingen" foar iepen problemen de yntegriteit fan har fjilden kinne bedrige [3], binne in sterke yndikator fan 'e djipte fan dizze ynterne soarch. Mar lit ús dit net ferjitte mei altruïsme. Dit giet net oer de ynfloed fan AI op banen of ynfrastruktuer; it giet oer kontrôle - wa't it hat, en yn hokker tempo. It debat giet minder oer "moatte wy it bouwe?" en mear oer "wa krijt te besluten hoe fluch wy bouwe it, en wa winst?"
Wylst se de takomst debattearje, is jo oanwêzich kompromittearre
Litte wy no draaie fan 'e abstrakte, takomstige soargen fan' e ynterne kloof fan AI nei de direkte, taastbere krisis dy't * op it stuit * op ús netwurken ûntwikkelt. Wylst de AI-titanen neitinke oer de siel fan har masines, skarrelje jo operasjonele teams om in folsleine cybersecurity-katastrofe te befetsjen.
Wy hawwe it net oer teoretyske bedrigingen of algemiene trends. Wy hawwe it oer aktyf eksploitearre nul-day-kwetsberheden yn fûnemintele ûndernimmingssoftware, en slaan krityske ynfrastruktuer mei de krêft fan in sledgehammer.
- Ivanti Connect Secure and Policy Secure (CVE-2023-46805 & CVE-2024-21887): Dit is net allinich in brek; it is in gapjende wûne. Dizze kwetsberens yn Ivanti's VPN- en netwurktagongsoplossingen binne aktyf eksploitearre, wêrtroch oanfallers de autentikaasje kinne omgean en kommando's op ôfstân útfiere. CISA hat meardere warskôgingen útjûn, en markearje it krityske risiko foar organisaasjes dy't op dizze systemen fertrouwe foar feilige tagong op ôfstân [4]. Jo primêre netwurkferdigening, it iene ding wêrop jo fertrouwe om de minne jonges by de poarte te stopjen, wurdt aktyf eksploitearre om oanfallers djippe tagong te jaan ta ûntelbere ûndernimmingsnetwurken.
- ** Cisco IOS XE Web UI (CVE-2023-20198): ** Maksimale earnst. Aktyf eksploitearre. Dizze kwetsberens kinne net-authentisearre oanfallers befoarrjochte akkounts meitsje en folsleine kontrôle krije oer beynfloede Cisco IOS XE-apparaten. As in oanfaller it behearplan fan jo netwurkynfrastruktuer hat, binne se eigner fan jo heule netwurk. Wedstriid foarby [5].
CISA jout gjin "warskôgings" foar wille; se skrieme "fjoer" yn in drok teater. Dat binne net allinnich teoretyske bedrigings; se wurde aktyf brûkt om kearn ferdigenings- en behearsystemen yn wrâldwide bedriuwen te kompromittearjen.
The Real Fault Line
De irony is sa dik dat jo it mei in dof mes kinne snije. Oan 'e iene kant hawwe wy de AI-elite dy't debatten oer de etyske gefolgen fan in takomst dy't se noch bouwe, en ropt op in fertraging nei jierren fan net kontroleare fersnelling. Oan 'e oare kant hawwe wy de direkte, eksistinsjele bedriging fan ús * hjoeddeistige * fûnemintele technology dy't aktyf ôfbrokkelt ûnder it gewicht fan net-adressearre, unpatched kwetsberens.
De echte "foutline" is net allinich binnen de AI-mienskip; it is tusken de ivoaren toer fan ynnovaasje en de grêften fan operasjonele realiteit. It is tusken de abstrakte, takomst-rjochte diskusjes fan "selsregulearring" foar AI en de direkte, konkrete needsaak foar * werklike * feiligens en stabiliteit yn de systemen wy fertrouwe op hjoed.
As CTO's en engineering lieders, kinne wy net ús betelje om ôfleid te wurden troch de filosofyske debatten fan 'e AI-fertraging. Wylst dy diskusjes wichtich binne foar de lange termyn, binne se in lúkse as jo hûs aktyf yn 'e brân stiet. De "opnij evaluaasje fan produktroadkaarten" moat begjinne mei it fersterkjen fan 'e ôfbrokkelende fûneminten fan ús besteande ynfrastruktuer. De "risiko-beoardielingen" moatte prioriteit jaan oan de direkte, aktyf eksploitearre bedrigingen dy't de operasjonele kontinuïteit en gegevensintegriteit hjoed kompromittearje.
De prioriteiten fan 'e yndustry binne skeef. Wy bouwe rapper, glanzender dingen op in stifting dy't aktyf ferrottet. De oprop foar in AI-fertraging kin in needsaaklik petear wêze, mar foar dy fan ús op 'e grûn, omgean mei Ivanti en Cisco nul-dagen, fielt it as debatten oer de kleur fan' e gerdinen, wylst it dak yn 't dak giet. Fokus op it hjoeddeiske. De takomst kin wachtsje oant wy net aktyf bloede.
Boarnen
[1] In iepen brief om Giant AI-eksperiminten te stopjen - https://futureoflife.org/open-letter-pause-ai-development/ [2] AI-oandielen groeie, mar guon ynvestearders wurde senuweftich - https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] De AI-revolúsje yn wittenskip: beloften en gefaren - https://www.nature.com/articles/d41586-023-03223-y [4] Bedrigingsakteurs dy't Ivanti Connect Secure en Ivanti Policy Secure Vulnerabilities brûke - https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Bedrigingsakteurs dy't gebrûk meitsje fan Cisco IOS XE Software Web UI-kwetsberens - https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a