Die keiser se nuwe KI, en die verrottende stigting daaronder
Onthou jy toe KI ons almal sou red? Dit blyk dat die redders nou vra vir 'n time-out. Net onlangs het die einste argitekte van ons KI-gedrewe toekoms - die "grens"-navorsers en finansiële swaargewigte - gesamentlik die remme aangeslaan en 'n vertraging in ontwikkeling geëis as gevolg van "eskalerende veiligheidskwessies" [1]. Die mark, ooit die stomp instrument, het gereageer deur 'n long op te hoes: skyfieaandele en groot KI-spelers het getuimel [2]. Beijing, voorspelbaar, het die waarskuwings gespot, terwyl Seoul se chip-reuse geweier het om voorafbetalings vir toekomstige KI-vorderings [2].
Dit is nie net 'n filosofiese debat vir die ivoortoring nie. Dit is 'n seismiese verskuiwing, 'n openbare erkenning van roekeloosheid van binne die bedryf se elite. En eerlik, dit is 'n bietjie te gerieflik.
Die KI Pouse: Altruïsme of Power Play?
Kom ons wees duidelik: wanneer die mense wat die vuurpyl gebou het skielik besef hulle het die valskerms vergeet na lansering, is dit nie 'n oomblik van diepgaande etiese ontwaking nie. Dit is 'n laat, selfdienende geskarrel. Dit is nie grootoog idealiste nie; dit is die titane wat die pedaal op die metaal gedruk het, wat eksponensiële groei en markoorheersing najaag. Nou, met die spook van "onvoorsiene gevolge" wat groot dreig - en miskien, meer sinies, die besef dat die huidige tempo onvolhoubaar is of dat hulle hul voorsprong moet konsolideer - vra hulle vir 'n kollektiewe asem.
Die mark se reaksie is veelseggend. 'n Daling in skyfieaandele gaan nie net oor vrees nie; dit gaan oor die onmiddellike finansiële implikasies van 'n potensiële verlangsaming. Beijing se terugslag? ’n Duidelike sein dat nasionale strategiese voordeel abstrakte veiligheidskwessies troef. En Seoul se chipmakers weier voorafbetalings? Dit is die klank van kapitaal wat die langtermynstabiliteit en winsgewendheid van 'n skielik onsekere toekoms bevraagteken.
Vir ons, die CTO's en ingenieursleiers, vertaal dit direk in 'n chaotiese landskap. Verwag dat regulatoriese ingrypings sal versnel, wat 'n herprioritisering van KI-projekte dwing. Die "beweeg vinnig en breek dinge"-etos vir KI is amptelik dood, vervang deur 'n verwoede soektog na "etiese KI-ontwikkeling"-raamwerke wat van dag een af ingebak moes gewees het. Belegging sal versigtiger word, strategieë sal draai, en ja, werksmarkte sal die koue voel namate die goudstormloop plek maak vir 'n meer gemete, en hopelik meer verantwoordelike, benadering. Maar laat ons dit nie vir pure altruïsme verwar nie. Hierdie "pouse" gaan net soveel oor beheer en markherkalibrasie as oor werklike veiligheid.
Terwyl die Titans-debat verbrokkel die Stigting
Nou, terwyl die KI-elite hul eksistensiële krisis beleef en die etiek van toekomstige superintelligensie debatteer, kom ons praat oor die baie werklike, baie huidige en uiters katastrofiese sekuriteitskrisis wat nou ontvou.
Hierdie week het CISA verskeie nuwe CVE's by sy katalogus oor bekende misbruikte kwesbaarhede gevoeg [3]. Ons praat van 'n bevestigde wortel-RCE in Cisco Secure Email Gateway (CVE-2023-20269) [4], 'n CVSS 10.0-paddeurkruising in GitLab (CVE-2023-2825) [3], en 'n onlangs gelapte Chrome zero-day (CVE-2023-4863) wat [onmiddellik] aandag geverg het.
Maar die werklike gut punch, die een wat elke sekuriteitsprofessie in die niet moet laat skree, is die aanhoudende bedreiging van grondliggende foute. Oorweeg CVE-2021-1647, 'n plaaslike voorreg-eskalasie-kwesbaarheid in Microsoft Defender se Malware Protection Engine [5]. Dit was nie een of ander obskure fout nie; dit het 'n publieke Proof-of-Concept gehad en is aktief in die natuur ontgin, wat beklemtoon hoe kritieke komponente van ons digitale verdediging gekompromitteer kan word en vir 'n tydperk kwesbaar kan bly.
Laat dit insink. Terwyl ons die etiek van KI-gevoel bespreek, is getoon dat die einste sagteware wat ontwerp is om ons eindpunte te beskerm, die grondlaag van ons digitale verdediging, publiek bekende, aktief uitgebuitte foute bevat wat 'n aanvaller toelaat om voorregte te verhoog. Dis soos om te stry oor die filosofiese implikasies van warp drive terwyl jou motor se remme onklaar raak en die enjin aan die brand is.
Die afrekening: twee kante van dieselfde munt
Dit is nie aparte stories nie. Hulle is twee kante van dieselfde diep gebrekkige muntstuk: 'n tegnologie-industrie wat konsekwent spoed, nuwigheid en waargenome innovasie geprioritiseer het bo fundamentele sekuriteit, stabiliteit en verantwoordelikheid.
Die KI-leiers se skielike oproep vir 'n verlangsaming is 'n reaktiewe, selfdienende poging om kursus reg te stel *nadat hulle reeds kragtige, swak verstaanbare stelsels in die natuur ontketen het. Dit is 'n erkenning dat die "beweeg vinnig en breek dinge"-mantra, wanneer dit toegepas word op potensieel wêreldveranderende tegnologie, nie net onverantwoordelik nie, maar gevaarlik is.
Die nul-dag-aanslag, veral die kritieke Defender-kwesbaarheid, is die direkte, pynlike gevolg van dieselfde ingesteldheid wat op fundamentele IT toegepas word. Dit is die resultaat van 'n kultuur wat sekuriteit dikwels as 'n nagedagte, 'n nakomingsmerkblokkie of 'n kostepunt behandel, eerder as 'n integrale, ononderhandelbare komponent van elke enkele produk en stelsel. Ons is so besig om die volgende blink voorwerp te jaag—die volgende LLM, die volgende KI-agent—dat ons die grond onder ons voete laat vrot het.
Vir CTO's en ingenieursleiers is die boodskap skerp en onmiddellik. Hou op om elke KI-neiging na te jaag wat jou voer kruis. Verdubbel die grondbeginsels. Prioritiseer pleistering, veral vir kritieke, aktief ontginde kwesbaarhede soos dié in Cisco, GitLab en die aanhoudende bedreiging wat deur Defender se vorige LPE's geïllustreer word. Implementeer robuuste versagtings. Eis aanspreeklikheid van jou verskaffers vir hul sekuriteitsposisie, nie net hul kenmerkpadkaart nie.
Die mark se tuimel en die onaangespreekte fundamentele sekuriteitskwessies is nie net nuusitems nie. Hulle is 'n afrekening. ’n Tegnologiewêreld wat te vinnig, te roekeloos en uiteindelik te blootgestel is. Dit is tyd om groot te word, ons fondamente te beveilig, en dan, net dan, versigtig die volgende grens te oorweeg.
Bronne
[1] Future of Life Institute — Pause Giant KI-eksperimente: 'n Ope Brief — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC – KI-kundiges vra vir pouse in die ontwikkeling van gevorderde KI-stelsels – https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Known Exploited Vulnerabilities Catalog — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Sekuriteitsadvies — Cisco Secure Email and Web Manager, Cisco Email Security Appliance, en Cisco Web Security Appliance Kwesbaarhede — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Microsoft Security Response Center – Microsoft Defender Local Privilege Escalation Vulnerability – https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647