L-AI Ġdida tal-Imperatur, u l-Fondazzjoni Taħsir Taħtha
Tiftakar meta l-AI kienet se ssalvana lkoll? Jirriżulta, is-salvaturi issa qed jitolbu għal timeout. Dan l-aħħar, l-istess periti tal-futur tagħna mmexxi mill-AI—ir-riċerkaturi tal-"fruntiera" u l-piżijiet tqal finanzjarji — kollettivament laqtu l-brejkijiet, u jitolbu deċelerazzjoni fl-iżvilupp minħabba "tħassib ta' sikurezza li qed jiżdied" [1]. Is-suq, li qatt kien l-istrument ċar, irrisponda billi sogħla pulmun: l-istokks taċ-ċippa u l-atturi ewlenin tal-IA waqgħu [2]. Beijing, prevedibbli, scoffed bit-twissijiet, filwaqt li l-ġganti taċ-ċippa ta 'Seoul qagħdu lura għall-ħlasijiet bil-quddiem għall-avvanzi futuri tal-IA [2].
Dan mhux biss dibattitu filosofiku għat-torri tal-avorju. Din hija bidla sismika, ammissjoni pubblika ta 'traskuraġni minn ġewwa l-elite tal-industrija. U franchement, huwa ftit wisq konvenjenti.
Il-Pawsa tal-AI: Altruiżmu jew Power Play?
Ejja nkunu ċari: meta n-nies li bnew ir-rokit f'daqqa jirrealizzaw li nsew il-paraxuts wara it-tnedija, mhuwiex mument ta 'qawmien etiku profond. Hija ġirja tard u li sservi lilhom infushom. Dawn mhumiex idealisti għajnejhom wiesgħa; dawn huma t-titans li ilhom jimbuttaw il-pedala għall-metall, jiġru wara t-tkabbir esponenzjali u d-dominanza tas-suq. Issa, bl-ispettru ta’ “konsegwenzi mhux previsti” imminenti—u forsi, b’mod aktar ċiniku, ir-realizzazzjoni li r-ritmu attwali mhuwiex sostenibbli jew li jeħtieġ li jikkonsolidaw it-tmexxija tagħhom — qed jitolbu nifs kollettiv.
Ir-reazzjoni tas-suq qed tgħid. Dip fl-istokks taċ-ċippa mhix biss dwar il-biża; huwa dwar l-implikazzjonijiet finanzjarji immedjati ta 'tnaqqis potenzjali. Il-pushback ta' Beijing? Sinjal ċar li l-vantaġġ strateġiku nazzjonali jirbaħ it-tħassib astratt tas-sikurezza. U l-produtturi taċ-ċippijiet ta' Seoul li jirrifjutaw ħlasijiet bil-quddiem? Dak hu l-ħoss tal-kapital li jiddubita l-istabbiltà fit-tul u l-profittabbiltà ta 'futur f'daqqa inċert.
Għalina, is-CTOs u l-inġinerija twassal, dan jissarraf direttament f'pajsaġġ kaotiku. Jistennew li l-interventi regolatorji jaċċelleraw, u jġiegħel il-prijoritizzazzjoni mill-ġdid tal-proġetti tal-IA. L-ethos tal-"imxi malajr u tkisser l-affarijiet" għall-AI hija uffiċjalment mejta, mibdula b'tfittxija sfrenata għal oqfsa ta' "żvilupp etiku tal-AI" li kellhom jiġu moħmija mill-ewwel jum. L-investiment se jsir aktar kawt, l-istrateġiji se jduru, u iva, is-swieq tax-xogħol se jħossu l-bard hekk kif l-għaġla tad-deheb tagħti lok għal approċċ aktar imkejjel, u nisperaw, aktar responsabbli. Imma ejja ma niżbaljawx dan għal altruiżmu pur. Din il-"pawża" hija kemm dwar il-kontroll u l-kalibrazzjoni mill-ġdid tas-suq kif ukoll dwar is-sigurtà ġenwina.
Waqt id-Dibattitu tat-Titans, il-Fondazzjoni Tfarrak
Issa, filwaqt li l-elite tal-AI qed ikollhom il-kriżi eżistenzjali tagħhom, jiddibattu l-etika tas-superintelliġenza futura, ejja nitkellmu dwar il-kriżi tas-sigurtà reali ħafna, preżenti ħafna, u għal kollox katastrofika li qed tiżvolġi issa.
Din il-ġimgħa, is-CISA żiedet CVEs ġodda multipli mal-katalgu tal-Vulnerabilitajiet Sfruttati Magħrufa tagħha [3]. Qed nitkellmu dwar RCE għerq ikkonfermat f'Cisco Secure Email Gateway (CVE-2023-20269) [4], passaġġ CVSS 10.0 f'GitLab (CVE-2023-2825) [3], u Chrome zero-day patched reċentement (CVE-2023) [3863] talbet attenzjoni immedjata.
Iżda l-punch tal-imsaren reali, dak li għandu jagħmel kull professjonist tas-sigurtà jgħajjat fil-vojt, huwa t-theddida persistenti ta 'difetti fundamentali. Ikkunsidra CVE-2021-1647, vulnerabbiltà tal-eskalazzjoni tal-privileġġ lokali fil-Magna tal-Protezzjoni tal-Malware tal-Microsoft Defender [5]. Dan ma kienx xi difett oskura; kellha Prova ta' Kunċett pubblika u ġiet sfruttata b'mod attiv fis-selvaġġ, u enfasizza kif komponenti kritiċi tad-difiża diġitali tagħna jistgħu jiġu kompromessi u jibqgħu vulnerabbli għal perjodu.
Ħalli dak jinżel. Waqt li qed niddibattu l-etika tas-sentience AI, is-softwer stess iddisinjat biex jipproteġi l-endpoints tagħna, is-saff fundamentali tad-difiża diġitali tagħna, intwera li jospita difetti magħrufa pubblikament u sfruttati b'mod attiv li jippermettu lil attakkant jgħolli l-privileġġi. Huwa bħal targumenta dwar l-implikazzjonijiet filosofiċi ta 'warp drive waqt li l-brejkijiet tal-karozza tiegħek qed ifallu u l-magna tkun fuq in-nar.
Ir-Rakkonti: Żewġ Naħat tal-istess Munita
Dawn mhumiex stejjer separati. Huma żewġ naħat tal-istess munita profondament difettuża: industrija tat-teknoloġija li konsistentement ipprijoritizzat il-veloċità, in-novità, u l-innovazzjoni perċepita fuq is-sigurtà fundamentali, l-istabbiltà u r-responsabbiltà.
Is-sejħa f'daqqa tal-mexxejja tal-AI għal tnaqqis fir-ritmu hija tentattiv reattiv u li jservi lilhom infushom biex jikkoreġu l-kors * wara * li diġà ħarġu sistemi qawwija u li ma tantx mifhuma fis-selvaġġ. Hija ammissjoni li l-mantra ta’ “imxi malajr u tkisser l-affarijiet”, meta applikata għal teknoloġija li potenzjalment tbiddel id-dinja, mhix biss irresponsabbli, iżda perikoluża.
L-attakk ta' zero-day, partikolarment il-vulnerabbiltà kritika tad-Difensur, hija l-konsegwenza diretta u koroh ta' din l-istess mentalità applikata għall-IT fundamentali. Huwa r-riżultat ta' kultura li ħafna drabi tittratta s-sigurtà bħala ħsieb wara l-aħħar, kaxxa ta' kontroll tal-konformità, jew ċentru tal-ispiża, aktar milli komponent integrali u mhux negozjabbli ta' kull prodott u sistema waħda. Aħna tant okkupati niġru wara l-oġġett tleqq li jmiss—l-LLM li jmiss, l-aġent AI li jmiss—li ħallejna l-art stess taħt saqajna taħsir.
Għas-CTOs u l-mexxejja tal-inġinerija, il-messaġġ huwa qawwi u immedjat. Tieqaf tiġri kull tendenza tal-AI li taqsam l-għalf tiegħek. Irdoppja fuq il-prinċipji fundamentali. Ipprijoritizza l-patching, speċjalment għal vulnerabbiltajiet kritiċi u sfruttati b'mod attiv bħal dawk f'Cisco, GitLab, u t-theddida persistenti eżemplati mill-LPEs tal-passat ta' Defender. Implimenta mitigazzjonijiet robusti. Itlob responsabbiltà mill-bejjiegħa tiegħek għall-qagħda tas-sigurtà tagħhom, mhux biss il-pjan direzzjonali tal-karatteristiċi tagħhom.
It-taqlib tas-suq u l-kwistjonijiet ta' sigurtà fundamentali mhux indirizzati mhumiex biss aħbarijiet. Huma kalkolu. Dinja tat-teknoloġija li hija mgħaġġla wisq, wisq imprudenti, u finalment, wisq esposta. Wasal iż-żmien li nikbru, niżguraw il-pedamenti tagħna, u mbagħad, * imbagħad biss *, nikkunsidraw b'kawtela l-fruntiera li jmiss.
Sorsi
[1] Future of Life Institute — Pause Giant AI Experiments: An Open Letter — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — L-esperti tal-AI jitolbu pawsa fl-iżvilupp ta’ sistemi avvanzati tal-AI — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Katalgu tal-Vulnerabiltajiet Sfruttati Magħruf — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory — Cisco Secure Email u Web Manager, Cisco Email Security Appliance, u Cisco Web Security Appliance Vulnerabilities — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Microsoft Security Response Center — Microsoft Defender Local Privilege Escalation Vulnerability — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647