Imperatoryň täze AI we onuň aşagyndaky çüýremek gaznasy
AI hemmämizi haçan halas etjekdigini ýadyňyzdamy? Netijede, halas edijiler wagt gutarmagyny soraýarlar. Recentlyaňy-ýakynda, AI tarapyndan dolandyrylýan geljegimiziň binagärleri - "serhet" gözlegçiler we maliýe agyr agramly adamlar, "howpsuzlyk aladalarynyň güýçlenmegi" sebäpli ösüşiň peselmegini talap edip, tormozlary birleşdirdiler [1]. Bazar, hemişe gödek gural, öýkeniň üsgürmegi bilen jogap berdi: çip aksiýalary we esasy AI oýunçylary ýykyldy [2]. Pekin bu duýduryşlary masgaralady, Seulyň çip ägirtleri geljekki AI ösüşleri üçin öňünden töleg tölemeli boldular [2].
Bu diňe pil süňküniň diňi üçin filosofiki jedel däl. Bu seýsmiki üýtgeşiklik, pudagyň elitasynyň içinden biperwaýlygy köpçülige kabul etmek. Dogrusyny aýtsam, bu birneme amatly.
AI arakesmesi: Altruizmmi ýa-da güýç oýnamak?
Aýdyň: raketa guran adamlar birden * paraşýutlary * uçurylandan soň ýatdan çykandyklaryna göz ýetirenlerinde, çuňňur ahlak taýdan oýanma pursady däl. Bu, öz-özüne hyzmat etmek. Bular giň gözli idealistler däl; bular pedaly metala itekleýän, ekspensial ösüşi we bazaryň agdyklyk etmegini yzarlaýan titanlar. Indi “garaşylmadyk netijeleriň” tomaşaçylary bilen, häzirki depginiň durnuksyzdygyna ýa-da öňdebaryjylygyny berkitmelidigine düşünmek bilen, köpçülikleýin dem almaga çagyrýarlar.
Bazaryň reaksiýasy aýdyň. Çip aksiýalarynyň peselmegi diňe gorky bilen baglanyşykly däl; potensial haýallamagyň derrew maliýe netijeleri barada. Pekiniň yza çekilmegi? Milli strategiki artykmaçlygyň abstrakt howpsuzlyk aladalaryndan has ýokarydygynyň aýdyň alamaty. Seulyň çip öndürijileri öň töleglerden ýüz öwürýärlermi? Bu, birden näbelli geljegiň uzak möhletli durnuklylygyny we girdejiligini sorag astyna alýan ses.
CTO we in engineeringenerçilik biziň üçin bu gönüden-göni bulam-bujar görnüşe öwrülýär. AI taslamalaryny täzeden ileri tutmaga mejbur edip, kadalaşdyryjy çärelere garaşyň. AI üçin "çalt hereket et we zatlary döw" etosy resmi taýdan öldi, ýerine ilkinji günden bäri bişirilmeli "etiki AI ösüşi" çarçuwalaryny gözlemek bilen çalyşdy. Maýa goýumlary has seresap bolar, strategiýalar esasy orny eýelär we hawa, altyn bazary has ölçelýän we has jogapkärli çemeleşmäge ýol açýarka, iş bazarlary sowuklygy duýarlar. Puröne muny arassa altruizm üçin ýalňyşmarys. Bu "arakesme", hakyky howpsuzlyk hakda bolşy ýaly, gözegçilik we bazary täzeden kalibrlemek hakda.
Titans jedeli wagtynda fond ýykylýar
Indi, AI elitasy geljekki gözegçilik etikasynyň etikasy barada jedelleşip, bar bolan krizisini başdan geçirýän bolsa, geliň häzirki wagtda ýüze çykýan hakyky, häzirki we düýbünden katastrofiki howpsuzlyk krizisi barada gürleşeliň.
Bu hepde, CISA belli Exploited Vulnerabilities katalogyna birnäçe täze CVE goşdy [3]. Cisco Secure Email Gateway (CVE-2023-20269) [4], GitLab-da CVSS 10.0 ýol geçelgesi we ýakynda üns berilmegini talap edýän Chrome nol gününde (CVE-2023-4863) [3] tassyklanan kök RCE hakda gürleşýäris.
Everyöne her bir howpsuzlyk hünärmenini boşluga çykarmaly hakyky içege urmagy, düýpli kemçilikleriň dowamly howpydyr. Microsoft Defender-iň zyýanly programma üpjünçiligini goramak hereketlendirijisinde ýerli artykmaçlyk ýokarlandyryş gowşaklygy bolan CVE-2021-1647 meselesine serediň [5]. Bu bir düşnüksiz kemçilik däldi; köpçülige subut edilen düşünje bardy we sanly goranyşymyzyň möhüm bölekleriniň nädip howp astyna düşüp biljekdigini we belli bir döwürde ejiz bolup biljekdigini görkezip, tebigatda işjeň ulanyldy.
AI duýgurlygynyň etikasy barada jedelleşýän wagtymyz, sanly goragymyzyň esasy gatlagy bolan ahyrky nokatlarymyzy goramak üçin döredilen programma üpjünçiligi, hüjümçiniň artykmaçlyklaryny ýokarlandyrmagyna mümkinçilik berýän köpçülige mälim, işjeň ulanylýan kemçilikleri görkezýändigi görkezildi. Awtoulagyňyzyň tormozlary şowsuzlyga uçran we hereketlendiriji ot ýakýan mahaly, sürüjiniň filosofiki netijeleri barada jedel eden ýaly.
Hasap: Bir teňňäniň iki tarapy
Bu aýratyn hekaýalar däl. Şol bir çuňňur kemçilikli teňňäniň iki tarapy: tizligi, täzeligi we düýpli howpsuzlygy, durnuklylygy we jogapkärçiligi has ýokary hasaplaýan tehnologiýa pudagy.
AI ýolbaşçylarynyň duýdansyz haýallyk çagyryşy, güýçli, düşünmedik ulgamlary ýabany tebigata çykaransoň, * düzetmek üçin reaktiw, öz-özüne hyzmat etmek synanyşygydyr. Dünýäni üýtgedip biljek tehnologiýa ulanylanda "çalt hereket etmek we zatlary döwmek" mantrasynyň diňe bir jogapkärçiliksiz bolman, eýsem howplydygyny kabul etmekdir.
Nol günlük hüjüm, esasanam Goragçynyň gowşak goralanlygy, IT-de ulanylýan şol pikiriň gönüden-göni, agyryly netijesidir. Howpsuzlygy köplenç her önümiň we ulgamyň aýrylmaz, gepleşik geçirip bolmajak bölegi däl-de, eýsem pikirleniş, laýyklyk gutusy ýa-da çykdajy merkezi hökmünde kabul edýän medeniýetiň netijesidir. Indiki ýalpyldawuk jisimi - indiki LLM, indiki AI agentini kowalamak bilen meşgul bolýarys, aýagymyzyň aşagyndaky ýeriň çüýremegine ýol berdik.
CTO we in engineeringenerçilik ugurlary üçin habar gaty we derrew. Iýmitiňizden geçýän her AI tendensiýasyny kowmagy bes ediň. Esasy iki esse. Esasanam Cisco, GitLab ýaly möhüm, işjeň ulanylýan gowşak goralanlyklar we Defender-iň öňki LPE-leri tarapyndan görkezilen yzygiderli howp üçin ýamany ileri tutuň. Ygtybarly täsirleri amala aşyryň. Diňe aýratynlyk ýol kartasyny däl-de, satyjylaryndan howpsuzlyk ýagdaýy üçin jogapkärçiligi talap ediň.
Bazaryň çökmegi we çözülmedik esasy howpsuzlyk meseleleri diňe täzelik däl. Bu hasap. Örän çalt, gaty biperwaý we ahyrsoňy gaty açyk tehnologiýa dünýäsi. Ulalmagyň, binýadymyzy goramagyň, soň bolsa * diňe şondan soň * indiki serhedi seresaplylyk bilen gözden geçirmegiň wagty geldi.
Çeşmeler
[1] Durmuş institutynyň geljegi - Gigant AI synaglaryny duruzyň: Açyk hat - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC - AI hünärmenleri ösen AI ulgamlaryny ösdürmekde arakesmä çagyrýarlar - https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA - Belli ulanylýan gowşak goralanlyk katalogy - https://www.cisa.gov/known-exploited-vulnerabilities-catalog ] [5] Microsoft Howpsuzlyk Jogap Merkezi - Microsoft Defender Local Privilege Escalation Vulnerability - https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647