AI haýallamagy ünsüňi bölýär. Jaýyňyz ot aldy.
Gepiň gysgasy: tehnologiýa pudagy ahyrsoňy AI bilen “Isanyň ýanyna” gelýär, ýöne hakyky toba ýaly däl we strategiki merkez ýaly duýulýar. Birdenkä, bu döwük AI ýaryşynyň binagärleri - tanymal gözlegçiler we kofein bilen işleýän sprinleri maliýeleşdiren maliýeleşdirijiler haýallamaga çagyrýarlar [1]. "Içerki dolandyryş", "etiki esaslar" we "has bilgeşleýin" depgin barada gürleşýärler. Hemişe duýgur barometr bolan bazar, çip aksiýalarynyň üýtgemegine sebäp bolýan AI maýa goýumlarynyň dowamlylygy baradaky aladalar bilen eýýäm reaksiýa bildirdi [2].
Bu daşarky düzgün däl; bu AI ekosistemasynyň içinde ýüze çykýan içki "ýalňyş çyzyk". “C-suite” geljekdäki döredijiliginiň filosofiki netijeleri barada jedelleşýän hem bolsa, häzirki zaman işjeň ýanýar.
Amatly arakesme
Wagtyna serediň. Birnäçe ýyl bäri bu mantra "çalt hereket ediň we zatlary döwüň" ýa-da has ýakyn wagtda "çalt hereket ediň we AGI guruň". Indi eýýäm ýerleşdirilen kuwwatly modeller bilen, bäsdeşlik şertleri esasan kesgitlenen we hakyky, manyly düzgünleşdiriş tomaşaçylary bilen seresaplylyk çagyryşlary birneme boş. Bu çuňňur töwekgelçiliklere hakyky oýanmakmy ýa-da güýji berkitmek, bäsdeşleri haýallatmak we meýdançalar çykmazdan ozal jemgyýetçilik düşünjesini dolandyrmak üçin hasaplanan usulmy?
Hasaplama, zehin we esas modellerinde bazary eýýäm burçlanyňyzda seresaplylygy wagyz etmek aňsat. Pudagyň duýdansyz "önümiň kartalaryna täzeden baha bermek, töwekgelçiligi bahalandyrmak we strategiki meýilnamalaşdyrmak" meselesine üns berilmegi asylly ýaly görünýär, ýöne bu çeşmeleri täzeden deňleşdirmegiň amatly usuly ýaly bolup görünýär. Bu, açyk çeşme alternatiwalaryny ýa-da möhüm çeşmelere elýeterliligi gözegçilikde saklamak ýa-da kadalaşdyryjy-hukuk binýadyna täsir etmek arkaly döredilen ägirtlere garşy çykyp biljek has kiçi oýunçylary haýalladyp biler. "Etiki esas", modelleriň gyrylan maglumatlar boýunça öwredilen wagty däl-de, eýsem jemgyýeti hakykatdanam üýtgedip biljek derejede güýçli bolmagy birden möhümdir.
Akademiki we ylmy jemgyýetleriň arasynda ýüze çykan aladalar, AI-ni açmak üçin "çözgütleriň" öz meýdanlarynyň bitewiligine howp abandyrjakdygyny duýdurmak, bu içerki aladanyň çuňlugynyň aýdyň görkezijisidir. Emma muny altruizm üçin ýalňyşmarys. Bu AI-iň iş ýa-da infrastruktura täsiri barada däl; * gözegçilik * hakda - ony kim ulanýar we haýsy tizlikde. Jedel "gurmalymy?" Hakda az. we "muny nädip çalt gurýandygymyzy kim çözýär we kim girdeji alýar?" hakda has giňişleýin maglumat.
Geljek hakda jedelleşýänlerinde, Siziň sowgadyňyz ylalaşylýar
Indi, AI-iň içerki bölünişiginiň abstrakt, geljege seredýän aladalaryndan, häzirki wagtda ulgamlarymyzda ýüze çykýan derrew, göze görnüp duran krizise üns bereliň. AI titanlary maşynlarynyň kalby hakda oýlanýarka, operasiýa toparlaryňyz kiberhowpsuzlyk heläkçiligini öz içine alýar.
Teoretiki howplar ýa-da umumy tendensiýalar hakda gürleşemzok. Esasy kärhana programma üpjünçiliginde işjeň ulanylýan nol günlük gowşaklyklar, balyozyň güýji bilen möhüm infrastruktura urmak hakda gürleşýäris.
- ** “Ivanti Connect Howpsuzlyk we Syýasat Howpsuzlygy” (CVE-2023-46805 & CVE-2024-21887): ** Bu diňe bir ýalňyşlyk däl; Bu boşluk. Iwantiniň VPN we tora giriş çözgütlerindäki bu gowşaklyklar, hüjümçilere autentifikasiýadan geçmäge we uzakdaky buýruklary ýerine ýetirmäge mümkinçilik berýän işjeň ulanyldy. GDA, uzakdan ygtybarly girmek üçin bu ulgamlara bil baglaýan guramalar üçin möhüm töwekgelçiligi görkezip, birnäçe duýduryş berdi [4]. Esasy tor goragy, erbet adamlary derwezede duruzmak üçin bil baglaýan bir zadyňyz, hüjümçilere sansyz kärhana torlaryna çuňňur girmek üçin işjeň ulanylýar.
- ** Cisco IOS XE Web UI (CVE-2023-20198): ** Iň ýokary agyrlyk. Işjeň ulanylýar. Bu gowşaklyk, tassyklanmadyk hüjümçilere artykmaç hasaplary döretmäge we täsir eden Cisco IOS XE enjamlaryna doly gözegçilik etmäge mümkinçilik berýär. Eger bir hüjümçi tor infrastrukturanyň dolandyryş uçaryna eýe bolsa, tutuş toruňyza eýe bolar. Oýun [5].
CISA hezil etmek üçin "duýduryş" bermeýär; köp adamly teatrda "ot" diýip gygyrýarlar. Bular diňe teoretiki howplar däl; global kärhanalarda esasy goraglary we dolandyryş ulgamlaryny bozmak üçin işjeň ulanylýar.
Hakyky ýalňyş çyzyk
Täsinlik gaty galyň, ony zerikli pyçak bilen kesip bilersiňiz. Bir tarapdan, AI elitasy henizem gurýan gelejeginiň ahlak netijeleri barada jedelleşýär we birnäçe ýyllap gözegçilik edilmedik tizlenmeden soň haýallamagy talap edýär. Beýleki bir tarapdan, çözülmedik, gözegçilik edilmedik gowşaklyklaryň agramy astynda işjeň çökýän * häzirki * esasly tehnologiýamyzyň derrew, bar bolan howpy bar.
Hakyky "ýalňyş çyzyk" diňe AI jemgyýetinde däl; pil süňkünden ýasalan innowasiýa diňi bilen amaly hakykat çukurlarynyň arasynda. AI üçin "öz-özüňi düzgünleşdirmek" barada abstrakt, geljekde gönükdirilen çekişmeler bilen häzirki wagtda bil baglaýan ulgamlarymyzda * hakyky * howpsuzlyk we durnuklylyk üçin derrew, anyk zerurlygyň arasynda.
CTO we in engineeringenerçilik öňdebaryjy bolansoň, AI haýallygynyň filosofiki jedellerinden ünsümizi sowup bilmeris. Şol çekişmeler uzak möhletleýin möhüm bolsa-da, jaýyňyz işjeň ot alanda ajaýyp zat. "Önümiň ýol kartalaryna täzeden baha bermek", bar bolan infrastrukturamyzyň çökýän esaslaryny goramakdan başlamaly. "Töwekgelçiligi bahalandyrmak", häzirki wagtda * iş dowamlylygyna we maglumatlaryň bitewiligine zyýan berýän derrew, işjeň ulanylýan howplary ileri tutmalydyr.
Senagatyň ileri tutulýan ugurlary gaty az. Işjeň çüýrän binýadyň üstünde has çalt we ýalpyldawuk zatlar gurýarys. AI-ni haýallatmak baradaky çagyryş zerur söhbetdeşlik bolup biler, ýöne ýerdäki “Ivanti” we “Cisco” bilen iş salyşýanlar üçin, üçek gowaklary wagtynda perdeleriň reňkini jedel edýän ýaly duýulýar. Häzirki wagtda üns beriň. Aktiw gan akýançak, gelejek garaşyp biler.
Çeşmeler
[1] Uly AI synaglaryny duruzmak üçin açyk hat - https://futureoflife.org/open-letter-pause-ai-development/ [2] AI paýnamalary köpelýär, ýöne käbir maýadarlar tolgunýarlar - https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Ylymdaky AI ynkylaby: wadalar we howplar - https://www.nature.com/articles/d41586-023-03223-y ] [5] Cisco IOS XE programma üpjünçiligi web UI gowşaklygyndan peýdalanýan aktýorlar - https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a