AI Mpya ya Mfalme, na Msingi Unaooza Chini Yake
Je! unakumbuka wakati AI ingetuokoa sote? Inageuka, waokoaji sasa wanauliza muda wa kuisha. Hivi majuzi tu, wasanifu haswa wa mustakabali wetu unaoendeshwa na AI-watafiti wa "mpaka" na watu wakubwa wa kifedha - kwa pamoja waligonga breki, wakitaka kupunguzwa kwa maendeleo kwa sababu ya "maswala yanayoongezeka ya usalama" [1]. Soko, ambalo lilikuwa chombo butu, lilijibu kwa kukohoa kwenye pafu: hifadhi ya chips na wachezaji wakuu wa AI walianguka [2]. Beijing, kwa kutabirika, ilidhihaki maonyo hayo, huku wakubwa wa Seoul wakipinga malipo ya awali kwa ajili ya maendeleo ya AI ya siku zijazo [2].
Huu sio tu mjadala wa kifalsafa kwa mnara wa pembe za ndovu. Hili ni badiliko la mtetemeko wa ardhi, kukiri hadharani kwa kutojali kutoka kwa wasomi wa tasnia hii. Na kusema ukweli, ni rahisi sana.
Kusitishwa kwa AI: Kujitolea au Kucheza kwa Nguvu?
Hebu tuwe wazi: wakati watu waliounda roketi ghafla waligundua kuwa wamesahau miamvuli baada ya kuzinduliwa, sio wakati wa mwamko wa kina wa maadili. Ni kinyang'anyiro kilichochelewa, cha kujitakia. Hawa si wenye mawazo mapana; hawa ni wakubwa ambao wamekuwa wakisukuma kanyagio hadi kwenye chuma, wakifukuza ukuaji mkubwa na kutawala soko. Sasa, huku wasiwasi wa "matokeo yasiyotazamiwa" ukiwa mkubwa—na pengine, kwa kejeli zaidi, utambuzi kwamba kasi ya sasa haiwezi kuendelezwa au kwamba wanahitaji kuunganisha uongozi wao—wanatoa wito wa kupumua kwa pamoja.
Mwitikio wa soko unasema. Kuzama katika hifadhi za chip sio tu juu ya hofu; ni kuhusu athari za haraka za kifedha za uwezekano wa kushuka. Msukumo wa Beijing? Ishara wazi kwamba faida ya kimkakati ya kitaifa inapinga maswala ya usalama ya kufikirika. Na watengeneza chip wa Seoul wanakataa malipo ya mapema? Hiyo ni sauti ya mtaji inayohoji utulivu wa muda mrefu na faida ya mustakabali usio na uhakika wa ghafla.
Kwa sisi, CTOs na uhandisi inaongoza, hii inatafsiri moja kwa moja katika mazingira ya machafuko. Tarajia uingiliaji kati wa udhibiti ili kuharakisha, na kulazimisha kutanguliwa upya kwa miradi ya AI. Misingi ya "sogea haraka na uvunje mambo" ya AI imekufa rasmi, nafasi yake kuchukuliwa na utafutaji mkali wa mifumo ya "maendeleo ya maadili ya AI" ambayo ingefaa kuwekwa tangu siku ya kwanza. Uwekezaji utakuwa wa tahadhari zaidi, mikakati itaegemea, na ndiyo, masoko ya ajira yatahisi baridi huku msukumo wa dhahabu ukitoa njia ya kupimwa zaidi, na kwa matumaini, kuwajibika zaidi. Lakini tusikose hii kwa ubinafsi mtupu. "Sitisha" hii inahusu udhibiti na urekebishaji upya wa soko kama inavyohusu usalama wa kweli.
Wakati Mjadala wa Titans, Msingi Unabomoka
Sasa, wakati wasomi wa AI wanakabiliwa na mzozo wao wa kudumu, wakijadili maadili ya ujasusi wa siku zijazo, hebu tuzungumze kuhusu mzozo wa usalama wa kweli, uliopo, na mbaya kabisa unaoendelea sasa hivi.
Wiki hii, CISA iliongeza CVE nyingi mpya kwenye katalogi yake ya Athari Zinazotumika Zinazojulikana [3]. Tunazungumza kuhusu mzizi uliothibitishwa wa RCE katika Cisco Secure Email Gateway (CVE-2023-20269) [4], upitishaji wa njia ya CVSS 10.0 katika GitLab (CVE-2023-2825) [3], na siku sifuri iliyotiwa viraka hivi majuzi ya Chrome (CVE-2023-3863) ilihitaji kuzingatiwa.
Lakini ngumi halisi ya utumbo, ambayo inapaswa kumfanya kila mtaalamu wa usalama kupiga kelele kwenye utupu, ni tishio linaloendelea la dosari za kimsingi. Zingatia CVE-2021-1647, uwezekano wa kuathiriwa na fursa za ndani katika Injini ya Kulinda Malware ya Microsoft Defender [5]. Hii haikuwa dosari fulani isiyojulikana; ilikuwa na Dhana ya Uthibitisho wa umma na ilitumiwa sana porini, ikiangazia jinsi vipengele muhimu vya ulinzi wetu wa kidijitali vinaweza kuathiriwa na kubaki katika mazingira magumu kwa muda fulani.
Acha hilo liingie ndani. Tunapojadili maadili ya maoni ya AI, programu haswa iliyoundwa kulinda vidokezo vyetu, safu ya msingi ya ulinzi wetu wa kidijitali, imeonyeshwa kuwa na dosari zinazojulikana hadharani, zinazotumiwa vibaya ambazo huruhusu mshambuliaji kuinua mapendeleo. Ni kama kubishana kuhusu athari za kifalsafa za warp drive huku breki za gari lako zikikatika na injini inawaka moto.
Hesabu: Pande Mbili za Sarafu Moja
Hizi si hadithi tofauti. Ni pande mbili za sarafu ile ile yenye dosari kubwa: tasnia ya teknolojia ambayo mara kwa mara imetanguliza kasi, mambo mapya, na uvumbuzi unaotambulika juu ya usalama wa kimsingi, uthabiti na uwajibikaji.
Wito wa ghafla wa viongozi wa AI wa kupunguza kasi ni jaribio tendaji, la kujitolea la kusahihisha baada ya kuwa tayari kuachilia mifumo yenye nguvu, isiyoeleweka vizuri porini. Ni kukubali kuwa msemo wa "sogea haraka na uvunje vitu", unapotumiwa kwa teknolojia inayoweza kubadilisha ulimwengu, sio tu ya kutowajibika, lakini ni hatari.
Mashambulizi ya siku sifuri, haswa hatari kubwa ya Mlinzi, ni tokeo la moja kwa moja, chungu la mtazamo huu unaotumika kwa IT msingi. Ni matokeo ya utamaduni ambao mara nyingi huchukulia usalama kama wazo la baadaye, kisanduku cha kuteua cha kufuata, au kituo cha gharama, badala ya sehemu muhimu, isiyoweza kujadiliwa ya kila bidhaa na mfumo. Tuna shughuli nyingi sana katika kukimbiza kitu kinachong'aa - LLM inayofuata, wakala wa AI anayefuata - hivi kwamba tumeacha ardhi iliyo chini ya miguu yetu ioze.
Kwa CTO na viongozi wa uhandisi, ujumbe ni mkali na wa haraka. Acha kufuata kila mwelekeo wa AI unaovuka mipasho yako. Chunguza mambo ya msingi maradufu. Kutanguliza kuweka viraka, hasa kwa udhaifu muhimu, unaotumiwa kikamilifu kama ule wa Cisco, GitLab, na tishio linaloendelea lililoonyeshwa na LPE za zamani za Defender. Tekeleza upunguzaji wa nguvu. Omba uwajibikaji kutoka kwa wachuuzi wako kwa mkao wao wa usalama, si tu ramani ya kipengele chao.
Kuporomoka kwa soko na masuala ya msingi ya usalama ambayo hayajashughulikiwa sio habari tu. Wao ni hesabu. Ulimwengu wa teknolojia ambao ni wa haraka sana, usiojali sana, na hatimaye, wazi sana. Ni wakati wa kukua, kulinda misingi yetu, na kisha, basi tu, kuzingatia kwa uangalifu mipaka inayofuata.
##Vyanzo [1] Mustakabali wa Taasisi ya Maisha — Sitisha Majaribio Kubwa ya AI: Barua ya Wazi — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — Wataalamu wa AI watoa wito wa kusitisha uundaji wa mifumo ya hali ya juu ya AI - https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA - Katalogi ya Athari Zilizotumiwa Zinajulikana - https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Ushauri wa Usalama wa Cisco — Cisco Secure Email and Web Manager, Cisco Email Security Appliance, na Cisco Web Security Appliance Appliance – https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Kituo cha Majibu ya Usalama cha Microsoft - Hatari ya Kuongezeka kwa Haki ya Mlinzi wa Microsoft ya Ndani - https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647