Kupungua kwa kasi kwa AI ni Bughudha. Nyumba yako inawaka Moto.
Wacha tuseme ukweli: tasnia ya teknolojia hatimaye ina wakati wake wa "njoo kwa Yesu" na AI, lakini inahisi chini ya toba ya kweli na zaidi kama mhimili wa kimkakati. Ghafla, wasanifu wa mbio hizi za AI - watafiti mashuhuri na wafadhili ambao walifadhili mbio zao za kasi za kafeini - wanatoa wito wa kupungua [1]. Wanazungumza kuhusu "utawala wa ndani," "mfumo wa maadili," na kasi ya "makusudi zaidi". Na soko, ambalo ni kipimo nyeti, tayari limejibu, kukiwa na wasiwasi kuhusu uendelevu wa uwekezaji wa AI unaosababisha tete katika hifadhi za chip [2].
Hii si kanuni ya nje; ni "mstari wa makosa" wa ndani unaojitokeza kutoka ndani ya mfumo ikolojia wa AI yenyewe. Na wakati C-suite inajadili athari za kifalsafa za ubunifu wao wa siku zijazo, sasa inawaka kikamilifu.
Sitisha Inayofaa
Fikiria wakati. Kwa miaka mingi, mantra imekuwa "kusonga haraka na kuvunja vitu," au hivi karibuni zaidi, "songa haraka na ujenge AGI." Sasa, kukiwa na miundo yenye nguvu ambayo tayari imetumwa, huku mazingira ya ushindani yakifafanuliwa kwa kiasi kikubwa, na huku kukiwa na wasiwasi wa kanuni halisi, yenye maana inayokuja, wito wa tahadhari hausikiki. Je, huu ni mwamko wa kweli kwa hatari kubwa, au ujanja uliokokotolewa wa kuunganisha mamlaka, kupunguza kasi ya washindani, na kudhibiti mitazamo ya umma kabla ya uma?
Ni rahisi kuhubiri tahadhari wakati tayari umejikita sokoni kwa kukokotoa, talanta na miundo msingi. Mtazamo wa ghafla wa tasnia kwenye "tathmini upya ya ramani za bidhaa, tathmini za hatari, na upangaji wa kimkakati" unasikika kuwa mzuri, lakini pia inaonekana kama njia rahisi ya kupanga tena rasilimali. Hili linaweza kupunguza kasi ya mbadala za programu huria au wachezaji wadogo ambao wanaweza kuwapa changamoto wakubwa walioanzishwa kwa kudhibiti ufikiaji wa rasilimali muhimu au kuathiri mifumo ya udhibiti. "Mfumo wa kimaadili" ni muhimu kwa ghafla, si wakati wanamitindo walipokuwa wakifunzwa kuhusu data iliyofutwa, lakini kwa kuwa sasa wana uwezo wa kutosha kuunda upya jamii.
Wasiwasi uliotolewa ndani ya jumuiya za kitaaluma na kisayansi, kuonya kwamba "suluhisho" za AI za kufungua matatizo zinaweza kutishia uadilifu wa nyanja zao [3], ni kiashirio tosha cha kina cha wasiwasi huu wa ndani. Lakini tusikose hii kwa kujitolea. Hii haihusu athari za AI kwenye kazi au miundombinu; inahusu kudhibiti - ni nani anayeitumia, na kwa kasi gani. Mjadala ni mdogo kuhusu "tunapaswa kuijenga?" na zaidi kuhusu "nani anapata kuamua jinsi ya haraka sisi kujenga, na ambao faida?"
Wanapojadili Wakati Ujao, Uwasilishaji Wako Umeathiriwa
Sasa, hebu tuangazie wasiwasi wa kidhahania, wa kutazama siku za usoni wa mpasuko wa ndani wa AI hadi shida ya papo hapo, inayoonekana inayoendelea kwenye mitandao yetu sasa hivi. Wakati magwiji wa AI wanatafakari roho ya mashine zao, timu zako za uendeshaji zinajitahidi kudhibiti janga kamili la usalama wa mtandao.
Hatuzungumzii kuhusu vitisho vya kinadharia au mitindo ya jumla. Tunazungumza juu ya udhaifu uliotumiwa kwa siku sifuri katika programu ya msingi ya biashara, kugonga miundombinu muhimu kwa nguvu ya nyundo.
- Ivanti Connect Secure and Policy Secure (CVE-2023-46805 & CVE-2024-21887): Hili si kosa tu; ni jeraha la pengo. Athari hizi katika VPN ya Ivanti na suluhu za ufikiaji wa mtandao zimetumiwa kikamilifu, na kuruhusu wavamizi kukwepa uthibitishaji na kutekeleza amri za mbali. CISA imetoa maonyo mengi, ikionyesha hatari kubwa kwa mashirika yanayotegemea mifumo hii kwa ufikiaji salama wa mbali [4]. Ulinzi wako wa msingi wa mtandao, jambo moja unalotegemea kukomesha watu wabaya kwenye lango, linatumiwa kikamilifu ili kuwapa washambuliaji ufikiaji wa kina kwa mitandao mingi ya biashara.
- Cisco IOS XE Web UI (CVE-2023-20198): Ukali wa juu zaidi. Imenyonywa kikamilifu. Athari hii inawaruhusu washambuliaji ambao hawajaidhinishwa kuunda akaunti zisizo maalum na kupata udhibiti kamili wa vifaa vilivyoathiriwa vya Cisco IOS XE. Ikiwa mshambuliaji anamiliki ndege ya usimamizi wa miundombinu ya mtandao wako, anamiliki mtandao wako wote. Mchezo zaidi ya [5].
CISA haitoi "maonyo" kwa kujifurahisha; wanapiga kelele "moto" katika ukumbi wa michezo uliojaa watu. Hivi si vitisho vya kinadharia tu; zinatumika kikamilifu kuhatarisha ulinzi na mifumo ya usimamizi katika biashara za kimataifa.
Mstari Halisi wa Makosa
Kejeli ni nene sana unaweza kuikata kwa kisu kisicho. Kwa upande mmoja, tuna wasomi wa AI wanaojadili athari za kimaadili za siku za usoni ambazo bado wanaunda, na kutoa wito wa kupungua kwa kasi baada ya miaka ya kasi isiyodhibitiwa. Kwa upande mwingine, tuna tishio la papo hapo la teknolojia yetu ya msingi ya sasa inayosambaratika chini ya udhaifu ambao haujashughulikiwa na ambao haujarekebishwa.
"Mstari wa makosa" halisi sio tu ndani ya jumuiya ya AI; ni kati ya mnara wa uvumbuzi wa pembe za ndovu na mitaro ya ukweli wa utendaji. Ni kati ya mijadala ya kidhahania, inayolenga siku zijazo ya "kujidhibiti" kwa AI na hitaji la haraka na thabiti la usalama halisi na uthabiti katika mifumo tunayoitegemea leo.
Kama CTO na uhandisi inavyoongoza, hatuwezi kumudu kuvurugwa na mijadala ya kifalsafa ya kushuka kwa AI. Ingawa majadiliano hayo ni muhimu kwa muda mrefu, ni anasa wakati nyumba yako inawaka moto. "Tathmini upya ya ramani za bidhaa" inapaswa kuanza na kuboresha misingi inayoporomoka ya miundombinu yetu iliyopo. "Tathmini za hatari" zinahitaji kutanguliza matishio ya mara moja, yanayotumiwa kikamilifu ambayo yanahatarisha mwendelezo wa utendakazi na uadilifu wa data leo.
Vipaumbele vya sekta hiyo vimepotoshwa. Tunaunda vitu kwa haraka na vyema zaidi kwenye msingi unaooza. Wito wa kupunguza kasi ya AI inaweza kuwa mazungumzo ya lazima, lakini kwa sisi tulio chini, tunashughulikia siku sifuri za Ivanti na Cisco, inahisi kama kujadili rangi ya mapazia wakati paa linaingia. Zingatia sasa. Wakati ujao unaweza kusubiri hadi tusivuje damu.
##Vyanzo [1] Barua ya Wazi ya Kusitisha Majaribio Kubwa ya AI - https://futureoflife.org/open-letter-pause-ai-development/ [2] Hisa za AI zinaongezeka, lakini wawekezaji wengine wanapata wasiwasi - https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Mapinduzi ya AI katika sayansi: ahadi na hatari - https://www.nature.com/articles/d41586-023-03223-y [4] Tishio Waigizaji Wanaotumia Ivanti Connect Secure na Ivanti Policy Secure Vulnerabilities - https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Tishio la Waigizaji Wanaotumia Athari za UI ya Programu ya Cisco IOS XE - https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a