Hêdîbûna AI-ê Xemgîniyek e. Mala we dişewite.
Werin em zelal bin: pîşesaziya teknolojiyê di dawiyê de bi AI-ê re dema xwe ya "hatina Jesussa" derbas dike, lê ew kêmtir wekî tobeyek rastîn û bêtir wekî xalek stratejîk hîs dike. Ji nişkê ve, mîmarên vê pêşbaziya AI-ya şikestî - lêkolînerên navdar û fînanserên ku spartekên xwe yên bi kafeîn fînanse kirin - banga hêdîbûnê dikin [1]. Ew li ser "rêveberiya navxweyî", "çarçoveyên exlaqî" û lezek "bi zanebûn" diaxivin. Û sûk, her dem barometreya hesas, jixwe bertek nîşan daye, bi fikarên di derbarê domdariya veberhênanên AI-ê de ku dibe sedema bêserûberiya stokên çîpê [2].
Ev ne rêziknameya derve ye; ew "xetek xelet" a hundurîn e ku ji hundurê ekosîstema AI bixwe derdikeve. Û dema ku C-suite encamên felsefî yên afirandinên wan ên paşerojê nîqaş dike, ya niha bi rengek çalak dişewite.
Rawestana Hêsan
Demjimêr bifikirin. Bi salan, mantra "zû tevbigerin û tiştan bişkînin", an jî herî dawî, "bi lez tevbigerin û AGI ava bikin." Naha, digel modelên hêzdar ên ku jixwe hatine bicîh kirin, digel perestgeha pêşbaziyê ku bi gelemperî hatî destnîşan kirin, û digel ku xeyala rêziknameya rastîn, watedar xuya dike, bangên hişyariyê hinekî qul dikin. Ma ev şiyarbûnek rastîn a xetereyên kûr e, an manevrayek hesabkirî ye ku hêzê xurt bike, hevrikan hêdî bike, û têgihîştina gel birêve bibe berî ku çîtikan derkevin?
Gava ku we berê xwe da sûkê li ser hesab, jêhatî û modelên bingehîn guheztina hişyariyê hêsan e. Balkêşiya ji nişka ve pîşesaziyê li ser "ji nû ve nirxandina nexşeyên rêyên hilberan, nirxandinên xetereyê, û plansaziya stratejîk" xweş xuya dike, lê ew di heman demê de wekî rêgezek hêsan xuya dike ku ji nû ve lihevkirina çavkaniyan. Ev potansiyel dikare alternatîfên çavkaniya vekirî an lîstikvanên piçûktir ên ku dibe ku bi kontrolkirina gihîştina çavkaniyên bingehîn an bandorkirina çarçoweyên birêkûpêk ve girêkên damezrandî bitewînin hêdî bike. "Çarçoveya exlaqî" ji nişka ve herî girîng e, ne dema ku model li ser daneyên şikestî dihatin perwerde kirin, lê naha ku ew têra xwe bi hêz in ku bi rastî civakê ji nû ve şekil bikin.
Xemgîniyên ku di nav civakên akademîk û zanistî de têne gotin, hişyarî didin ku "çareseriyên" AI-ê ji bo pirsgirêkên vekirî dikare yekparebûna qadên wan tehdîd bike [3], nîşanek berbiçav a kûrahiya vê xema hundurîn e. Lê bila em vê yekê bi altruîzmê şaş nekin. Ev ne li ser bandora AI-ê ya li ser kar an binesaziyê ye; ew li ser kontrolê ye - kî wê bi dest dixe, û bi çi lezê. Nîqaş li ser "gelo em wê ava bikin?" û bêtir li ser "kî biryarê dide ka em çiqas bilez wê ava bikin, û kî sûd werdigire?"
Dema ku Ew Pêşerojê Nîqaş dikin, Aniha We Lihevhatî ye
Naha, bila em ji fikarên razber, paşerojê yên şikestina navxweyî ya AI-ê berbi qeyrana tavilê, berbiçav a ku li ser torên me niha vedibe, bizivirin. Dema ku tîtanên AI-ê li giyanê makîneyên xwe dihizirin, tîmên weya xebitandinê hewl didin ku felaketek ewlekariya sîberê ya tev-tevlihev pêk bînin.
Em behsa tehdîdên teorîk an meylên giştî nakin. Em di nermalava pargîdaniya bingehîn de li ser qelsiyên zero-rojê yên çalak hatine îstîsmar kirin, ku bi hêza pêlekê li binesaziya krîtîk dixe.
- Ivanti Connect Secure and Policy Secure (CVE-2023-46805 & CVE-2024-21887): Ev ne tenê xeletiyek e; ew birîneke gemar e. Van qelsiyên di VPN-ya Ivanti û çareseriyên gihîştina torê de bi rengek çalak hatine bikar anîn, ku dihêlin êrîşkar ji rastrastkirinê dûr bixin û fermanên dûr bicîh bînin. CISA gelek hişyarî daye, xetereya krîtîk ji bo rêxistinên ku xwe dispêrin van pergalan ji bo gihîştina ji dûr ve ewledar in [4]. Parastina tora weya bingehîn, yek tiştê ku hûn pê ve girêdayî ne ku merivên xirab li ber derî rawestînin, bi rengek çalak tê îstismar kirin da ku êrîşkaran bigihîjin kûr toreyên pargîdanî yên bêhejmar.
- ** Cisco IOS XE Web UI (CVE-2023-20198): ** Zehmetiya herî zêde. Bi awayekî aktîf îstîsmar kirin. Ev qelsî dihêle ku êrişkerên nenaskirî hesabên îmtiyazê biafirînin û kontrola tam li ser cîhazên Cisco IOS XE yên bandorkirî bistînin. Ger êrîşkar xwediyê balafira rêveberiya binesaziya tora we be, ew xwediyê tevaya tora we ye. Lîstik ser [5].
CISA ji bo kêfê "hişyaran" nade; ew di şanoya qelebalix de "agir" diqîrin. Ev ne tenê tehdîdên teorîk in; ew bi çalak têne bikar anîn da ku li seranserê pargîdaniyên gerdûnî berevanî û pergalên rêveberiyê yên bingehîn lihev bikin.
Xeta Xeletiya Rastî
Îroniya ew qas stûr e ku hûn dikarin wê bi kêrê lal bibirrin. Ji aliyek ve, me elîta AI heye ku li ser encamên exlaqî yên pêşerojek ku ew hîn jî ava dikin nîqaş dikin, û banga hêdîbûnek piştî bi salan bilezkirina bêserûber dike. Ji hêla din ve, me xetera heyî, tavilê ya teknolojiya bingehîn a niha me heye ku bi rengekî çalak di bin giraniya qelsiyên nenaskirî, bêserûber de têk diçe.
"Xeta xelet" ya rastîn ne tenê di nav civata AI-ê de ye; ew di navbera birca fîlî ya nûbûnê û xendekên rastiya xebitandinê de ye. Ew di navbera nîqaşên razber, paşerojê yên "xwe-rêvebirinê" ji bo AI-yê û hewcedariya bilez, berbiçav a ewlekarî û aramiya rastî di pergalên ku em îro pê ve girêdayî ne.
Ji ber ku CTO û endezyariyê rêve dibin, em nikarin ji nîqaşên felsefî yên hêdîbûna AI-ê aciz bibin. Digel ku ew nîqaş ji bo demek dirêj girîng in, dema ku xaniyê we bi rengek çalak dişewite ew luks in. Divê "ji nû ve nirxandina nexşeyên rêyên hilberê" bi xurtkirina bingehên hilweşandî yên binesaziya meya heyî dest pê bike. "Nirxandinên xetereyê" pêdivî ye ku pêşî li gefên tavilê, yên ku bi rengek çalak têne bikar anîn, ku domdariya xebitandinê û yekparebûna daneyê îro tawîz dikin bidin.
Pêşniyarên pîşesaziyê şaş in. Em li ser bingehek ku bi rengekî çalak dirize, tiştên bileztir û bibiriqî ava dikin. Banga ji bo hêdîbûna AI-ê dibe ku axaftinek pêdivî be, lê ji bo yên me yên li ser erdê, ku bi rojên zero-rojên Ivanti û Cisco re mijûl dibin, dema ku ban tê hundurê nîqaşkirina rengê perdeyan hîs dike. Bala xwe bidin ser dema niha. Pêşeroj dikare li bendê bimîne heya ku em bi rengek çalak xwîn nebin.
Çavkanî
[1] Nameyek Vekirî Ji bo Rawestandina Ceribandinên Giant AI - https://futureoflife.org/open-letter-pause-ai-development/ [2] Pargîdaniyên AI bilind dibin, lê hin veberhêner aciz dibin - https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Şoreşa AI-ê di zanistiyê de: soz û xeter - https://www.nature.com/articles/d41586-023-03223-y [4] Aktorên Tehdîdê Kêmasiyên Ewle yên Ivanti Connect Secure û Siyaseta Ivanti Bikaranîn - https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Aktorên Tehdîdê Xerabiya Nermalava Web UI ya Cisco IOS XE Kifş dikin — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a