AI Ùr an Impire, agus an Rotting Foundation fodha
Cuimhnich nuair a bha AI a’ dol a shàbhaladh sinn uile? A 'tionndadh a-mach, tha an luchd-saoraidh a-nis ag iarraidh ùine a-mach. Dìreach o chionn ghoirid, bhuail fìor ailtirean ar n-àm ri teachd air a stiùireadh le AI - an luchd-rannsachaidh “crìche” agus cuideaman ionmhais - còmhla air na breicichean, ag iarraidh luasgadh ann an leasachadh air sgàth “draghan sàbhailteachd a’ sìor fhàs” [1]. Fhreagair a ’mhargaidh, a-riamh an ionnstramaid maol, le bhith a’ casadaich sgamhan: thuit stocan chip agus prìomh chluicheadairean AI [2]. Bha Beijing, a rèir coltais, a’ magadh air na rabhaidhean, fhad ‘s a bha fuamhairean chip Seoul a’ dol an sàs ann am pàighidhean ro-làimh airson adhartasan AI san àm ri teachd [2].
Chan e dìreach deasbad feallsanachail a tha seo airson an tùr ìbhri. Is e gluasad seismic a tha seo, aideachadh poblach de neo-chùram bho thaobh a-staigh elite a’ ghnìomhachais. Agus gu fìrinneach, tha e beagan ro ghoireasach.
An AI Pause: Altruism no Power Play?
Biodh sinn soilleir: nuair a thuigeas na daoine a thog an rocaid gu h-obann gun do dhìochuimhnich iad na paraisiut * às deidh * a chuir air bhog, chan e àm de dhùsgadh beusach domhainn a th’ ann. Is e sgrìob neo-sheasmhach, fèin-fhrithealaidh a th’ ann. Chan e sàr-dhaoine le sùilean farsaing a tha seo; is iad sin na titans a tha air a bhith a’ putadh a’ pheadal chun mheatailt, a’ ruith fàs eas-chruthach agus ceannas a’ mhargaidh. A-nis, le bòcan “builean ris nach robh dùil” a’ teannadh gu mòr - agus is dòcha, nas cinntiche, an tuigse nach eil an astar a th’ ann an-dràsta seasmhach no gum feum iad an stiùir a dhaingneachadh - tha iad ag iarraidh anail còmhla.
Tha freagairt a’ mhargaidh ag innse. Chan ann dìreach mu dheidhinn eagal a tha lùghdachadh ann an stoc chip; tha e mu dheidhinn na buaidhean ionmhasail a dh'fhaodadh a bhith aig slaodachadh sa bhad. An tarraing air ais aig Beijing? Comharra soilleir gu bheil buannachd ro-innleachdail nàiseanta a’ toirt buaidh air draghan sàbhailteachd eas-chruthach. Agus luchd-dèanaidh chip Seoul a’ diùltadh pàighidhean ro-làimh? Is e sin fuaim calpa a’ ceasnachadh seasmhachd agus prothaid fad-ùine àm ri teachd gu h-obann mì-chinnteach.
Dhuinne, na CTOn agus stiùirichean innleadaireachd, tha seo ag eadar-theangachadh gu dìreach gu cruth-tìre chaotic. Bi an dùil gun luathaich eadar-theachdan riaghlaidh, a’ toirt air ath-phrìomhachasachadh phròiseactan AI. Tha an fheallsanachd “gluasad gu sgiobalta agus briseadh rudan” airson AI marbh gu h-oifigeil, agus chaidh sgrùdadh fiadhaich a chuir na àite airson frèaman “leasachadh AI beusach” a bu chòir a bhith air am fuine bhon chiad latha. Bidh tasgadh a’ fàs nas fhaiceallaiche, bidh ro-innleachdan ag atharrachadh, agus tha, bidh margaidhean obrach a’ faireachdainn an fhuachd leis gu bheil an luachair òir a’ toirt slighe gu dòigh-obrach nas tomhaiste, agus an dòchas, nas cunntachaile. Ach na dèanamaid mearachd air seo airson fìor altruism. Tha an “stad” seo cho mòr mu dheidhinn smachd agus ath-calibration margaidh ’s a tha e mu shàbhailteachd dha-rìribh.
Fhad ‘s a tha Deasbad Titans, bidh an Stèidheachd a’ crùbadh
A-nis, fhad ‘s a tha an èiginn èiginneach aig an elite AI, a’ deasbad beusachd sàr-fhiosrachadh san àm ri teachd, bruidhnidh sinn mun èiginn tèarainteachd fìor, fìor làthaireach agus uamhasach a tha a ’nochdadh * an-dràsta *.
An t-seachdain seo, chuir CISA grunn CVEn ùra ris a’ chatalog Known Exploited Vulnerabilities [3]. Tha sinn a’ bruidhinn mu dheidhinn freumh RCE dearbhte ann an Geata Post-d Tèarainte Cisco (CVE-2023-20269) [4], slighe slighe CVSS 10.0 ann an GitLab (CVE-2023-2825) [3], agus latha neoni Chrome a chaidh ùrachadh o chionn ghoirid (CVE-2023-4863) [3].
Ach is e am fìor punch gut, am fear a bu chòir toirt air a h-uile proifeasanta tèarainteachd sgreuchail a-steach don bheàrn, an cunnart leantainneach bho lochdan stèidheachaidh. Beachdaich air CVE-2021-1647, so-leòntachd àrdachadh sochair ionadail ann an Einnsean Dìon Malware aig Microsoft Defender [5]. Cha b'e lochd neo-shoilleir a bha so ; bha Dearbhadh-Bun-bheachd poblach aige agus chaidh a chleachdadh gu gnìomhach san dùthaich, a’ soilleireachadh mar a dh’ fhaodadh pàirtean deatamach den dìon didseatach againn a bhith ann an cunnart agus fuireach so-leònte airson ùine.
Leig sin fodha. Fhad ‘s a tha sinn a’ deasbad beusachd faireachdainn AI, thathas air sealltainn gu bheil am bathar-bog a chaidh a dhealbhadh gus ar puingean crìochnachaidh a dhìon, an ìre stèidheachaidh den dìon didseatach againn, a’ caladh lochdan a tha aithnichte gu poblach, air an cleachdadh gu gnìomhach a leigeas le neach-ionnsaigh sochairean àrdachadh. Tha e coltach ri bhith ag argamaid mu na buaidhean feallsanachail a th’ aig dràibhean dlùth fhad ‘s a tha breicichean do chàr a’ fàiligeadh agus an einnsean na theine.
An Cunntas: Dà thaobh den Aon Bhuinn
Chan e sgeulachdan fa leth a tha seo. Tha iad nan dà thaobh den aon bhuinn a tha gu math lochtach: gnìomhachas teignigeach a tha gu cunbhalach air prìomhachas a thoirt do astar, ùr-ghnàthachadh, agus ùr-ghnàthachadh air fhaicinn a thaobh tèarainteachd bunaiteach, seasmhachd agus uallach.
Tha gairm obann stiùirichean AI airson slaodachadh na oidhirp reactive, fèin-fhrithealaidh gus cùrsa a cheartachadh * às deidh * tha iad mu thràth air siostaman cumhachdach, nach eil air an tuigsinn gu math, a sgaoileadh a-steach don fhàsach. Tha e na aideachadh gu bheil am mantra “gluasad gu sgiobalta agus briseadh rudan”, nuair a thèid a chuir an sàs ann an teicneòlas a dh’ fhaodadh atharrachadh gu cruinne, chan e a-mhàin neo-chùramach, ach cunnartach.
Is e an marbhadh latha neoni, gu sònraichte so-leòntachd èiginneach an Neach-dìon, a’ bhuaidh dhìreach, dòrainneach a tha aig an aon bheachd-smuain seo air IT stèidheachaidh. Tha e mar thoradh air cultar a bhios gu tric a’ làimhseachadh tèarainteachd mar iar-bheachd, bogsa sgrùdaidh gèillidh, no ionad cosgais, seach pàirt riatanach, nach gabh a cho-rèiteachadh de gach toradh agus siostam. Tha sinn cho trang a’ ruith an ath rud gleansach - an ath LLM, an ath àidseant AI - gun do leig sinn leis an fhìor thalamh fo ar casan grodadh.
Airson CTOn agus stiùirichean innleadaireachd, tha an teachdaireachd làidir agus sa bhad. Stad le bhith a’ ruith a h-uile gluasad AI a thèid tarsainn air do bhiadhadh. Dèan dùbailte sìos air na bunaitean. Prìomhachas a thoirt do bhreacadh, gu h-àraidh airson so-leòntachd èiginneach, gnìomhach mar an fheadhainn ann an Cisco, GitLab, agus an cunnart leantainneach a tha air a nochdadh le LPEn Defender san àm a dh'fhalbh. Cuir an gnìomh lasachaidhean làidir. Iarr cunntachalachd bho na reiceadairean agad airson an suidheachadh tèarainteachd, chan e dìreach am mapa-rathaid feart aca.
Chan e dìreach naidheachdan a th’ ann an tuiteam a’ mhargaidh agus cùisean tèarainteachd stèidheachaidh nach deach dèiligeadh riutha. Tha iad nan cunntas. Saoghal teignigeach a tha ro luath, ro neo-chùramach, agus mu dheireadh, ro fhosgailte. Tha an t-àm ann fàs suas, ar bunaitean a dhaingneachadh, agus an dèigh sin, s a mhàin an uair sin, beachdachadh gu cùramach air an ath chrìch.
Stòran
[1] Institiud Beatha san àm ri teachd - Cuir stad air deuchainnean mòra AI: Litir Fhosgailte - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC - Tha eòlaichean AI ag iarraidh stad ann an leasachadh siostaman adhartach AI - https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA - Catalog So-leòntachd a tha aithnichte - https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Comhairle Tèarainteachd Cisco - Post-d tèarainte agus Manaidsear Lìn Cisco, Inneal Tèarainteachd Post-d Cisco, agus So-leòntachd Innealan Tèarainteachd Lìn Cisco - https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Ionad Freagairt Tèarainteachd Microsoft - So-leòntachd àrdachadh sochair ionadail Microsoft Defender - https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647