AI Nua an Impire, agus an Fhondúireacht Lobhadh faoina bhun
Cuimhnigh nuair a bhí AI chun sinn go léir a shábháil? Casadh amach, tá na Saviors anois ag iarraidh ar am istigh. Díreach le déanaí, bhuail na hailtirí ar ár dtodhchaí AI-tiomáinte - na taighdeoirí "teorann" agus meáchain throma airgeadais - na coscáin le chéile, ag éileamh luasmhoillithe i bhforbairt mar gheall ar "imní sábháilteachta atá ag méadú" [1]. D'fhreagair an margadh, an ionstraim mhaol riamh, trí scamhóg a chasacht: thit stoic sliseanna agus príomh-imreoirí AI [2]. Béising, intuartha, scoffed ag na rabhaidh, agus giants sliseanna Seoul balked ag íocaíochtaí tosaigh le haghaidh airleacan AI sa todhchaí [2].
Ní hamháin gur díospóireacht fealsúnach é seo don túr eabhair. Is athrú seismeach é seo, admháil phoiblí meargánta ó laistigh de mionlach an tionscail. Agus frankly, tá sé beagán ró-áisiúil.
An Sos AI: Altrúchas nó Súgradh Cumhachta?
Bígí soiléir: nuair a thuigeann na daoine a thóg an roicéad go tobann go ndearna siad dearmad ar na paraisiúiteanna tar éis seoladh, ní nóiméad múscailte eiticiúil domhain é. Tá sé ina scramble belated, féin-freastal. Ní hidéil leathan-eyed iad seo; is iad seo na titans a bhí ag brú an chos go dtí an miotal, ag leanúint ar aghaidh le fás easpónantúil agus ceannasacht an mhargaidh. Anois, agus na “iarmhairtí gan choinne” ag teacht chun cinn go mór—agus b’fhéidir, níos sinsearaí, an tuiscint nach bhfuil an luas reatha inbhuanaithe nó go gcaithfidh siad a dtosaíocht a chomhdhlúthú—tá siad ag iarraidh anáil chomhchoiteann.
Tá imoibriú an mhargaidh ag insint. Ní hamháin go bhfuil faitíos ar stoic sceallóga; baineann sé leis na himpleachtaí airgeadais láithreacha a d'fhéadfadh a bheith ag moilliú. pushback Beijing? Comhartha soiléir go gcuireann buntáiste straitéiseach náisiúnta isteach ar imní teibí sábháilteachta. Agus lucht déanta sliseanna Seoul ag diúltú íocaíochtaí tosaigh? Sin fuaim an chaipitil a cheistíonn cobhsaíocht agus brabúsacht fadtéarmach todhchaí neamhchinnte.
Maidir linne, na CTOnna agus na ceannairí innealtóireachta, aistríonn sé seo go díreach isteach i dtírdhreach chaotic. Bí ag súil go dtiocfaidh dlús le hidirghabhálacha rialála, rud a chuirfidh iachall ar thionscadail AI a chur in ord tosaíochta. Tá an t-éiteas "bogadh go tapa agus rudaí a bhriseadh" do AI marbh go hoifigiúil, agus ina ionad sin tá cuardach frantic le haghaidh creataí "forbairt AI eiticiúil" ar chóir a bheith bácáilte isteach ón gcéad lá. Éireoidh infheistíocht níos airdeallaí, beidh straitéisí ag dul chun cinn, agus beidh, beidh an fuarú ar na margaí fostaíochta de réir mar a thabharfaidh an luaith óir slí do chur chuige níos tomhaiste, agus tá súil againn, níos freagraí. Ach ná déanaimis é seo a dhearmad mar altrúchas glan. Baineann an "sos" seo chomh mór le rialú agus le hathchalabrú an mhargaidh agus atá sé maidir le fíorshábháilteacht.
Cé go bhfuil Díospóireacht Titans, an Fhondúireacht ag dul i léig
Anois, cé go bhfuil géarchéim eisitheach ag mionlach AI, agus iad ag plé eitic na feitheoireachta amach anseo, déanaimis labhairt faoin ngéarchéim slándála atá fíor-fhíor, an-láthair agus tubaisteach atá ag tarlú * faoi láthair*.
An tseachtain seo, chuir CISA iliomad CVEanna nua lena chatalóg Known Exploited Vulnerabilities [3]. Táimid ag caint faoi fhréamh RCE deimhnithe i gCeata Ríomhphoist Slán Cisco (CVE-2023-20269) [4], trasnú cosán CVSS 10.0 i GitLab (CVE-2023-2825) [3], agus lá nialais Chrome paiste le déanaí (CVE-2023-4863) [3] a d’éiligh aird láithreach.
Ach is bagairt leanúnach na lochtanna bunúsacha é an fíor-phunc gut, an ceann ba cheart do gach gairmí slándála a screadaíl isteach sa bhfolús. Smaoinigh ar CVE-2021-1647, leochaileacht um ardú pribhléid áitiúil in Inneall Cosanta Malware Microsoft Defender [5]. Ní raibh sé seo roinnt locht doiléir; bhí Cruthúnas Coincheapa poiblí aige agus baineadh leas gníomhach as san fhiántas, ag léiriú conas is féidir comhpháirteanna ríthábhachtacha dár gcosaint dhigiteach a chur i mbaol agus fanacht i mbaol ar feadh tréimhse.
Lig sin isteach. Agus muid ag déanamh díospóireachta ar eitic na mothúchán AI, léiríodh go bhfuil lochtanna ar eolas go poiblí agus a shaothraítear go gníomhach ag na bogearraí féin atá deartha chun ár gcríochphointí a chosaint, an ciseal bunsraithe dár gcosaint dhigiteach, a ligeann d’ionsaitheoir pribhléidí a ardú. Tá sé cosúil le bheith ag argóint faoi na himpleachtaí fealsúnacha a bhaineann le tiomáint dlúith fad is atá coscáin do charr ag teip agus an t-inneall trí thine.
An Áireamh: Dhá thaobh den Bhoinn Chéanna
Ní scéalta ar leith iad seo. Is dhá thaobh iad den bhoinn chéanna atá lochtach go domhain: tionscal teicneolaíochta a thug tús áite go comhsheasmhach do luas, d’úrscéalta, agus do nuálaíocht braite thar slándáil bhunúsach, cobhsaíocht agus freagracht.
Iarracht fhrithghníomhach, fhéinfhreastail é glaoch tobann na gceannairí AI ar mhoilliú chun cúrsa a cheartú i ndiaidh tá siad tar éis córais chumhachtacha nach bhfuil tuiscint mhaith acu a scaoileadh isteach san fhiántas cheana féin. Is admháil é nach bhfuil an mantra "bogadh go tapa agus rudaí a bhriseadh", nuair a chuirtear i bhfeidhm é ar theicneolaíocht a d'fhéadfadh a bheith ina athrú domhanda, díreach mífhreagrach, ach contúirteach.
Iarmhairt dhíreach, phianmhar na meon céanna a chuirtear i bhfeidhm ar TF bhunúsach is ea an marbhadh lá nialasach, go háirithe leochaileacht ríthábhachtach an Chosantóra. Is toradh é ar chultúr a dhéileálann le slándáil go minic mar iar-smaoineamh, mar bhosca seiceála um chomhlíonadh, nó mar ionad costais, seachas mar chomhpháirt dhílis, neamh-idirbheartaithe de gach táirge agus córas ar leith. Táimid chomh gnóthach sin sa tóir ar an gcéad rud lonrach eile - an chéad LLM eile, an chéad ghníomhaire AI eile - gur ligeamar don talamh faoinár gcosa lobhadh.
Maidir le CTOanna agus ceannairí innealtóireachta, tá an teachtaireacht lom agus láithreach. Stop sa tóir ar gach treocht AI a thrasnaíonn do bheatha. Dúbailte síos ar na bunúsacha. Tabhair tosaíocht do bhreacadh, go háirithe do leochaileachtaí ríthábhachtacha a shaothraítear go gníomhach mar iad siúd in Cisco, GitLab, agus an bhagairt leanúnach a léirítear i LPEanna na gCosantóirí san am a chuaigh thart. Maoluithe láidre a chur i bhfeidhm. Éileamh cuntasacht ó do dhíoltóirí as a staidiúir slándála, ní hamháin a ngné-treochlár.
Ní míreanna nuachta amháin atá i gcruachás an mhargaidh agus na saincheisteanna slándála bunúsacha nach dtugtar aghaidh orthu. Tá siad ina ríomh. Domhan teicneolaíochta atá ró-ghasta, ró-mheargánta, agus ar deireadh, ró-nochta. Tá sé in am againn fás aníos, ár mbunsraith a dhaingniú, agus ansin, ansin amháin, smaoineamh go cúramach ar an gcéad teorainn eile.
Foinsí
[1] Institiúid Todhchaí na Beatha - Cuir Turgnaimh Ollmhór AI ar sos: Litir Oscailte - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — Iarrann saineolaithe AI go gcuirfí sos i bhforbairt ardchórais AI — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Catalóg Aitheanta Leochaileachtaí Saothraithe — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Council — Cisco Bainisteoir Ríomhphost agus Gréasáin Slán, Fearas Slándála Ríomhphoist Cisco, agus Leochaileachtaí Fearais Slándála Gréasáin Cisco — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Lárionad Freagartha Slándála Microsoft - Leochaileacht Ardaithe Pribhléid Áitiúil Microsoft Defender - https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647