Ny AI Vaovao an'ny Emperora, ary ny Fondation Loko ao ambaniny
Tadidinao ve ny fotoana namonjen'i AI antsika rehetra? Raha ny fantatra dia mangataka fe-potoana ny mpamonjy voina. Vao tsy ela akory izay, ireo mpanao mari-trano momba ny hoavintsika entin'ny AI — ireo mpikaroka "frontier" sy ireo lanja mavesatra ara-bola — dia niara-nidona tamin'ny frein, nitaky ny fampihenana ny fampandrosoana noho ny "fisondrotan'ny ahiahy" [1]. Ny tsena, izay fitaovana tsy misy dikany, dia namaly tamin'ny alàlan'ny kohaka: nirodana ny tahiry chip sy ny mpilalao AI lehibe [2]. Beijing, azo inoana fa naneso ny fampitandremana, raha toa kosa ireo goavan'ny chip ao Seoul dia nihemotra tamin'ny fandoavam-bola mialoha ho an'ny fandrosoana AI ho avy [2].
Tsy ady hevitra filozofika ho an'ny tilikambo ivoara fotsiny izany. Fiovan'ny horohoron-tany ity, fanekena ampahibemaso ny tsy fitandremana avy amin'ny sangany amin'ny indostria. Ary raha ny marina, dia somary mety loatra.
Ny fiatoana AI: Altruism sa Power Play?
Aleo hazava: rehefa tonga saina tampoka ireo olona nanamboatra ny balafomanga fa nanadino ny elon'aina taorian'ny fandefasana, dia tsy fotoanan'ny fifohazana etika lalina izany. Fitadiavam-bola efa tara, tsy miraharaha tena. Tsy idealista be maso ireo; Ireo no titans izay nanosika ny pedal ho amin'ny metaly, manenjika ny fitomboana sy ny fanjakazakan'ny tsena. Ankehitriny, miaraka amin'ny vinavinan'ny "vokatra tsy ampoizina" - ary angamba, maneso kokoa, ny fahatsapana fa tsy maharitra ny hafainganam-pandeha amin'izao fotoana izao na mila manamafy orina ny fitarihany izy ireo - dia miantso rivotra iombonana izy ireo.
Malaza ny fihetsiky ny tsena. Tsy tahotra fotsiny ny fidina amin'ny tahirim-bola; momba ny fiantraikany ara-bola eo no ho eo amin'ny mety ho fihemorana. Ny fanosehana an'i Beijing? Famantarana mazava fa ny tombony stratejika nasionaly dia mihoatra ny olana ara-piarovana. Ary mandà ny fandoavam-bola aloha ireo mpanamboatra chip ao Seoul? Izany no feon'ny renivohitra manontany ny fitoniana maharitra sy ny tombom-barotra amin'ny ho avy tsy azo antoka tampoka.
Ho anay, ny CTO sy ny injeniera dia mitarika, izany dia midika mivantana amin'ny tontolo mikorontana. Manantena ny hanafaingana ny fitsabahan'ny lalàna, hanery ny famerenana ny laharam-pahamehana ny tetikasa AI. Maty tamin'ny fomba ofisialy ny etos "mandroso haingana sy manapaka zavatra" ho an'ny AI, nosoloina fikarohana mikoropaka momba ny rafitra "fampivoarana AI etika" izay tokony ho nokarakaraina nanomboka tamin'ny andro voalohany. Hitandrina kokoa ny fampiasam-bola, hihodina ny paikady, ary eny, ny tsenan'ny asa dia hahatsapa ny mangatsiatsiaka satria ny firohondrohon'ny volamena dia manome lalana mankany amin'ny fomba azo refesina kokoa, ary antenaina, tompon'andraikitra kokoa. Fa aoka tsy ho diso ho an'ny altruisme madiodio izany. Ity "pause" ity dia momba ny fanaraha-maso sy ny fanavaozana ny tsena ary ny fiarovana marina.
Raha miady hevitra ny Titans, Mirodana ny Fondation
Ankehitriny, raha manana krizy misy ny AI, miady hevitra momba ny etika momba ny superintelligence amin'ny ho avy, andao hiresaka momba ny krizy fiarovana tena izy, tena misy ary tena loza mitatao *amin'izao fotoana izao.
Tamin'ity herinandro ity, CISA dia nanampy CVE vaovao maro ho an'ny katalaogy fantatra amin'ny vulnerabilities fantatra [3]. Miresaka momba ny RCE iray voamarina ao amin'ny Cisco Secure Email Gateway (CVE-2023-20269) [4], lalana CVSS 10.0 ao amin'ny GitLab (CVE-2023-2825) [3] izahay, ary Chrome zero-day (CVE-2023-4863) vao haingana izay nitaky ny saina.
Fa ny tena kapoka amin'ny tsinainy, izay tokony hahatonga ny mpiasan'ny fiarovana rehetra hikiakiaka ho banga, dia ny fandrahonana tsy tapaka amin'ny lesoka fototra. Diniho ny CVE-2021-1647, vulnerability eo an-toerana amin'ny alàlan'ny Microsoft Defender's Malware Protection Engine [5]. Tsy lesoka tsy fantatra akory izany; nanana Proof-of-Concept ho an'ny daholobe izy io ary nohararaotina am-pahavitrihana tany an'ala, nanasongadina ny fomba mety hidiran'ny singa manan-danja amin'ny fiarovana nomerika ary mijanona ho marefo mandritra ny fotoana fohy.
Avelao hilentika izany. Raha miady hevitra momba ny etika momba ny fahatsapana AI isika, ilay rindrambaiko natao hiarovana ny tohiny, ny sosona fototry ny fiarovana nomerika, dia hita fa misy lesoka fantatra ampahibemaso, nohararaotina mavitrika izay ahafahan'ny mpanafika manandratra tombontsoa. Toy ny miady hevitra momba ny fiantraikan'ny filôzôfika amin'ny fihodinam-bolo raha toa ka tsy mandeha ny frein'ny fiaranao ary mirehitra ny motera.
Ny fanisana: Lafy roa amin'ny vola madinika iray ihany
Tsy tantara misaraka ireo. Izy ireo dia lafiny roa amin'ny vola madinika iray misy lesoka lalina: indostrian'ny teknolojia izay manome laharam-pahamehana tsy tapaka ny hafainganam-pandeha, ny zava-baovao ary ny fanavaozana hita maso noho ny fiarovana fototra, ny fitoniana ary ny andraikitra.
Ny antso tampoka nataon'ireo mpitarika AI ho amin'ny fihemorana dia fiezahana mihetsiketsika sy manolo-tena hanitsy rehefa efa namoaka rafitra matanjaka sy tsy takatry ny saina ho any anaty ala izy ireo. Ekena fa ny mantra "mandroso haingana sy manapaka zavatra", rehefa ampiharina amin'ny teknolojia mety hanova izao tontolo izao, dia tsy hoe tsy tompon'andraikitra fotsiny, fa mampidi-doza.
Ny fanafihana tsy misy andro, indrindra fa ny vulnerability Defender mitsikera, dia vokatra mivantana sy maharary amin'ity toe-tsaina mitovy amin'izany ampiharina amin'ny IT fototra ity. Izany dia vokatry ny kolontsaina izay matetika mihevitra ny fiarovana ho toy ny eritreritra aorian'ny fikatsahana ny fanarahan-dalàna, na ivon-toeram-bola, fa tsy singa iray tsy azo ifanarahana amin'ny vokatra sy rafitra tsirairay. Sahirana be izahay amin'ny fanenjehana ilay zavatra mamirapiratra manaraka—ilay LLM manaraka, ilay mpiasan'ny AI manaraka—hany ka navelanay ho lo ny tany ambanin'ny tongotray.
Ho an'ny CTO sy mpitarika injeniera, ny hafatra dia mazava sy eo no ho eo. Atsaharo ny fanenjehana ny fironana AI rehetra miampita ny sakafonao. Ampitomboy avo roa heny ny fototra. Ataovy laharam-pahamehana ny fametahana, indrindra ho an'ireo vulnerability mitsikera sy trandrahana mavitrika toy ny ao amin'ny Cisco, GitLab, ary ny fandrahonana maharitra nasehon'ireo LPE taloha an'ny Defender. Mampihatra fanalefahana matanjaka. Angataho ny tamberin'andraikitra amin'ny mpivarotra anao amin'ny fiarovana azy ireo, fa tsy ny sori-dalan'izy ireo ihany.
Ny fikorontanan'ny tsena sy ny olana ara-piarovana fototra tsy voavaha dia tsy vaovao fotsiny. Izy ireo dia fanisana. Tontolo teknolojia haingana loatra, tsy miraharaha loatra, ary farany, mibaribary loatra. Fotoana izao mba hihalehibe, hiantoka ny fototra iorenantsika, ary avy eo, * amin'izay fotoana izay ihany, dia diniho tsara ny sisin-tany manaraka.
Loharano
[1] Future of Life Institute - Atsaharo ny fanandramana AI goavam-be: Taratasy misokatra - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC - Miantso fiatoana amin'ny fampivoarana rafitra AI mandroso ny manam-pahaizana AI - https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Katalaogin'ny vulnerabilities fanta-daza trandrahana — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Mpanolo-tsaina momba ny fiarovana Cisco - Mpitantana mailaka sy tranonkala Cisco Secure, Appliance Cisco Email Security, ary vulnerabilities amin'ny Cisco Web Security Appliance - https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Microsoft Security Response Center — Microsoft Defender Local Privilege Escalation Vulnerability — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647