The Emperor's New AI, and the Rotting Foundation Beneath It
Հիշո՞ւմ եք, երբ AI-ն պատրաստվում էր փրկել մեզ բոլորիս: Պարզվում է, որ փրկիչներն այժմ թայմաուտ են խնդրում: Հենց վերջերս, մեր AI-ի վրա հիմնված ապագայի ճարտարապետները՝ «սահմանային» հետազոտողները և ֆինանսական ծանր կշիռները, միասնաբար հարվածեցին արգելակներին՝ պահանջելով դանդաղեցնել զարգացումը «անվտանգության աճող մտահոգությունների» պատճառով [1]: Շուկան, երբևէ բութ գործիքը, արձագանքեց թոքերը հազալով. չիպերի բաժնետոմսերը և AI խոշոր խաղացողները անկում ապրեցին [2]: Պեկինը, կանխատեսելիորեն, ծաղրեց նախազգուշացումները, մինչդեռ Սեուլի չիպերի հսկաները հրաժարվեցին կանխավճարներից ապագա AI-ի առաջխաղացումների համար [2]:
Սա միայն փղոսկրյա աշտարակի փիլիսոփայական բանավեճ չէ: Սա սեյսմիկ տեղաշարժ է, արդյունաբերության էլիտայի ներսում անխոհեմության հրապարակային ընդունում: Եվ անկեղծ ասած, դա մի փոքր չափազանց հարմար է:
AI դադար. ալտրուիզմ, թե՞ ուժային խաղ:
Եկեք պարզ լինենք. երբ հրթիռը կառուցած մարդիկ հանկարծ հասկանում են, որ մոռացել են պարաշյուտները արձակումից հետո, դա խորը էթիկական զարթոնքի պահ չէ: Դա ուշացած, ինքնասպասարկման կռիվ է: Սրանք բաց աչքերով իդեալիստներ չեն. սրանք այն տիտաններն են, ովքեր ոտնակը մղում էին դեպի մետաղը, հետապնդելով էքսպոնենցիոնալ աճ և շուկայի գերակայություն: Այժմ, երբ «անկանխատեսելի հետևանքների» ուրվականը մեծ է, և, հավանաբար, ավելի ցինիկորեն, գիտակցումը, որ ներկայիս տեմպերը անկայուն են կամ որ իրենք պետք է ամրապնդեն իրենց առաջատարությունը, նրանք կոչ են անում հավաքական շունչ քաշել:
Շուկայի արձագանքը խոսուն է. Չիպերի բաժնետոմսերի նվազումը միայն վախի պատճառով չէ. խոսքը պոտենցիալ դանդաղման անմիջական ֆինանսական հետեւանքների մասին է: Պեկինի հակահարվածը. Հստակ ազդանշան, որ ազգային ռազմավարական առավելությունը գերազանցում է անվտանգության վերացական մտահոգությունները: Իսկ Սեուլի չիպեր արտադրողները հրաժարվո՞ւմ են կանխավճարներից: Սա այն ձայնն է, երբ կապիտալը կասկածի տակ է դնում հանկարծակի անորոշ ապագայի երկարաժամկետ կայունությունն ու շահութաբերությունը:
Մեզ համար՝ CTO-ների և ինժեներական առաջատարների համար, սա ուղղակիորեն վերածվում է քաոսային լանդշաֆտի: Ակնկալում են, որ կարգավորող միջամտություններն արագանան՝ ստիպելով AI նախագծերի վերաառաջնահերթությունը: Արհեստական ինտելեկտի «արագ շարժվեք և կոտրեք բաները» էթոսը պաշտոնապես մեռած է, փոխարինվելով «էթիկական արհեստական ինտելեկտի զարգացման» շրջանակների կատաղի որոնմամբ, որոնք պետք է ստեղծվեին առաջին իսկ օրվանից: Ներդրումները կդառնան ավելի զգույշ, ռազմավարությունները կշրջվեն, և այո, աշխատանքի շուկաները կզգան սառը, քանի որ ոսկու տենդն իր տեղը զիջում է ավելի չափված և, հուսանք, ավելի պատասխանատու մոտեցմանը: Բայց սա չշփոթենք զուտ ալտրուիզմի հետ: Այս «դադարը» վերաբերում է նույնքան վերահսկողության և շուկայի վերահաշվառման, որքան իրական անվտանգությանը:
Մինչ տիտանների բանավեճը, հիմնադրամը քանդվում է
Այժմ, մինչ արհեստական ինտելեկտի էլիտան ապրում է իր էկզիստենցիալ ճգնաժամը, բանավիճում է ապագա գերհետախուզության էթիկայի մասին, եկեք խոսենք իրական, շատ ներկա և բացարձակապես աղետալի անվտանգության ճգնաժամի մասին, որը ծավալվում է հենց հիմա:
Այս շաբաթ CISA-ն ավելացրել է մի քանի նոր CVE-ներ իր հայտնի շահագործվող խոցելիությունների կատալոգում [3]: Մենք խոսում ենք հաստատված արմատային RCE-ի մասին Cisco Secure Email Gateway-ում (CVE-2023-20269) [4], CVSS 10.0 ուղու անցման մասին GitLab-ում (CVE-2023-2825) [3] և վերջերս կարկատված Chrome-ի զրոյական օր (3-4-862) ուշադրության կենտրոնում (CVE-20):
Բայց իրական փորոտիք հարվածը, որը պետք է ստիպեց անվտանգության յուրաքանչյուր մասնագետի ճչալ դեպի դատարկություն, հիմնարար թերությունների մշտական սպառնալիքն է: Դիտարկենք CVE-2021-1647-ը՝ Microsoft Defender-ի չարամիտ պաշտպանության շարժիչի տեղական արտոնությունների ընդլայնման խոցելիությունը [5]: Սա ինչ-որ անհասկանալի թերություն չէր. այն ուներ հայեցակարգի հանրային ապացույց և ակտիվորեն շահագործվում էր վայրի բնության մեջ՝ ընդգծելով, թե ինչպես կարող են մեր թվային պաշտպանության կարևոր բաղադրիչները վտանգվել և խոցելի մնալ որոշակի ժամանակահատվածում:
Թույլ տվեք, որ դա խորտակվի: Մինչ մենք քննարկում ենք AI-ի էթիկայի մասին, ցույց է տրվել, որ հենց այն ծրագրաշարը, որը նախատեսված է պաշտպանելու մեր վերջնակետերը, մեր թվային պաշտպանության հիմնարար շերտը, պարունակում է հանրությանը հայտնի, ակտիվորեն շահագործվող թերություններ, որոնք հարձակվողին թույլ են տալիս բարձրացնել արտոնությունները: Դա նման է վիճաբանությանը Warp Drive-ի փիլիսոփայական հետևանքների մասին, երբ ձեր մեքենայի արգելակները խափանվում են, և շարժիչը վառվում է:
Հաշվարկ. Նույն մետաղադրամի երկու կողմերը
Սրանք առանձին պատմություններ չեն: Դրանք նույն խորապես արատավոր մետաղադրամի երկու կողմերն են. տեխնոլոգիական արդյունաբերություն, որը հետևողականորեն առաջնահերթություն է տվել արագությանը, նորությանը և ընկալվող նորարարությանը, քան հիմնարար անվտանգությանը, կայունությանը և պատասխանատվությունին:
Արհեստական ինտելեկտի առաջնորդների դանդաղեցման անսպասելի կոչը ռեակտիվ, ինքնասպասարկման փորձ է՝ ուղղելու ընթացքը * այն բանից հետո, երբ նրանք արդեն հզոր, վատ հասկացված համակարգեր են բացել վայրի բնության մեջ: Սա խոստովանություն է, որ «արագ շարժվել և կոտրել իրերը» մանտրան, երբ կիրառվում է պոտենցիալ փոփոխվող տեխնոլոգիաների վրա, ոչ միայն անպատասխանատու է, այլև վտանգավոր:
Զրոյական օրվա հարձակումը, հատկապես պաշտպանի կարևոր խոցելիությունը, այս նույն մտածելակերպի ուղղակի, ցավալի հետևանքն է, որը կիրառվում է հիմնարար ՏՏ-ի նկատմամբ: Դա մի մշակույթի արդյունք է, որը հաճախ անվտանգությունը վերաբերվում է որպես հետագա մտածողության, համապատասխանության վանդակի կամ ծախսերի կենտրոնի, այլ ոչ թե յուրաքանչյուր առանձին ապրանքի և համակարգի անբաժանելի, անսակարկելի բաղադրիչ: Մենք այնքան զբաղված ենք հաջորդ փայլուն օբյեկտի հետապնդմամբ՝ հաջորդ LLM-ին, հաջորդ AI գործակալին, որ թույլ ենք տվել, որ մեր ոտքերի տակ գտնվող հողը փտվի:
CTO-ների և ինժեներական առաջատարների համար հաղորդագրությունը խիստ է և անմիջական: Դադարեք հետապնդել AI-ի յուրաքանչյուր միտում, որը հատում է ձեր հոսքը: Կրկնապատկեք հիմունքները: Առաջնահերթություն տվեք կարկատմանը, հատկապես կարևոր, ակտիվորեն շահագործվող խոցելիությունների համար, ինչպիսիք են Cisco-ում, GitLab-ում և մշտական սպառնալիքներով, որոնք դրսևորվում են Defender-ի նախկին LPE-ներով: Իրականացնել կայուն մեղմացումներ: Պահանջեք հաշվետվողականություն ձեր վաճառողներից իրենց անվտանգության դիրքորոշման համար, այլ ոչ միայն իրենց առանձնահատկությունների ճանապարհային քարտեզի համար:
Շուկայի անկումը և հիմնարար անվտանգության չլուծված խնդիրները պարզապես լուրեր չեն: Նրանք հաշիվ են։ Տեխնոլոգիական աշխարհ, որը չափազանց արագ է, չափազանց անխոհեմ և, վերջապես, չափազանց բացահայտված: Ժամանակն է մեծանալ, ապահովելու մեր հիմքերը և հետո, միայն այն ժամանակ, զգուշորեն դիտարկել հաջորդ սահմանը:
Աղբյուրներ
[1] Կյանքի ապագա ինստիտուտ — Դադարեցնել հսկա AI-ի փորձերը. բաց նամակ — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — AI փորձագետները կոչ են անում դադարեցնել զարգացած AI համակարգերի մշակումը — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Հայտնի շահագործվող խոցելի կատալոգ — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Անվտանգության խորհրդատվություն — Cisco Secure Email and Web Manager, Cisco Email Security Appliance և Cisco Web Security Appliance-ի խոցելիություններ — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sq5 [5] Microsoft Security Response Center — Microsoft Defender Տեղական արտոնությունների ընդլայնման խոցելիություն — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647