AI-ի դանդաղեցումը շեղում է: Ձեր տունը կրակի մեջ է:
Եկեք կոպիտ լինենք. տեխնոլոգիական արդյունաբերությունը վերջապես զգում է «Հիսուսի մոտ» պահը արհեստական ինտելեկտի հետ, բայց դա ավելի քիչ է թվում իրական ապաշխարության և ավելի շատ ռազմավարական առանցքի: Հանկարծ, արհեստական ինտելեկտի այս սարսափելի մրցավազքի ճարտարապետները՝ նշանավոր հետազոտողները և ֆինանսիստները, ովքեր ֆինանսավորել են իրենց կոֆեինով վառվող սպրինտները, կոչ են անում դանդաղեցնել [1]: Նրանք խոսում են «ներքին կառավարման», «էթիկական շրջանակների» և «ավելի կանխամտածված» տեմպերի մասին: Եվ շուկան, երբևէ զգայուն բարոմետրը, արդեն արձագանքել է՝ մտավախություններ ունենալով արհեստական ինտելեկտի ներդրումների կայունության վերաբերյալ, որոնք անկայունություն են առաջացնում չիպերի պաշարներում [2]:
Սա արտաքին կարգավորում չէ. դա ներքին «անսարք գիծ» է, որը առաջանում է հենց AI էկոհամակարգից: Եվ մինչ C-suite-ը քննարկում է իրենց ապագա ստեղծագործությունների փիլիսոփայական հետևանքները, ներկան ակտիվորեն այրվում է:
Հարմար դադար
Հաշվի առեք ժամանակը: Տարիներ շարունակ մանտրան եղել է «արագ շարժվել և կոտրել իրերը», կամ վերջերս՝ «արագ շարժվել և կառուցել AGI»: Այժմ, երբ արդեն կիրառվել են հզոր մոդելներ, մրցակցային լանդշաֆտը մեծապես հստակեցված է, և իրական, իմաստալից կարգավորման ուրվականը մոտեցել է, զգուշության կոչերը փոքր-ինչ սնամեջ են հնչում: Արդյո՞ք սա իրական արթնացում է խորը ռիսկերի նկատմամբ, թե՞ հաշվարկված մանևր՝ իշխանությունը համախմբելու, մրցակիցներին դանդաղեցնելու և հանրային ընկալումը կառավարելու համար, մինչև պատառաքաղները դուրս գան:
Հեշտ է զգուշություն քարոզել, երբ արդեն շրջել եք շուկան հաշվարկների, տաղանդի և հիմնարար մոդելների վրա: Արդյունաբերության հանկարծակի ուշադրությունը «արտադրանքի ճանապարհային քարտեզների վերագնահատման, ռիսկերի գնահատման և ռազմավարական պլանավորման» վրա ազնիվ է թվում, բայց այն նաև հնչում է որպես ռեսուրսները վերադասավորելու հարմար միջոց: Սա կարող է դանդաղեցնել բաց կոդով այլընտրանքները կամ ավելի փոքր խաղացողները, որոնք կարող են մարտահրավեր նետել կայացած հսկաներին՝ վերահսկելով հասանելիությունը հիմնական ռեսուրսներին կամ ազդելով կարգավորող շրջանակների վրա: «Էթիկական շրջանակը» հանկարծ առաջնային է, ոչ թե այն ժամանակ, երբ մոդելները վերապատրաստվում էին քերծված տվյալների վրա, այլ այժմ, երբ նրանք բավականաչափ հզոր են հասարակությունն իսկապես վերափոխելու համար:
Ակադեմիական և գիտական համայնքներում հնչած մտահոգությունները, որոնք նախազգուշացնում են, որ բաց խնդիրների AI «լուծումները» կարող են սպառնալ իրենց ոլորտների ամբողջականությանը [3], այս ներքին մտահոգության խորության վառ ցուցիչ են: Բայց սա չշփոթենք ալտրուիզմի հետ: Սա աշխատանքի կամ ենթակառուցվածքների վրա AI-ի ազդեցության մասին չէ. խոսքը վերահսկողության մասին է. ով է այն տիրապետում և ինչ տեմպերով: Բանավեճն ավելի քիչ է «պե՞տք է կառուցենք» թեմայով: և ավելին այն մասին, թե «ովքե՞ր են որոշում, թե որքան արագ ենք մենք այն կառուցել, և ո՞վ է շահույթ ստանում»:
Մինչ նրանք բանավիճում են ապագայի մասին, ձեր ներկան վտանգված է
Այժմ, եկեք ուղղենք AI-ի ներքին ճեղքվածքի վերացական, ապագան նայող մտահոգություններից դեպի անմիջական, շոշափելի ճգնաժամ, որը ծավալվում է մեր ցանցերում հենց հիմա: Մինչ AI տիտանները խորհում են իրենց մեքենաների հոգու մասին, ձեր օպերատիվ թիմերը փորձում են զսպել կիբերանվտանգության ամբողջական աղետը:
Մենք չենք խոսում տեսական սպառնալիքների կամ ընդհանուր միտումների մասին: Մենք խոսում ենք հիմնական ձեռնարկությունների ծրագրային ապահովման զրոյական օրական ակտիվորեն շահագործվող խոցելիությունների մասին, որոնք հարվածում են կրիտիկական ենթակառուցվածքին մուրճի ուժով:
- Ivanti Connect Secure և Policy Secure (CVE-2023-46805 & CVE-2024-21887): Սա պարզապես վրիպակ չէ; դա բաց վերք է: Ivanti-ի VPN-ի և ցանցի հասանելիության լուծումների այս խոցելիությունները ակտիվորեն շահագործվել են՝ թույլ տալով հարձակվողներին շրջանցել նույնականացումը և կատարել հեռակա հրամաններ: CISA-ն հրապարակել է բազմաթիվ նախազգուշացումներ՝ ընդգծելով այն կազմակերպությունների համար, որոնք վստահում են այդ համակարգերին անվտանգ հեռահար մուտքի համար [4]: Ձեր հիմնական ցանցի պաշտպանությունը, այն միակ բանը, որի վրա դուք ապավինում եք դարպասի մոտ գտնվող վատ տղաներին կանգնեցնելու համար, ակտիվորեն շահագործվում է հարձակվողներին խորը մուտք տրամադրելու անթիվ ձեռնարկությունների ցանցեր:
- Cisco IOS XE Web UI (CVE-2023-20198): Առավելագույն խստություն: Ակտիվ շահագործվող. Այս խոցելիությունը թույլ է տալիս չհաստատված հարձակվողներին ստեղծել արտոնյալ հաշիվներ և լիարժեք վերահսկողություն ձեռք բերել տուժած Cisco IOS XE սարքերի վրա: Եթե հարձակվողը տիրապետում է ձեր ցանցային ենթակառուցվածքի կառավարման հարթությանը, ապա նրանց է պատկանում ձեր ամբողջ ցանցը: Խաղն ավարտված է [5].
CISA-ն զվարճանքի համար «նախազգուշացումներ» չի տալիս. նրանք լեփ-լեցուն թատրոնում «կրակ» են գոռում։ Սրանք միայն տեսական սպառնալիքներ չեն. դրանք ակտիվորեն օգտագործվում են համաշխարհային ձեռնարկությունների հիմնական պաշտպանական և կառավարման համակարգերը զիջելու համար:
Իրական սխալ գիծ
Հեգնանքն այնքան հաստ է, որ կարող եք կտրել այն ձանձրալի դանակով: Մի կողմից, մենք ունենք արհեստական ինտելեկտի վերնախավը, որը քննարկում է ապագայի էթիկական հետևանքները, որոնք նրանք դեռ կառուցում են՝ կոչ անելով դանդաղեցնել տեմպերը տարիներ շարունակ անվերահսկելի արագացումից հետո: Մյուս կողմից, մենք ունենք անմիջական, էկզիստենցիալ սպառնալիք, որ մեր ներկայիս հիմնարար տեխնոլոգիան ակտիվորեն փլուզվում է չհասցեագրված, չփակված խոցելիության ծանրության տակ:
Իրական «մեղքի գիծը» ոչ միայն AI համայնքում է. այն գտնվում է նորարարության փղոսկրյա աշտարակի և գործառնական իրականության խրամատների միջև: Այն գտնվում է AI-ի «ինքնակարգավորման» վերացական, ապագային ուղղված քննարկումների և այն համակարգերում, որոնց վրա մենք այսօր ապավինում ենք, փաստացի անվտանգության և կայունության անմիջական, կոնկրետ անհրաժեշտության միջև:
Քանի որ CTO-ները և ճարտարագիտությունը ղեկավարում են, մենք չենք կարող մեզ թույլ տալ շեղվել AI-ի դանդաղեցման փիլիսոփայական բանավեճերից: Թեև այդ քննարկումները կարևոր են երկարաժամկետ հեռանկարում, դրանք շքեղություն են, երբ ձեր տունն ակտիվորեն այրվում է: «Արտադրանքի ճանապարհային քարտեզների վերագնահատումը» պետք է սկսվի մեր առկա ենթակառուցվածքի քայքայված հիմքերի ամրագրմամբ: «Ռիսկերի գնահատումները» պետք է առաջնահերթություն տան անմիջական, ակտիվորեն օգտագործվող սպառնալիքներին, որոնք վտանգում են գործառնական շարունակականությունը և տվյալների ամբողջականությունը այսօր:
Ոլորտի առաջնահերթությունները շեղված են. Մենք ավելի արագ, ավելի փայլուն իրեր ենք կառուցում մի հիմքի վրա, որն ակտիվորեն փտում է: Արհեստական ինտելեկտի դանդաղեցման կոչը կարող է անհրաժեշտ խոսակցություն լինել, բայց մեզանից նրանց համար, ովքեր տեղում են, ովքեր զբաղվում են Ivanti-ի և Cisco-ի զրոյական օրերի հետ, նման է վարագույրների գույնի մասին բանավեճին, մինչ տանիքը քարանձավում է: Կենտրոնացեք ներկայի վրա: Ապագան կարող է սպասել, մինչև մենք ակտիվորեն արյունահոսություն չստանանք:
Աղբյուրներ
[1] Բաց նամակ՝ հսկա AI-ի փորձերը դադարեցնելու համար — https://futureoflife.org/open-letter-pause-ai-development/ [2] AI-ի բաժնետոմսերը աճում են, բայց որոշ ներդրողներ նյարդայնանում են — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] AI հեղափոխությունը գիտության մեջ. խոստումներ և վտանգներ — https://www.nature.com/articles/d41586-023-03223-y [4] Վտանգավոր դերակատարները, որոնք օգտագործում են Ivanti Connect Secure-ը և Ivanti Policy-ի անվտանգ խոցելիությունները — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Վտանգավոր դերակատարներ, որոնք օգտագործում են Cisco IOS XE ծրագրաշարի վեբ միջերեսի խոցելիությունը — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a