Новият изкуствен интелект на императора и гниещата основа под него
Спомняте ли си кога AI щеше да ни спаси всички? Оказва се, че спасителите сега искат таймаут. Съвсем наскоро, самите архитекти на нашето, управлявано от ИИ бъдеще – „граничните“ изследователи и финансови тежки играчи – колективно удариха спирачките, изисквайки забавяне на развитието поради „ескалиращи опасения за безопасността“ [1]. Пазарът, който винаги е бил тъп инструмент, отговори, като изкашля белите дробове: акциите на чипове и основните играчи на AI се сринаха [2]. Пекин, предвидимо, се присмя на предупрежденията, докато чип гигантите в Сеул се отказаха от предварителни плащания за бъдещи подобрения на ИИ [2].
Това не е просто философски дебат за кулата от слонова кост. Това е сеизмична промяна, публично признание за безразсъдство от страна на елита на индустрията. И честно казано, малко е прекалено удобно.
AI Pause: Алтруизъм или Силна игра?
Нека бъдем ясни: когато хората, които са построили ракетата, изведнъж осъзнават, че са забравили парашутите след изстрелването, това не е момент на дълбоко етично пробуждане. Това е закъсняла самоцелна кавга. Това не са идеалисти с широко отворени очи; това са титаните, които натискаха педала докрай, преследвайки експоненциален растеж и пазарно господство. Сега, с надвисналия призрак на „непредвидени последствия“ – и може би, по-цинично, осъзнаването, че настоящият темп е неустойчив или че трябва да консолидират лидерството си – те призовават за колективен дъх.
Реакцията на пазара е показателна. Спадът в акциите на чипове не е само страх; става въпрос за непосредствените финансови последици от потенциално забавяне. Отблъскването на Пекин? Ясен сигнал, че националното стратегическо предимство надделява над абстрактните опасения за безопасността. И производителите на чипове в Сеул отказват предварителни плащания? Това е звукът на капитала, който поставя под въпрос дългосрочната стабилност и рентабилността на едно внезапно несигурно бъдеще.
За нас, техническите директори и инженерните ръководители, това се превръща директно в хаотичен пейзаж. Очаквайте регулаторните интервенции да се ускорят, което ще наложи повторно приоритизиране на проектите за ИИ. Принципът „движи се бързо и разбивай нещата“ за AI е официално мъртъв, заменен от неистово търсене на рамки за „етично развитие на AI“, които трябваше да бъдат заложени от първия ден. Инвестициите ще станат по-предпазливи, стратегиите ще се променят и да, пазарите на труда ще усетят охлаждането, тъй като златната треска отстъпи място на по-премерен и, да се надяваме, по-отговорен подход. Но нека не бъркаме това с чист алтруизъм. Тази „пауза“ е колкото за контрол и пазарно повторно калибриране, толкова и за истинска безопасност.
Докато титаните дебатират, основата се разпада
Сега, докато елитът на ИИ преживява своята екзистенциална криза, обсъждайки етиката на бъдещия суперинтелект, нека поговорим за много реалната, много настояща и напълно катастрофална криза на сигурността, която се разгръща в момента.
Тази седмица CISA добави множество нови CVE към своя каталог с известни експлоатирани уязвимости [3]. Говорим за потвърден root RCE в Cisco Secure Email Gateway (CVE-2023-20269) [4], преминаване на пътя на CVSS 10.0 в GitLab (CVE-2023-2825) [3] и наскоро коригиран Chrome zero-day (CVE-2023-4863) [3], който изискваше незабавно внимание.
Но истинският удар, който трябва да накара всеки професионалист по сигурността да крещи в празнотата, е постоянната заплаха от фундаментални недостатъци. Помислете за CVE-2021-1647, локална уязвимост при ескалация на привилегии в механизма за защита от зловреден софтуер на Microsoft Defender [5]. Това не беше някакъв неясен недостатък; той имаше публично доказателство за концепцията и беше активно експлоатиран в дивата природа, подчертавайки как критичните компоненти на нашата цифрова защита могат да бъдат компрометирани и да останат уязвими за определен период.
Нека това потъне. Докато обсъждаме етиката на чувствителността на AI, самият софтуер, предназначен да защитава нашите крайни точки, основният слой на нашата цифрова защита, е доказано, че крие публично известни, активно експлоатирани недостатъци, които позволяват на нападателя да повиши привилегиите. Това е като да спорите за философските изводи от задвижването с изкривяване, докато спирачките на колата ви отказват и двигателят гори.
Разплатата: Двете страни на една и съща монета
Това не са отделни истории. Те са двете страни на една и съща дълбоко погрешна монета: технологична индустрия, която последователно дава приоритет на скоростта, новостите и възприеманата иновация пред фундаменталната сигурност, стабилност и отговорност.
Внезапният призив на лидерите на ИИ за забавяне е реактивен, егоистичен опит за коригиране на курса след като те вече са пуснали мощни, зле разбрани системи в дивата природа. Това е признание, че мантрата „движи се бързо и разбивай нещата“, когато се приложи към технология, която потенциално променя света, е не просто безотговорна, но и опасна.
Атаката от нулевия ден, особено критичната уязвимост на Defender, е пряката, болезнена последица от същия начин на мислене, приложен към фундаменталните ИТ. Това е резултат от култура, която често третира сигурността като последваща мисъл, квадратче за отметка за съответствие или разходен център, а не като интегрален, неподлежащ на обсъждане компонент на всеки отделен продукт и система. Толкова сме заети да преследваме следващия лъскав обект – следващия LLM, следващия агент с изкуствен интелект – че сме оставили самата земя под краката ни да изгние.
За технически директори и водещи инженери посланието е ясно и незабавно. Спрете да преследвате всяка AI тенденция, която пресича вашата емисия. Удвоете основите. Дайте приоритет на корекцията, особено за критични, активно експлоатирани уязвимости като тези в Cisco, GitLab и постоянната заплаха, илюстрирана от миналите LPE на Defender. Приложете стабилни смекчаващи мерки. Изисквайте отчетност от вашите доставчици за тяхната позиция на сигурност, а не само за тяхната пътна карта на функциите.
Падането на пазара и неразрешените фундаментални проблеми със сигурността не са само новини. Те са равносметка. Технологичен свят, който е твърде бърз, твърде безразсъден и накрая, твърде изложен. Време е да пораснем, да подсигурим основите си и тогава, само тогава, внимателно да обмислим следващата граница.
Източници
[1] Future of Life Institute — Пауза на гигантските AI експерименти: Отворено писмо — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — AI експерти призовават за пауза в разработването на усъвършенствани AI системи — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Каталог на известни експлоатирани уязвимости — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory — Cisco Secure Email and Web Manager, Cisco Email Security Appliance и Cisco Web Security Appliance Vulnerabilities — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Microsoft Security Response Center — Microsoft Defender Local Privilege Escalation Vulnerability — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647