Цифровата желязна завеса се спуска и всички сме на бягащата пътека за закърпване
Визията за обединено глобално технологично бъдеще отстъпва; тази ера отмина, заменена от конкуриращи се геополитически блокове. Ако все още вярвате, че „отвореният код“ е по своята същност неутрална, универсално полезна сила, или че AI просто ще опрости живота ни, тогава натискането на AI в БРИКС от Китай и откриването на уязвимости, управлявано от AI на Microsoft, ще оспорят тези предположения. Свидетели сме на умишлено, стратегическо фрагментиране на дигиталния свят и това ще направи работата ви значително по-предизвикателна.
Отворен код, преименуван: AI Gambit на BRICS
Предложението на Китай да оглави общност с отворен код Large Language Model (LLM) в рамките на BRICS не е просто академично упражнение; това е геополитическа игра на власт, представена в удобни за разработчиците термини [1]. Това не е движението с отворен код, както го представят първите му пионери. Това е „отворен код“ с дневен ред, подкрепян от държавата, умишлен контраразказ на западното технологично господство. Считайте го за дигитална инициатива „Един пояс, един път“ за AI, установяваща инфраструктура и стандарти, които неизбежно ще се различават от тези, поддържани от Силиконовата долина и нейните съюзници.
За техническите директори и водещите инженери това не е абстрактна политика. Това предполага потенциално раздвояване на глобалния AI талант. Дали вашите най-добри изследователи и разработчици ще гравитират към модели и рамки, които са в съответствие със западното управление на данните и етичните насоки, или ще преследват възможности в рамките на бързо разрастваща се екосистема на БРИКС със свои собствени различни стандарти? Отговорът не е еднозначен и последиците за придобиването и задържането на таланти са дълбоки.
Освен това този ход пряко предизвиква оперативната съвместимост, която очакваме в глобалните технологии. Представете си сценарий, при който вашият LLM с „отворен код“, обучен на набор от данни, съобразен с БРИКС и придържащ се към техните етични рамки, се бори да се интегрира безпроблемно с разработени на Запад приложения или облачни услуги. Изправени сме пред различно управление на данни, потенциално несъвместими архитектури на модели и регулаторен лабиринт, който прави GDPR да изглежда прост. Това не е смъртта на AI с отворен код; това е неговото стратегическо разгръщане, създаване на незападна алтернатива, която ще се състезава за пазарен дял, дял от ума и в крайна сметка глобално влияние. Вашата верига за доставки за AI модели току-що стана много по-сложна и вашият екип за съответствие ще изисква повече ресурси.
Бягащата пътека с AI: „Подарък“ за сигурност на Microsoft
Сега нека преминем от геополитическата стратегия към оперативните реалности. Microsoft наскоро разкри, че неговата базирана на AI система за откриване на уязвимости разкрива значително увеличен брой пропуски [2]. Това води до значително увеличение на необходимите корекции. На пръв поглед това звучи като победа: AI прави нашия софтуер по-сигурен, като открива грешки по-бързо. Но погледнете по-отблизо и ще откриете нов, по-бърз и по-изтощителен цикъл за всеки ИТ екип и екип по сигурността на планетата.
Тук не става въпрос за AI, който използва нула дни; става въпрос за това, че AI ги открива с безпрецедентна скорост. И кой тогава е отговорен за коригирането на тези стотици новооткрити уязвимости, често в сложни, взаимосвързани корпоративни системи? Това ще бъдете вие и вашите вече разтегнати екипи. AI ускори цикъла на разкриване на уязвимости до ускорено темпо, но човешкият капацитет за корекции и валидиране не успя магически да поддържа темпото.
„Ползата“ тук е комплексно предимство. Да, нашите системи могат да бъдат по-сигурни, защото се откриват повече недостатъци. Но оперативната реалност е постоянно, нарастващо работно натоварване. Вашите стратегии за корекция, разпределението на ресурсите и дори вашите модели за оценка на риска се нуждаят от фундаментална преоценка. Традиционният каданс на "Patch Tuesday" се превръща в остаряла концепция, заменена от непрекъснат спринт с висока интензивност. Тук не става въпрос само за управление на повече кръпки; става въпрос за управление на сложността на тези кръпки, потенциала за регресии и самия обем на необходимото управление на промените. AI, в този случай, не опростява сигурността; това увеличава оперативната тежест, изисквайки повече от вече напрегнатите човешки ресурси.
Фрагментираното бъдеще
Тези две разработки, на пръв поглед различни, рисуват последователна картина: AI, далеч от това да бъде обединяваща или опростяваща сила, активно допринася за една по-фрагментирана и взискателна технологична среда. Инициативата на BRICS AI представлява геополитическа фрагментация, принуждаваща ни да се борим с различни стандарти и екосистеми. Кръпките, управлявани от AI на Microsoft, означават оперативна фрагментация, където скоростта на откриване изпреварва лекотата на управление, което води до постоянна реактивна работа.
Като технологични лидери вече не можем да си позволим наивен оптимизъм. Дигиталният свят се разделя и инструментите, които създаваме, дори тези, предназначени за отбрана, създават нови предизвикателства по-бързо, отколкото решават стари. Вашето стратегическо планиране сега трябва да отчита един раздвоен глобален пазар на ИИ, където „отворен код“ има множество, потенциално противоречиви дефиниции. Вашите оперативни екипи трябва да се подготвят за безмилостен, ускорен от AI цикъл на поддръжка на сигурността, който ще тества техните граници. Бъдещето не е свързано с по-малко сложност; става въпрос за управление на повече от него, по-бързо и във все по-разделени домейни. Адаптирайте се или рискувайте неуместност.
Източници
[1] Китай предлага платформа за ИИ с отворен код на BRICS — https://www.scmp.com/tech/tech-war/article/3232675/china-proposes-brics-open-source-ai-platform-counter-western-dominance-and-boost-developing-nations [2] Блог за сигурността на Microsoft: Как AI ни помага да защитим клиентите — https://www.microsoft.com/security/blog/2023/07/18/how-ai-is-helping-us-protect-customers/