Opada cyfrowa żelazna kurtyna i wszyscy jesteśmy na bieżni łatania
Wizja zjednoczonej globalnej przyszłości technologicznej oddala się; era ta minęła, zastąpiona przez konkurencyjne bloki geopolityczne. Jeśli nadal wierzysz, że „otwarte oprogramowanie” jest z natury neutralną, powszechnie korzystną siłą lub że sztuczna inteligencja po prostu uprości nasze życie, to chińskie wsparcie BRICS AI i odkrycie przez Microsoft luk w zabezpieczeniach opartych na sztucznej inteligencji podważą te założenia. Jesteśmy świadkami celowej, strategicznej fragmentacji świata cyfrowego, która znacznie utrudni Twoją pracę.
Open Source, przemianowana marka: gambit AI BRICS
Chińska propozycja, aby przewodzić społeczności zajmującej się modelem dużego języka (LLM) o otwartym kodzie źródłowym w ramach BRICS, nie jest jedynie ćwiczeniem akademickim; jest to geopolityczna gra o władzę przedstawiona w sposób przyjazny dla programistów [1]. To nie jest ruch open source, jak przewidywali jego pierwsi pionierzy. Jest to „open source” z programem wspieranym przez państwo, celową kontrnarracją wobec dominacji technologii Zachodu. Można to uznać za cyfrową inicjatywę „Jeden pas i jedna droga” na rzecz sztucznej inteligencji, ustanawiająca infrastrukturę i standardy, które nieuchronnie będą odbiegać od tych propagowanych przez Dolinę Krzemową i jej sojuszników.
Dla dyrektorów technicznych i kierowników inżynierów nie jest to abstrakcyjna polityka. Oznacza to potencjalne rozwidlenie globalnej puli talentów w zakresie sztucznej inteligencji. Czy najlepsi badacze i programiści będą skłaniać się ku modelom i ramom zgodnym z zachodnim zarządzaniem danymi i wytycznymi etycznymi, czy też będą wykorzystywać możliwości w szybko rozwijającym się ekosystemie BRICS posiadającym własne, odrębne standardy? Odpowiedź nie jest prosta, a implikacje dla pozyskiwania i zatrzymywania talentów są głębokie.
Co więcej, posunięcie to bezpośrednio podważa interoperacyjność, której oczekujemy w globalnej technologii. Wyobraź sobie scenariusz, w którym Twoja firma LLM typu „open source”, przeszkolona w oparciu o zbiór danych dostosowany do BRICS i przestrzegająca swoich ram etycznych, ma trudności z bezproblemową integracją z aplikacjami lub usługami w chmurze opracowanymi na Zachodzie. Stoimy w obliczu rozbieżnego zarządzania danymi, potencjalnie niezgodnych architektur modeli i labiryntu regulacyjnego, który sprawia, że RODO wydaje się proste. To nie jest upadek sztucznej inteligencji typu open source; jest to jego strategiczne wdrożenie, polegające na stworzeniu niezachodniej alternatywy, która będzie konkurować o udział w rynku, podział świadomości i ostatecznie o globalne wpływy. Twój łańcuch dostaw modeli sztucznej inteligencji stał się znacznie bardziej złożony, a Twój zespół ds. zgodności będzie potrzebował większych zasobów.
Bieżnia napędzana sztuczną inteligencją: „prezent” bezpieczeństwa firmy Microsoft
Przejdźmy teraz od strategii geopolitycznej do realiów operacyjnych. Firma Microsoft niedawno ujawniła, że jej system wykrywania luk w zabezpieczeniach oparty na sztucznej inteligencji wykrywa znacznie zwiększoną liczbę luk [2]. Prowadzi to do znacznego wzrostu liczby wymaganych poprawek. Na pozór brzmi to jak zwycięstwo: sztuczna inteligencja zwiększa bezpieczeństwo naszego oprogramowania, szybciej znajdując błędy. Przyjrzyj się jednak bliżej, a odkryjesz nowy, szybszy i bardziej wyczerpujący cykl dla każdego zespołu IT i bezpieczeństwa na świecie.
Tu nie chodzi o sztuczną inteligencję wykorzystującą dni zerowe; chodzi o to, że sztuczna inteligencja odkrywa je w niespotykanym dotąd tempie. Kto zatem jest odpowiedzialny za łatanie setek nowo zidentyfikowanych luk w zabezpieczeniach, często w złożonych, wzajemnie połączonych systemach przedsiębiorstwa? To bylibyście ty i wasze i tak już przeciążone zespoły. Sztuczna inteligencja przyspieszyła cykl ujawniania luk w zabezpieczeniach, ale ludzka zdolność do łatania i sprawdzania poprawności w magiczny sposób nie nadąża za tym tempem.
„Korzyść” jest tutaj złożoną zaletą. Tak, nasze systemy mogą być bezpieczniejsze, ponieważ wykrywanych jest więcej usterek. Jednak rzeczywistość operacyjna to ciągłe, rosnące obciążenie pracą. Twoje strategie łatania, alokacja zasobów, a nawet modele oceny ryzyka wymagają gruntownej ponownej oceny. Tradycyjny rytm „Patch Tuesday” staje się przestarzałą koncepcją i zostaje zastąpiony ciągłym sprintem o wysokiej intensywności. Nie chodzi tu tylko o zarządzanie większą liczbą poprawek; chodzi o zarządzanie złożonością tych poprawek, potencjałem regresji i ogromną ilością wymaganego zarządzania zmianami. W tym przypadku sztuczna inteligencja nie upraszcza bezpieczeństwa; zwiększa obciążenie operacyjne, wymagając więcej od i tak już obciążonych zasobów ludzkich.
Fragmentaryczna przyszłość
Te dwa pozornie odmienne wydarzenia tworzą spójny obraz: sztuczna inteligencja nie jest siłą jednoczącą ani upraszczającą, ale aktywnie przyczynia się do tworzenia bardziej rozdrobnionego i wymagającego środowiska technologicznego. Inicjatywa BRICS AI reprezentuje fragmentację geopolityczną, zmuszającą nas do zmagania się z rozbieżnymi standardami i ekosystemami. Łatanie oparte na sztucznej inteligencji firmy Microsoft oznacza fragmentację operacyjną, w której szybkość wykrywania przewyższa łatwość zarządzania, co prowadzi do ciągłej pracy reaktywnej.
Jako liderzy technologii nie możemy sobie już pozwolić na naiwny optymizm. Cyfrowy świat się rozpada, a narzędzia, które budujemy, nawet te przeznaczone do celów obronnych, szybciej tworzą nowe wyzwania niż rozwiązują stare. Twoje planowanie strategiczne musi teraz uwzględniać podzielony globalny rynek sztucznej inteligencji, gdzie „otwarte oprogramowanie” ma wiele potencjalnie sprzecznych definicji. Twoje zespoły operacyjne muszą przygotować się na bezlitosny, wspomagany przez sztuczną inteligencję cykl konserwacji zabezpieczeń, który wystawi na próbę ich ograniczenia. Przyszłość nie polega na mniejszej złożoności; chodzi o zarządzanie ich większą ilością, szybciej i w coraz bardziej podzielonych domenach. Dostosuj się lub zaryzykuj nieistotność.
Źródła
[1] Chiny proponują platformę AI typu open source BRICS — https://www.scmp.com/tech/tech-war/article/3232675/china-proposes-brics-open-source-ai-platform-counter-western-dominance-and-boost-developing-nations [2] Blog firmy Microsoft o bezpieczeństwie: Jak sztuczna inteligencja pomaga nam chronić klientów — https://www.microsoft.com/security/blog/2023/07/18/how-ai-is-helping-us-protect-customers/