Цифровой железный занавес опускается, и мы все находимся на беговой дорожке исправлений
Представление о едином глобальном технологическом будущем отступает; эта эпоха прошла, и на смену ей пришли конкурирующие геополитические блоки. Если вы все еще верите, что «открытый исходный код» является по своей сути нейтральной, универсально полезной силой или что ИИ просто упростит нашу жизнь, то продвижение ИИ Китая в БРИКС и обнаружение Microsoft уязвимостей, основанных на ИИ, бросят вызов этим предположениям. Мы являемся свидетелями преднамеренной стратегической фрагментации цифрового мира, и это значительно усложнит вашу работу.
Открытый исходный код, ребрендинг: AI-гамбит БРИКС
Предложение Китая возглавить сообщество моделей больших языков с открытым исходным кодом (LLM) в рамках БРИКС — это не просто академическое упражнение; это геополитическая игра, представленная в терминах, удобных для разработчиков [1]. Это не движение открытого исходного кода, каким его представляли первые пионеры. Это «открытый исходный код» с программой, поддерживаемой государством, преднамеренный противовес западному технологическому доминированию. Считайте это цифровой инициативой «Пояс и путь» для искусственного интеллекта, создающей инфраструктуру и стандарты, которые неизбежно будут отличаться от тех, которые отстаивают Кремниевая долина и ее союзники.
Для технических директоров и технических руководителей это не абстрактная политика. Это подразумевает потенциальное раздвоение глобального кадрового резерва в сфере ИИ. Будут ли ваши лучшие исследователи и разработчики тяготеть к моделям и структурам, которые соответствуют западным принципам управления данными и этическим принципам, или они будут искать возможности в быстро расширяющейся экосистеме БРИКС со своими собственными четкими стандартами? Ответ не однозначен, и последствия для привлечения и удержания талантов огромны.
Более того, этот шаг напрямую бросает вызов совместимости, которую мы привыкли ожидать от глобальных технологий. Представьте себе сценарий, в котором ваш LLM с «открытым исходным кодом», обученный на наборе данных, ориентированном на БРИКС, и придерживающийся их этических норм, изо всех сил пытается интегрироваться с разработанными на Западе приложениями или облачными сервисами. Мы сталкиваемся с разным управлением данными, потенциально несовместимыми архитектурами моделей и регуляторным лабиринтом, из-за которого GDPR кажется простым. Это не конец ИИ с открытым исходным кодом; это его стратегическое развертывание, создание незападной альтернативы, которая будет конкурировать за долю рынка, долю умов и, в конечном итоге, за глобальное влияние. Ваша цепочка поставок моделей ИИ стала намного сложнее, и вашей команде по обеспечению соответствия потребуются дополнительные ресурсы.
Беговая дорожка с искусственным интеллектом: «подарок» безопасности Microsoft
Теперь давайте перейдем от геополитической стратегии к оперативным реалиям. Недавно Microsoft сообщила, что ее система обнаружения уязвимостей на базе искусственного интеллекта обнаруживает значительно возросшее количество ошибок [2]. Это приводит к существенному увеличению количества необходимых исправлений. На первый взгляд это звучит как победа: ИИ делает наше программное обеспечение более безопасным, быстрее находя ошибки. Но присмотритесь, и вы обнаружите новый, более быстрый и утомительный цикл для каждой команды ИТ и безопасности на планете.
Речь идет не об искусственном интеллекте, использующем нулевые дни; речь идет об ИИ, открывающем их с беспрецедентной скоростью. И кто же тогда несет ответственность за исправление этих сотен вновь выявленных уязвимостей, зачастую в сложных, взаимосвязанных корпоративных системах? Это будете вы и ваши уже растянутые команды. ИИ ускорил цикл раскрытия уязвимостей до ускоренного темпа, но человеческие возможности по исправлению и проверке волшебным образом не поспевают за ним.
«Выгода» здесь представляет собой комплексное преимущество. Да, наши системы могли бы быть более безопасными, потому что в них обнаруживается больше недостатков. Но оперативная реальность — это постоянная, возрастающая рабочая нагрузка. Ваши стратегии установки исправлений, распределение ресурсов и даже ваши модели оценки рисков нуждаются в фундаментальной переоценке. Традиционный ритм «Вторника обновлений» становится устаревшей концепцией, на смену которой приходит непрерывный высокоинтенсивный спринт. Речь идет не только об управлении большим количеством исправлений; речь идет об управлении сложностью этих исправлений, возможности регрессий и огромном объеме требуемого управления изменениями. В данном случае ИИ не упрощает безопасность; это увеличивает операционную нагрузку, требуя большего от и без того напряженных человеческих ресурсов.
Фрагментированное будущее
Эти два события, на первый взгляд несопоставимые, рисуют последовательную картину: ИИ, далекий от объединяющей или упрощающей силы, активно способствует созданию более фрагментированной и требовательной технологической среды. Инициатива БРИКС по искусственному интеллекту представляет собой геополитическую фрагментацию, вынуждающую нас бороться с различными стандартами и экосистемами. Исправления Microsoft, управляемые искусственным интеллектом, означают операционную фрагментацию, при которой скорость обнаружения опережает простоту управления, что приводит к постоянной реактивной работе.
Как технологические лидеры, мы больше не можем позволить себе наивный оптимизм. Цифровой мир раскалывается, и инструменты, которые мы создаем, даже те, которые предназначены для обороны, создают новые проблемы быстрее, чем решают старые. Ваше стратегическое планирование теперь должно учитывать раздвоенный глобальный рынок искусственного интеллекта, где понятие «открытый исходный код» имеет множество потенциально противоречивых определений. Ваши оперативные группы должны подготовиться к непрерывному циклу обслуживания безопасности с ускорением ИИ, который проверит их пределы. Будущее не за уменьшением сложности; речь идет об управлении большим объемом данных, быстрее и во все более раздробленных областях. Адаптируйтесь или рискуете потерять актуальность.
Источники
[1] Китай предлагает БРИКС платформу искусственного интеллекта с открытым исходным кодом — https://www.scmp.com/tech/tech-war/article/3232675/china-proposes-brics-open-source-ai-platform-counter-western-dominance-and-boost-developing-nations [2] Блог Microsoft по безопасности: Как ИИ помогает нам защищать клиентов — https://www.microsoft.com/security/blog/2023/07/18/how-ai-is-helping-us-protect-customers/