디지털 철의 장막이 내려오고, 우리는 모두 러닝머신에 서 있습니다
통합된 글로벌 기술 미래에 대한 비전이 사라지고 있습니다. 그 시대는 지나갔고, 경쟁하는 지정학적 블록으로 대체되었습니다. 여전히 "오픈 소스"가 본질적으로 중립적이고 보편적으로 유익한 힘이거나 AI가 단순히 우리 삶을 단순화할 것이라고 믿는다면 중국의 BRICS AI 추진과 Microsoft의 AI 기반 취약성 발견은 이러한 가정에 도전할 것입니다. 우리는 디지털 세계의 고의적이고 전략적인 분열을 목격하고 있으며, 이는 귀하의 업무를 훨씬 더 어렵게 만들 것입니다.
오픈 소스, 브랜드 변경: BRICS AI Gambit
BRICS 내에서 오픈 소스 LLM(Large Language Model) 커뮤니티를 주도하겠다는 중국의 제안은 단순한 학문적 활동이 아닙니다. 이는 개발자 친화적인 용어로 표현된 지정학적 파워 플레이입니다[1]. 이는 초기 개척자들이 상상했던 오픈 소스 운동이 아닙니다. 이는 서구 기술 지배에 대한 고의적인 반론인 국가 지원 의제가 포함된 "오픈 소스"입니다. 이를 AI를 위한 디지털 일대일로 이니셔티브로 간주하여 실리콘 밸리와 그 동맹국이 옹호하는 인프라 및 표준과 필연적으로 다를 인프라 및 표준을 구축하십시오.
CTO 및 엔지니어링 책임자에게 이는 추상적인 정책이 아닙니다. 이는 글로벌 AI 인재 풀의 잠재적인 분기를 의미합니다. 최고의 연구원과 개발자는 서구의 데이터 거버넌스 및 윤리적 지침에 부합하는 모델과 프레임워크에 관심을 가질 것입니까, 아니면 고유한 표준을 사용하여 빠르게 확장되는 BRICS 생태계 내에서 기회를 추구할 것입니까? 대답은 간단하지 않으며, 인재 확보 및 유지에 미치는 영향은 심오합니다.
더욱이, 이러한 움직임은 우리가 글로벌 기술에서 기대하는 상호 운용성에 직접적으로 도전하고 있습니다. BRICS에 맞춰진 데이터 세트에 대해 교육을 받고 윤리적 프레임워크를 준수하는 "오픈 소스" LLM이 서구에서 개발한 애플리케이션 또는 클라우드 서비스와 원활하게 통합하는 데 어려움을 겪는 시나리오를 상상해 보십시오. 우리는 다양한 데이터 거버넌스, 잠재적으로 호환되지 않는 모델 아키텍처, GDPR을 단순해 보이게 만드는 규제 미로에 직면해 있습니다. 이것은 오픈 소스 AI의 종말이 아닙니다. 그것은 시장 점유율, 인지도, 그리고 궁극적으로 글로벌 영향력을 놓고 경쟁할 비서구적 대안을 창출하는 전략적 배치입니다. AI 모델의 공급망은 훨씬 더 복잡해졌으며 규정 준수 팀에는 더 많은 리소스가 필요합니다.
AI 기반 런닝머신: Microsoft의 보안 "선물"
이제 지정학적 전략에서 운영 현실로 전환해 보겠습니다. Microsoft는 최근 자사의 AI 기반 취약성 검색 시스템에서 발견되는 결함 수가 크게 증가했다고 밝혔습니다[2]. 이로 인해 필요한 수정 사항이 크게 증가합니다. 표면적으로 이것은 승리처럼 들립니다. AI는 버그를 더 빠르게 찾아 소프트웨어를 더욱 안전하게 만듭니다. 하지만 자세히 살펴보면 지구상의 모든 IT 및 보안 팀이 새롭고 더 빠르고 더 지치는 주기를 발견하게 될 것입니다.
이것은 제로데이를 활용하는 AI에 관한 것이 아닙니다. AI가 전례 없는 속도로 그것을 발견하는 것입니다. 그렇다면 복잡하고 상호 연결된 엔터프라이즈 시스템 전반에 걸쳐 새로 식별된 수백 개의 취약점을 패치하는 책임은 누구에게 있습니까? 그것은 당신과 이미 확장된 팀이 될 것입니다. AI는 취약점 공개 주기를 더 빠른 속도로 가속화했지만 패치 및 검증을 위한 인간의 역량은 마술처럼 속도를 따라가지 못했습니다.
여기서 "이점"은 복잡한 이점입니다. 예, 더 많은 결함이 발견되었기 때문에 우리 시스템은 더 안전해질 수 있습니다. 그러나 운영 현실은 지속적으로 증가하는 작업 부하입니다. 패치 전략, 리소스 할당, 위험 평가 모델까지 근본적인 재평가가 필요합니다. "패치 화요일"의 전통적인 흐름은 시대에 뒤떨어진 개념이 되어가고 있으며 지속적인 고강도 스프린트로 대체되고 있습니다. 이는 단순히 더 많은 패치를 관리하는 것이 아닙니다. 이는 해당 패치의 복잡성, 회귀 가능성, 필요한 변경 관리의 양을 관리하는 것입니다. 이 경우 AI는 보안을 단순화하지 않습니다. 이미 긴장된 인적 자원에 더 많은 것을 요구하면서 운영 부담이 증폭되고 있습니다.
조각난 미래
서로 다른 것처럼 보이는 이 두 가지 개발은 일관된 그림을 그립니다. 즉, AI는 통합하거나 단순화하는 힘이 아니라 더욱 파편화되고 까다로운 기술 환경에 적극적으로 기여하고 있습니다. BRICS AI 이니셔티브는 지정학적 단편화를 나타내며 다양한 표준과 생태계와 맞서 싸워야 합니다. Microsoft의 AI 기반 패치는 검색 속도가 관리 용이성을 능가하여 지속적인 대응 작업으로 이어지는 운영 단편화를 의미합니다.
기술 리더로서 우리는 더 이상 순진한 낙관을 용납할 수 없습니다. 디지털 세계는 분열되고 있으며 우리가 구축하는 도구는 심지어 국방용으로 설계된 도구라도 기존 문제를 해결하는 것보다 더 빠르게 새로운 문제를 만들어내고 있습니다. 이제 귀하의 전략 계획은 "오픈 소스"에 잠재적으로 충돌할 수 있는 여러 정의가 있는 두 갈래로 나누어진 글로벌 AI 시장을 고려해야 합니다. 운영 팀은 한계를 테스트하는 끊임없는 AI 가속 보안 유지 관리 주기에 대비해야 합니다. 미래는 덜 복잡해지는 것이 아닙니다. 점점 더 분열되는 도메인 전반에 걸쳐 더 많은 것을 더 빠르게 관리하는 것입니다. 적응하거나 관련성이 없을 위험이 있습니다.
소스
[1] 중국, BRICS 오픈 소스 AI 플랫폼 제안 — https://www.scmp.com/tech/tech-war/article/3232675/china-proposes-brics-open-source-ai-platform-counter-western-dominance-and-boost-developing-nations [2] Microsoft 보안 블로그: AI가 고객을 보호하는 데 어떻게 도움이 되는지 — https://www.microsoft.com/security/blog/2023/07/18/how-ai-is-helping-us-protect-customers/