황제의 새로운 AI 보안복: 뮤즈를 바라보는 동안 재단은 무너진다
직설적으로 말하자면, 기술 산업에는 새로운 집착이 생겼는데, 이를 "AI 보안"이라고 합니다. 우리 모두는 신속한 주입, 모델 중독, 대규모 언어 모델의 데이터 추출에 집중해야 합니다. 한편, 우리 기업을 하나로 묶는 실제 물리적 디지털 인프라는 끊임없는 제로데이 공세로 인해 적극적으로 불타고 있습니다. AI 인프라 보안의 광범위한 과제를 보여주는 주요 AI 플랫폼과 관련된 최근 사건은 이러한 위험한 이분법을 강조합니다[1].
"빠르게 움직이고 파괴하라"는 정신으로 유명한 회사인 Meta는 AI 플랫폼의 보안 결함에 대한 조사를 받았습니다. 예를 들어, 버그 현상금 프로그램은 사용자 가상 머신을 노출시키는 심각한 결함을 발견했습니다. 이는 미묘한 데이터 유출이나 영리한 프롬프트 우회가 아니라 사용자 VM을 노출시키는 근본적인 인프라 수준 오류였습니다. 이것은 난해한 AI 관련 취약점이 아닙니다. 이는 기본적인 VM 격리로, 10년 전에는 대부분 해결되었다고 생각했던 문제입니다. 이는 개인 정보 보호 및 데이터 무결성에 대한 중대한 침해를 의미하며, 그러한 AI 인프라를 활용하는 사용자와 잠재적으로 기업 고객에게 직접적인 영향을 미칩니다.
이러한 유형의 결함은 실제로 영향을 미치긴 하지만 새로운 "AI 보안" 문제라기보다는 AI 모자를 쓴 고전적인 인프라 실패처럼 느껴집니다. 가장 발전된 AI 플랫폼조차도 기존 컴퓨팅, 네트워킹 및 가상화 계층을 기반으로 구축된다는 점을 상기시켜 줍니다. 이러한 기본 레이어에 구멍이 많다면 AI 모델이 얼마나 정교한지는 중요하지 않습니다. 전체 시스템은 여전히 취약합니다. 이 이야기의 "AI" 측면은 거의 주의를 산만하게 하며, 광택이 나는 마루판 아래에 있는 썩어가는 목재로부터 우리의 시선을 돌리게 하는 잘못된 방향입니다.
CISA의 KEV 공격: 중요한 지표
우리가 지각 있는 챗봇의 윤리적 영향과 AI 안전의 미묘한 차이에 대해 토론하느라 바쁜 가운데, CISA는 활발히 악용되는 전례 없는 수의 취약점을 KEV(Known Exploited Vulnerability) 카탈로그에 추가했습니다. 이것은 이론적인 연습이 아닙니다. 이것은 "언젠가 패치" 목록이 아닙니다. 이것은 긴급 "지금 당신의 집에 불이 났습니다*" 목록입니다.
최근 몇 주 동안 CISA는 수많은 항목을 추가하여 단기간 내에 적극적으로 악용된 취약점의 총계를 엄청난 수로 늘렸습니다[2]. 이것은 단순히 "보안이 나쁘다"는 것이 아닙니다. 이는 우리 세계를 운영하는 매우 중요한 기업 소프트웨어에 영향을 미치는 체계적이고 확대되는 위기입니다.
Kev 카탈로그에 최근 추가된 사항을 고려하십시오.
- CVE-2023-46214: CISA 패치 기한이 있는 Splunk Enterprise 원격 코드 실행 취약점(CVSS 9.8)으로, 패치가 적용되지 않은 시스템을 매우 취약하게 만듭니다.
- CVE-2023-29357: 수많은 기업 인트라넷의 백본에 영향을 미치는 Microsoft SharePoint Server 권한 상승 취약점입니다.
- CVE-2023-42824: Apple iOS/iPadOS 커널 취약점은 이미 표적 공격에 악용되어 통제된 생태계도 뚫을 수 없음을 보여줍니다.
- CVE-2023-30799: 모든 것을 연결하는 라우터에 영향을 미치는 MikroTik RouterOS 원격 코드 실행 결함은 종종 네트워크의 가장 깊은 부분에 패치가 적용되지 않은 채로 남아 있습니다.
Microsoft, Apple, Splunk, MikroTik, Linux, JFrog 등 주요 공급업체 전반에 걸쳐 적극적으로 악용되는 제로데이가 급속히 추가됨에 따라 즉각적이고 열렬한 주의가 필요합니다. 이는 일반적인 경고가 아닙니다. 이는 모든 IT 및 보안 팀에 직접적으로 울리는 사이렌입니다. CISA의 KEV 목록은 단순히 연방 기관을 위한 제안이 아닙니다. 이는 모든 조직에 대한 중요한 경고입니다. 위험을 무릅쓰고 무시하십시오.
'AI 보안'에 대한 환상과 주의 분산으로 인한 비용
불편한 진실은 다음과 같습니다. AI 플랫폼과 CISA KEV 포격의 근본적인 결함은 동일한 문제의 상호 연결된 측면입니다. 둘 다 소프트웨어 보안의 근본적인 붕괴에 대해 비명을 지르고 있지만 업계 전체의 시선은 위험할 정도로 어긋나 있습니다. 우리는 "AI"의 가능성과 위험에 너무 매료되어 기본적인 디지털 인프라를 썩게 만들고 있습니다.
"AI 보안"은 컨설턴트와 제품 관리자에게 새로운 영역이자 유행어가 되었습니다. 그런데 그게 정말 뭐죠? AI 시스템에 단지 보안만 적용되는 경우가 많습니다. 예, AI는 새로운 공격 벡터와 고유한 과제를 도입하지만 "AI 보안"의 상당 부분은 단순히 강력한 엔지니어링, 보안 코딩 관행 및 부지런한 패치입니다. 이는 우리가 수십 년 동안 실패해 왔던 것과 동일한 것입니다. 앞서 언급한 VM 격리 문제는 AI 플랫폼의 복잡성으로 인해 증폭되는 전형적인 취약점인 완벽한 예입니다.
우리는 점점 더 취약해지고 적극적으로 활용되는 기반 위에 엄청나게 복잡한 AI 시스템을 구축하고 있습니다. 마치 바퀴가 떨어져 나가고 엔진이 펄럭이는 가운데 첨단 AI 내비게이션을 갖춘 자율주행차를 꼼꼼하게 설계하는 것과 같습니다. "AI 보안"에 초점을 맞추는 것은 종종 방해가 되는 것처럼 느껴지며, 평범하고 평범하지만 절대적으로 중요한 기존 인프라 보안 작업에서 자원과 관심을 돌리게 됩니다.
우리는 다음의 큰 일을 쫓느라 너무 바빠서 현재의 큰 일이 불타버리도록 내버려두고 있습니까? Kev 위협의 엄청난 양과 폭은 이전의 AI 중심 제로데이 논의와는 달리 기본 디지털 인프라에 대한 체계적이고 긴급한 과제를 나타냅니다. 이것은 AI의 미래에 관한 것이 아닙니다. 그것은 우리 디지털 존재의 현재 상태에 관한 것입니다.
이제 CTO는 어떻게 될까요?
엔지니어링 책임자와 CTO에게 다음과 같은 메시지는 명확하고 즉각적입니다.
- KEV 목록의 우선순위 지정: 모든 것을 삭제합니다. 이러한 취약점을 패치하세요. 그것을 위임하십시오. 그것을 시행하십시오. 이는 선택사항이 아닙니다.
- 기본을 희생하면서 "AI 보안"의 과장된 광고에 휩쓸리지 마십시오. 예, AI의 고유한 위험을 이해하지만 강력한 엔지니어링, 안전한 개발 수명 주기 및 부지런한 패치가 여전히 최선의 방어라는 점을 기억하십시오. 공격자가 기본 VM이나 SharePoint 서버를 소유하고 있는 경우 멋진 AI 모델이 도움이 되지 않습니다.
- 기본 보안에 투자: 이는 단순히 다른 보안 도구를 구입하는 것 이상의 의미를 갖습니다. 이는 보안을 나중에 고려하지 않고 핵심 엔지니어링 분야로 평가하는 사람, 프로세스 및 문화에 투자하는 것을 의미합니다. 버그 현상금 프로그램은 훌륭하지만 기본 보안 전략이 아니라 안전망이어야 합니다.
AI 플랫폼 인프라 관련 사건은 경각심을 불러일으키지만 CISA KEV 목록은 긴급 경보다. 우리는 최신 AI 보안 이니셔티브에 감탄하는 것을 멈추고 실제 방어의 허점을 보완하기 시작해야 합니다. AI의 미래는 흥미롭지만 현재 보안 상태는 끔찍합니다.
소스
[1] AI 보안은 엉망이고 점점 더 악화될 것입니다 — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] 알려진 악용 취약점 카탈로그 — https://www.cisa.gov/known-exploited-vulnerability-catalog