Bộ quần áo bảo mật AI mới của Hoàng đế: Trong khi chúng ta nhìn vào Muse, Tổ chức sụp đổ
Hãy nói thẳng: ngành công nghệ có một nỗi ám ảnh mới và nó được gọi là "bảo mật AI". Tất cả chúng ta đều phải tập trung vào việc chèn nhanh, đầu độc mô hình và trích xuất dữ liệu từ các mô hình ngôn ngữ lớn. Trong khi đó, cơ sở hạ tầng kỹ thuật số, vật lý thực tế gắn kết các doanh nghiệp của chúng ta lại với nhau đang tích cực bị đốt cháy bởi hàng loạt các lỗ hổng zero-day không ngừng nghỉ. Một sự cố gần đây liên quan đến một nền tảng AI lớn, minh họa cho những thách thức lớn hơn trong việc bảo mật cơ sở hạ tầng AI, nêu bật sự phân đôi nguy hiểm này [1].
Meta, một công ty nổi tiếng với đặc tính "di chuyển nhanh và phá vỡ mọi thứ", đã phải đối mặt với sự giám sát kỹ lưỡng về các lỗ hổng bảo mật trong nền tảng AI của mình. Ví dụ: một chương trình tiền thưởng lỗi đã phát hiện ra một lỗ hổng nghiêm trọng làm lộ Máy ảo của người dùng. Đây không phải là một vụ rò rỉ dữ liệu tinh vi hay một cách bỏ qua lời nhắc thông minh mà là một lỗi cơ bản ở cấp cơ sở hạ tầng đã làm lộ máy ảo người dùng. Đây không phải là một số lỗ hổng bí truyền dành riêng cho AI; đây là sự cô lập VM cơ bản, một vấn đề mà chúng ta phần lớn cho rằng đã được giải quyết cách đây một thập kỷ. Nó thể hiện sự vi phạm nghiêm trọng quyền riêng tư và tính toàn vẹn dữ liệu, ảnh hưởng trực tiếp đến người dùng và các khách hàng doanh nghiệp tiềm năng đang tận dụng cơ sở hạ tầng AI như vậy.
Loại lỗ hổng này, mặc dù thực sự có tác động mạnh mẽ, nhưng lại không giống như một thách thức "bảo mật AI" mới mà giống một lỗi cơ sở hạ tầng cổ điển đội mũ AI hơn. Đó là lời nhắc nhở rằng ngay cả những nền tảng AI tiên tiến nhất cũng được xây dựng trên các lớp điện toán, kết nối mạng và ảo hóa thông thường. Nếu các lớp nền tảng đó có nhiều lỗ hổng, thì mô hình AI của bạn có phức tạp đến đâu cũng không thành vấn đề; toàn bộ hệ thống vẫn dễ bị tổn thương. Khía cạnh "AI" của câu chuyện này gần như là một sự xao lãng, một sự đánh lạc hướng sai lầm khiến chúng ta rời mắt khỏi những tấm gỗ mục nát bên dưới tấm ván sàn bóng loáng.
Đạn KEV của CISA: Một chỉ báo quan trọng
Trong khi chúng tôi đang bận tranh luận về ý nghĩa đạo đức của các chatbot có tri giác và các sắc thái an toàn của AI, CISA đang đưa một số lượng lỗ hổng được khai thác tích cực chưa từng có vào danh mục Các lỗ hổng bị khai thác đã biết (KEV). Đây không phải là một bài tập lý thuyết. Đây không phải là danh sách "bản vá một ngày nào đó". Đây là danh sách khẩn cấp "ngôi nhà của bạn đang cháy ngay lúc này".
Trong những tuần gần đây, CISA đã bổ sung nhiều mục, nâng tổng số lỗ hổng bị khai thác tích cực lên con số đáng kinh ngạc trong một thời gian ngắn [2]. Đây không chỉ là "bảo mật kém"; đây là một cuộc khủng hoảng leo thang, mang tính hệ thống, ảnh hưởng đến phần mềm doanh nghiệp rất quan trọng đang vận hành thế giới của chúng ta.
Xem xét các bổ sung gần đây cho danh mục KEV:
- CVE-2023-46214: Lỗ hổng thực thi mã từ xa Splunk Enterprise (CVSS 9.8) có thời hạn vá CISA, khiến các hệ thống chưa được vá rất dễ bị tấn công.
- CVE-2023-29357: Lỗ hổng leo thang đặc quyền của Microsoft SharePoint Server, ảnh hưởng đến xương sống của vô số mạng nội bộ của công ty.
- CVE-2023-42824: Một lỗ hổng trong nhân iOS/iPadOS của Apple, đã bị khai thác trong các cuộc tấn công có chủ đích, chứng tỏ rằng ngay cả các hệ sinh thái được kiểm soát cũng không phải là không thể xuyên thủng.
- CVE-2023-30799: Lỗ hổng thực thi mã từ xa MikroTik RouterOS, ảnh hưởng đến các bộ định tuyến kết nối mọi thứ, thường không được vá ở những góc sâu nhất của mạng.
Sự bổ sung nhanh chóng này của các lỗ hổng zero-day được khai thác tích cực trên khắp các nhà cung cấp lớn – Microsoft, Apple, Splunk, MikroTik, Linux, JFrog – đòi hỏi sự chú ý ngay lập tức và điên cuồng. Đây không phải là một cảnh báo chung; đó là tiếng còi báo động trực tiếp tới mọi nhóm bảo mật và CNTT. Danh sách KEV của CISA không chỉ là gợi ý cho các cơ quan liên bang; đó là một cảnh báo quan trọng đối với tất cả tổ chức. Bỏ qua nó lúc nguy hiểm.
Ảo tưởng về "Bảo mật AI" và cái giá phải trả của sự mất tập trung
Đây là sự thật khó chịu: những sai sót cơ bản trong nền tảng AI và rào cản CISA KEV là những khía cạnh liên kết với nhau của cùng một vấn đề. Cả hai đều hét lên về sự cố cơ bản trong bảo mật phần mềm, nhưng cái nhìn chung của ngành chúng ta đang bị sai lệch một cách nguy hiểm. Chúng ta bị thu hút bởi lời hứa và sự nguy hiểm của "AI" đến mức chúng ta đang để cơ sở hạ tầng kỹ thuật số nền tảng mục nát.
“Bảo mật AI” đã trở thành một từ thông dụng, một biên giới mới dành cho các nhà tư vấn và quản lý sản phẩm. Nhưng nó thực sự là gì? Thông thường, đó chỉ là bảo mật được áp dụng cho các hệ thống AI. Đúng, AI đưa ra các vectơ tấn công mới và những thách thức độc đáo, nhưng một phần đáng kể của "bảo mật AI" chỉ đơn giản là kỹ thuật mạnh mẽ, thực hành mã hóa an toàn và siêng năng vá lỗi – những thứ tương tự mà chúng ta đã thất bại trong nhiều thập kỷ. Vấn đề cách ly VM được đề cập trước đó là một ví dụ hoàn hảo: một lỗ hổng cổ điển được khuếch đại bởi sự phức tạp của nền tảng AI.
Chúng tôi đang xây dựng các hệ thống AI cực kỳ phức tạp trên nền tảng ngày càng mong manh và được khai thác tích cực. Nó giống như việc thiết kế một cách tỉ mỉ một chiếc ô tô tự lái với hệ thống định vị AI tiên tiến, trong khi bánh xe đang rơi ra và động cơ đang kêu xèo xèo. Việc tập trung vào "bảo mật AI" thường gây cảm giác mất tập trung, chuyển hướng các nguồn lực và sự chú ý khỏi công việc trần tục, vô duyên nhưng cực kỳ quan trọng là bảo vệ cơ sở hạ tầng hiện có.
Có phải chúng ta quá bận rộn theo đuổi điều lớn lao tiếp theo đến mức để cho những điều lớn lao hiện tại bị đốt cháy? Số lượng và phạm vi rộng lớn của các mối đe dọa KEV cho thấy thách thức cấp bách và mang tính hệ thống đối với cơ sở hạ tầng kỹ thuật số nền tảng, khác với các cuộc thảo luận về zero-day tập trung vào AI trước đây. Đây không phải là về tương lai của AI; đó là về tình trạng hiện tại của sự tồn tại kỹ thuật số của chúng ta.
Làm sao bây giờ, CTO?
Đối với các trưởng nhóm kỹ thuật và CTO, thông điệp rất rõ ràng và ngay lập tức:
- Ưu tiên danh sách KEV: Bỏ mọi thứ. Vá các lỗ hổng này. Ủy thác nó. Thực thi nó. Đây không phải là tùy chọn.
- Đừng bị cuốn vào sự cường điệu về "bảo mật AI" mà bỏ qua các nguyên tắc cơ bản: Có, hãy hiểu những rủi ro riêng của AI, nhưng hãy nhớ rằng kỹ thuật mạnh mẽ, vòng đời phát triển an toàn và việc vá lỗi siêng năng vẫn là cách bảo vệ tốt nhất của bạn. Một mô hình AI ưa thích sẽ không cứu được bạn nếu kẻ tấn công sở hữu máy ảo cơ bản hoặc máy chủ SharePoint của bạn.
- Đầu tư vào bảo mật nền tảng: Điều này có nghĩa nhiều hơn là chỉ mua một công cụ bảo mật khác. Nó có nghĩa là đầu tư vào con người, quy trình và một nền văn hóa coi trọng bảo mật như một nguyên tắc kỹ thuật cốt lõi chứ không phải là một suy nghĩ lại. Các chương trình thưởng lỗi rất tuyệt vời, nhưng chúng phải là mạng lưới an toàn chứ không phải chiến lược bảo mật chính của bạn.
Sự cố liên quan đến cơ sở hạ tầng nền tảng AI là hồi chuông cảnh tỉnh, nhưng danh sách CISA KEV mới là hồi chuông cảnh báo khẩn cấp. Chúng ta cần ngừng ngưỡng mộ các sáng kiến bảo mật AI mới nhất và bắt đầu vá các lỗ hổng trong hệ thống phòng thủ thực tế của mình. Tương lai của AI rất thú vị, nhưng tình trạng an ninh hiện tại của chúng ta thật đáng sợ.
Nguồn
[1] Bảo mật AI là một mớ hỗn độn và nó sắp trở nên tồi tệ hơn — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Danh mục các lỗ hổng bị khai thác đã biết - https://www.cisa.gov/known-exploited-vulnerabilities-catalog