Sự chậm lại của AI là một sự xao lãng. Ngôi nhà của bạn đang cháy.
Nói thẳng ra: ngành công nghệ cuối cùng cũng có được khoảnh khắc "đến với Chúa Giêsu" với AI, nhưng nó không giống như sự ăn năn thực sự mà giống một bước xoay chiến lược hơn. Đột nhiên, chính các kiến trúc sư của cuộc đua AI chóng mặt này – các nhà nghiên cứu nổi tiếng và các nhà tài trợ đã tài trợ cho các cuộc chạy nước rút sử dụng nhiên liệu caffeine của họ – đang kêu gọi giảm tốc độ [1]. Họ đang nói về "quản trị nội bộ", "khuôn khổ đạo đức" và tốc độ "cân nhắc hơn". Và thị trường, vốn là phong vũ biểu nhạy cảm, đã phản ứng với những lo ngại về tính bền vững của các khoản đầu tư vào AI gây ra biến động về nguồn cung chip [2].
Đây không phải là quy định bên ngoài; đó là một “đường lỗi” nội bộ xuất hiện từ chính hệ sinh thái AI. Và trong khi C-Suite tranh luận về ý nghĩa triết học của những sáng tạo trong tương lai của họ, thì hiện tại đang tích cực bùng cháy.
Tạm dừng thuận tiện
Hãy xem xét thời gian. Trong nhiều năm, câu thần chú là “di chuyển nhanh và phá vỡ mọi thứ” hay gần đây hơn là “di chuyển nhanh và xây dựng AGI”. Giờ đây, với những mô hình mạnh mẽ đã được triển khai, với bối cảnh cạnh tranh đã được xác định rõ ràng và với bóng ma của những quy định thực tế, có ý nghĩa đang rình rập, những lời kêu gọi thận trọng vang lên hơi trống rỗng. Đây có phải là sự thức tỉnh thực sự trước những rủi ro sâu sắc hay một động thái có tính toán nhằm củng cố quyền lực, làm chậm các đối thủ cạnh tranh và quản lý nhận thức của công chúng trước khi những lời chào hàng xuất hiện?
Thật dễ dàng để đưa ra lời cảnh báo khi bạn đã dồn vào thị trường các mô hình máy tính, tài năng và nền tảng. Việc ngành đột ngột tập trung vào "đánh giá lại lộ trình sản phẩm, đánh giá rủi ro và hoạch định chiến lược" nghe có vẻ cao quý nhưng cũng có vẻ là một cách thuận tiện để sắp xếp lại các nguồn lực. Điều này có khả năng làm chậm lại các lựa chọn thay thế nguồn mở hoặc những người chơi nhỏ hơn có thể thách thức những gã khổng lồ đã thành lập bằng cách kiểm soát quyền truy cập vào các tài nguyên thiết yếu hoặc gây ảnh hưởng đến các khung pháp lý. "Khuôn khổ đạo đức" đột nhiên trở nên quan trọng nhất, không phải khi các mô hình đang được đào tạo về dữ liệu cóp nhặt, mà giờ đây chúng đủ mạnh để thực sự định hình lại xã hội.
Những lo ngại được đưa ra trong cộng đồng học thuật và khoa học, cảnh báo rằng các "giải pháp" AI cho các vấn đề mở có thể đe dọa tính toàn vẹn trong lĩnh vực của họ [3], là một dấu hiệu rõ ràng về mức độ sâu sắc của mối quan ngại nội bộ này. Nhưng chúng ta đừng nhầm lẫn điều này với lòng vị tha. Đây không phải là về tác động của AI đối với việc làm hoặc cơ sở hạ tầng; đó là về kiểm soát – ai sử dụng nó và ở tốc độ nào. Cuộc tranh luận ít hơn về "chúng ta có nên xây dựng nó không?" và nhiều thông tin khác về "ai sẽ quyết định tốc độ chúng tôi xây dựng nó và ai sẽ thu được lợi nhuận?"
Trong khi họ tranh luận về tương lai, hiện tại của bạn đã bị tổn hại
Bây giờ, hãy chuyển từ những mối lo ngại trừu tượng, hướng tới tương lai về sự rạn nứt nội bộ của AI sang cuộc khủng hoảng hữu hình, ngay lập tức đang diễn ra trên mạng của chúng ta ngay bây giờ. Trong khi những gã khổng lồ AI đang suy ngẫm về linh hồn của cỗ máy của họ thì các nhóm vận hành của bạn đang nỗ lực ngăn chặn một thảm họa an ninh mạng toàn diện.
Chúng tôi không nói về những mối đe dọa mang tính lý thuyết hoặc những xu hướng chung. Chúng ta đang nói về các lỗ hổng zero-day được khai thác tích cực trong phần mềm doanh nghiệp nền tảng, tấn công cơ sở hạ tầng quan trọng bằng lực búa tạ.
- Ivanti Connect Secure và Policy Secure (CVE-2023-46805 & CVE-2024-21887): Đây không chỉ là một lỗi; đó là một vết thương hở. Những lỗ hổng này trong các giải pháp truy cập mạng và VPN của Ivanti đã bị khai thác tích cực, cho phép kẻ tấn công bỏ qua xác thực và thực thi các lệnh từ xa. CISA đã đưa ra nhiều cảnh báo, nêu bật rủi ro nghiêm trọng đối với các tổ chức dựa vào các hệ thống này để truy cập từ xa an toàn [4]. Hệ thống phòng thủ mạng chính của bạn, thứ mà bạn dựa vào để ngăn chặn kẻ xấu ngay tại cổng, đang bị khai thác tích cực để cấp cho kẻ tấn công quyền truy cập sâu vào vô số mạng doanh nghiệp.
- Giao diện người dùng web của Cisco iOS XE (CVE-2023-20198): Mức độ nghiêm trọng tối đa. Tích cực khai thác. Lỗ hổng này cho phép kẻ tấn công không được xác thực tạo tài khoản đặc quyền và giành toàn quyền kiểm soát các thiết bị Cisco IOS XE bị ảnh hưởng. Nếu kẻ tấn công sở hữu mặt phẳng quản lý cơ sở hạ tầng mạng của bạn thì chúng sẽ sở hữu toàn bộ mạng của bạn. Trò chơi kết thúc [5].
CISA không đưa ra "cảnh báo" cho vui; họ đang hét "cháy" trong một rạp hát đông đúc. Đây không chỉ là những mối đe dọa về mặt lý thuyết; chúng đang được sử dụng tích cực để xâm phạm các hệ thống quản lý và phòng thủ cốt lõi của các doanh nghiệp toàn cầu.
Đường lỗi thực sự
Sự trớ trêu dày đến mức bạn có thể cắt nó bằng một con dao cùn. Một mặt, chúng ta thấy giới tinh hoa AI đang tranh luận về ý nghĩa đạo đức của một tương lai mà họ vẫn đang xây dựng, kêu gọi sự chậm lại sau nhiều năm tăng tốc không được kiểm soát. Mặt khác, chúng ta có mối đe dọa hiện hữu ngay lập tức về công nghệ nền tảng hiện tại của chúng ta đang dần sụp đổ dưới sức nặng của các lỗ hổng chưa được giải quyết, chưa được vá.
“Lỗi” thực sự không chỉ nằm trong cộng đồng AI; nó nằm giữa tháp ngà của sự đổi mới và chiến hào của thực tế hoạt động. Đó là giữa các cuộc thảo luận trừu tượng, tập trung vào tương lai về "sự tự điều chỉnh" của AI và nhu cầu cụ thể, trước mắt về tính bảo mật và ổn định thực tế trong các hệ thống mà chúng ta dựa vào ngày nay.
Với tư cách là CTO và các nhà lãnh đạo kỹ thuật, chúng ta không thể bị phân tâm bởi các cuộc tranh luận triết học về sự chậm lại của AI. Mặc dù những cuộc thảo luận đó quan trọng về lâu dài nhưng chúng lại là điều xa xỉ khi ngôi nhà của bạn đang bốc cháy. Việc "đánh giá lại lộ trình sản phẩm" nên bắt đầu bằng việc củng cố nền tảng đổ nát của cơ sở hạ tầng hiện có của chúng ta. "Đánh giá rủi ro" cần ưu tiên các mối đe dọa ngay lập tức, được khai thác tích cực đang ảnh hưởng đến tính liên tục trong hoạt động và tính toàn vẹn dữ liệu hôm nay.
Các ưu tiên của ngành đang bị sai lệch. Chúng ta đang xây dựng những thứ nhanh hơn, sáng bóng hơn trên một nền móng đang mục nát. Lời kêu gọi giảm tốc độ AI có thể là một cuộc trò chuyện cần thiết, nhưng đối với những người trong chúng ta đang đối mặt với những ngày không của Ivanti và Cisco, điều đó giống như đang tranh luận về màu sắc của rèm cửa trong khi mái nhà sụp đổ. Tập trung vào hiện tại. Tương lai có thể đợi cho đến khi chúng ta không còn chảy máu nữa.
Nguồn
[1] Thư ngỏ yêu cầu tạm dừng các thí nghiệm AI khổng lồ - https://futureoflife.org/open-letter-pause-ai-development/ [2] Cổ phiếu AI đang tăng vọt, nhưng một số nhà đầu tư đang lo lắng — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Cuộc cách mạng AI trong khoa học: hứa hẹn và nguy hiểm - https://www.nature.com/articles/d41586-023-03223-y [4] Các tác nhân đe dọa khai thác các lỗ hổng bảo mật trong chính sách Ivanti Connect Secure và Ivanti — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Các tác nhân đe dọa khai thác lỗ hổng giao diện người dùng web của phần mềm Cisco IOS XE — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a