Tirai Besi Digital Turun, dan Kita Semua Berada di Treadmill Menampal
Visi masa depan teknologi global yang bersatu semakin surut; era itu telah berlalu, digantikan oleh blok geopolitik yang bersaing. Jika anda masih percaya "sumber terbuka" ialah kuasa yang neutral, berfaedah universal, atau AI hanya akan memudahkan kehidupan kita, maka dorongan BRICS AI China dan penemuan kerentanan dipacu AI oleh Microsoft akan mencabar andaian tersebut. Kami sedang menyaksikan pemecahan dunia digital yang disengajakan dan strategik, dan ia akan menjadikan tugas anda lebih mencabar dengan ketara.
Sumber Terbuka, Dijenamakan Semula: The BRICS AI Gambit
Cadangan China untuk menerajui komuniti Model Bahasa Besar (LLM) sumber terbuka dalam BRICS bukan sekadar latihan akademik; ia adalah permainan kuasa geopolitik yang dipersembahkan dalam istilah mesra pembangun [1]. Ini bukan pergerakan sumber terbuka seperti yang dibayangkan oleh perintis awalnya. Ini adalah "sumber terbuka" dengan agenda yang disokong kerajaan, naratif balas yang disengajakan kepada penguasaan teknologi Barat. Anggap ia sebagai Inisiatif Jalur dan Jalan digital untuk AI, mewujudkan infrastruktur dan piawaian yang pasti akan menyimpang daripada yang diperjuangkan oleh Silicon Valley dan sekutunya.
Untuk CTO dan petunjuk kejuruteraan, ini bukan dasar abstrak. Ini membayangkan potensi pembahagian kumpulan bakat AI global. Adakah penyelidik dan pembangun terbaik anda akan tertarik kepada model dan rangka kerja yang selaras dengan tadbir urus data Barat dan garis panduan etika, atau adakah mereka akan mengejar peluang dalam ekosistem BRICS yang berkembang pesat dengan piawaian tersendiri? Jawapannya tidak mudah, dan implikasi untuk pemerolehan dan pengekalan bakat adalah mendalam.
Tambahan pula, langkah ini secara langsung mencabar kesalingoperasian yang kami jangkakan dalam teknologi global. Bayangkan senario di mana LLM "sumber terbuka" anda, dilatih pada set data sejajar BRICS dan mematuhi rangka kerja etika mereka, bergelut untuk menyepadukan dengan lancar dengan aplikasi atau perkhidmatan awan yang dibangunkan Barat. Kami menghadapi tadbir urus data yang berbeza, seni bina model yang mungkin tidak serasi dan labirin kawal selia yang menjadikan GDPR kelihatan mudah. Ini bukan kehancuran AI sumber terbuka; ia adalah penggunaan strategiknya, mewujudkan alternatif bukan Barat yang akan bersaing untuk bahagian pasaran, perkongsian minda, dan akhirnya, pengaruh global. Rantaian bekalan anda untuk model AI menjadi jauh lebih kompleks, dan pasukan pematuhan anda akan memerlukan sumber yang bertambah.
Treadmill Dikuasakan AI: "Hadiah" Keselamatan Microsoft
Sekarang, mari kita beralih daripada strategi geopolitik kepada realiti operasi. Microsoft baru-baru ini mendedahkan bahawa sistem penemuan kerentanan yang dikuasakan AI sedang mencungkil bilangan kelemahan yang meningkat dengan ketara [2]. Ini membawa kepada peningkatan yang ketara dalam pembaikan yang diperlukan. Di permukaan, ini kelihatan seperti kemenangan: AI menjadikan perisian kami lebih selamat dengan mencari pepijat lebih cepat. Tetapi lihat lebih dekat, dan anda akan temui kitaran baharu, lebih pantas dan lebih meletihkan untuk setiap pasukan IT dan keselamatan di planet ini.
Ini bukan tentang AI yang mengeksploitasi sifar hari; ia mengenai AI menemui mereka pada kadar yang tidak pernah berlaku sebelum ini. Dan siapa, kemudian, bertanggungjawab untuk menampal beratus-ratus kelemahan yang baru dikenal pasti ini, selalunya merentasi sistem perusahaan yang kompleks dan saling berkaitan? Itu akan menjadi anda, dan pasukan anda yang sudah berpanjangan. AI telah mempercepatkan kitaran pendedahan kerentanan kepada kadar yang dipercepatkan, tetapi kapasiti manusia untuk menampal dan pengesahan tidak selaras secara ajaib.
"Faedah" di sini adalah kelebihan yang kompleks. Ya, sistem kami mungkin lebih selamat kerana lebih banyak kelemahan ditemui. Tetapi realiti operasi adalah beban kerja yang berterusan dan meningkat. Strategi menampal anda, peruntukan sumber, dan juga model penilaian risiko anda memerlukan penilaian semula asas. Irama tradisional "Patch Tuesday" menjadi konsep lapuk, digantikan dengan larian pecut intensiti tinggi yang berterusan. Ini bukan sahaja tentang menguruskan lebih banyak tampalan; ia mengenai mengurus kerumitan tampalan tersebut, potensi untuk regresi dan jumlah pengurusan perubahan yang diperlukan. AI, dalam hal ini, tidak memudahkan keselamatan; ia menambah beban operasi, menuntut lebih banyak daripada sumber manusia yang sudah tegang.
Masa Depan yang Berpecah-belah
Kedua-dua perkembangan ini, nampaknya berbeza, memberi gambaran yang konsisten: AI, jauh daripada menjadi kuasa penyatuan atau memudahkan, secara aktif menyumbang kepada persekitaran teknologi yang lebih berpecah-belah dan menuntut. Inisiatif BRICS AI mewakili pemecahan geopolitik, memaksa kami untuk bersaing dengan piawaian dan ekosistem yang berbeza. Tampalan dipacu AI Microsoft menandakan pemecahan operasi, di mana kelajuan penemuan mengatasi kemudahan pengurusan, yang membawa kepada kerja reaktif yang berterusan.
Sebagai pemimpin teknologi, kita tidak lagi mampu untuk optimis yang naif. Dunia digital sedang berpecah, dan alatan yang kami bina, malah yang direka untuk pertahanan, mencipta cabaran baharu lebih cepat daripada menyelesaikan cabaran lama. Perancangan strategik anda kini mesti mengambil kira pasaran AI global yang bercabang dua, di mana "sumber terbuka" mempunyai pelbagai takrifan yang berpotensi bercanggah. Pasukan operasi anda mesti bersedia untuk kitaran penyelenggaraan keselamatan dipercepatkan AI tanpa henti yang akan menguji had mereka. Masa depan bukan tentang kurang kerumitan; ia mengenai mengurus lebih banyak perkara itu, lebih pantas dan merentas domain yang semakin retak. Menyesuaikan diri, atau mengambil risiko tidak relevan.
Sumber
[1] China mencadangkan platform AI sumber terbuka BRICS — https://www.scmp.com/tech/tech-war/article/3232675/china-proposes-brics-open-source-ai-platform-counter-western-dominance-and-boost-developing-nations [2] Blog Keselamatan Microsoft: Bagaimana AI membantu kami melindungi pelanggan — https://www.microsoft.com/security/blog/2023/07/18/how-ai-is-helping-us-protect-customers/