Yapay Zekanın Yavaşlaması Dikkat Dağıtıcıdır. Eviniz Yanıyor.
Açık konuşalım: teknoloji endüstrisi nihayet yapay zeka ile "İsa'ya gelme" anını yaşıyor, ancak bu gerçek bir pişmanlıktan ziyade stratejik bir dönüm noktası gibi geliyor. Aniden, bu çığır açan yapay zeka yarışının mimarları (önde gelen araştırmacılar ve kafein yakıtlı sprint koşularını finanse eden finansörler) yavaşlama çağrısında bulunmaya başladı [1]. "İç yönetim"den, "etik çerçevelerden" ve "daha kasıtlı" bir tempodan bahsediyorlar. Ve her zaman hassas barometre olan pazar, çip stoklarında dalgalanmaya neden olan yapay zeka yatırımlarının sürdürülebilirliğine ilişkin endişelerle zaten tepki gösterdi [2].
Bu harici bir düzenleme değil; bu, yapay zeka ekosisteminin kendisinden ortaya çıkan dahili bir "fay hattıdır". Üst düzey yöneticiler gelecekteki yaratımlarının felsefi sonuçlarını tartışırken, günümüz aktif olarak yanıyor.
Kullanışlı Duraklatma
Zamanlamayı düşünün. Yıllardır mantra "hızlı hareket edin ve işleri bozun" veya son zamanlarda "hızlı hareket edin ve AGI oluşturun" oldu. Şimdi, halihazırda uygulamaya konulan güçlü modellerle, rekabet ortamının büyük ölçüde tanımlanmış olmasıyla ve gerçek, anlamlı düzenlemelerin ufukta belirmesiyle birlikte, uyarı çağrıları biraz içi boş geliyor. Bu, derin risklere karşı gerçek bir uyanış mı, yoksa gücü pekiştirmek, rakipleri yavaşlatmak ve dirgenler ortaya çıkmadan önce kamuoyunun algısını yönetmek için hesaplanmış bir manevra mı?
Piyasayı bilgi işlem, yetenek ve temel modeller konusunda zaten köşeye sıkıştırdığınızda dikkatli olmanızı öğütlemek kolaydır. Sektörün birdenbire "ürün yol haritalarının, risk değerlendirmelerinin ve stratejik planlamanın yeniden değerlendirilmesi"ne odaklanması kulağa asil geliyor ama aynı zamanda kaynakları yeniden düzenlemenin uygun bir yolu gibi görünüyor. Bu, açık kaynak alternatiflerini veya temel kaynaklara erişimi kontrol ederek veya düzenleyici çerçeveleri etkileyerek yerleşik devlere meydan okuyabilecek daha küçük oyuncuları potansiyel olarak yavaşlatabilir. Modeller kazınmış veriler üzerinde eğitilirken değil, artık toplumu gerçekten yeniden şekillendirecek kadar güçlü olduklarında "etik çerçeve" birdenbire en önemli hale geldi.
Akademik ve bilimsel topluluklarda dile getirilen ve yapay zekanın açık sorunlara yönelik "çözümlerinin" kendi alanlarının bütünlüğünü tehdit edebileceği uyarısında bulunan endişeler [3], bu iç kaygının derinliğinin açık bir göstergesidir. Ancak bunu fedakarlıkla karıştırmayalım. Bu, yapay zekanın işler veya altyapı üzerindeki etkisiyle ilgili değil; mesele kontrol ile ilgilidir; onu kimin ve hangi hızda kullandığı. Tartışma "bunu inşa etmeli miyiz?" konusunda daha az. ve "Bunu ne kadar hızlı inşa edeceğimize kim karar verecek ve kim kâr edecek?" hakkında daha fazlası.
Onlar Geleceği Tartışırken Bugününüz Tehlikede
Şimdi, yapay zekanın iç çatlağına ilişkin soyut, geleceğe yönelik kaygılardan, şu anda ağlarımızda ortaya çıkan acil, somut krize dönelim. Yapay zeka devleri makinelerinin ruhunu düşünürken operasyonel ekipleriniz tam anlamıyla bir siber güvenlik felaketini kontrol altına almak için çabalıyor.
Teorik tehditlerden veya genel eğilimlerden bahsetmiyoruz. Temel kurumsal yazılımlarda aktif olarak yararlanılan sıfır gün güvenlik açıklarından, kritik altyapıya balyoz gücüyle vurmaktan bahsediyoruz.
- Ivanti Connect Güvenli ve Politika Güvenliği (CVE-2023-46805 ve CVE-2024-21887): Bu yalnızca bir hata değildir; bu açık bir yara. Ivanti'nin VPN ve ağ erişim çözümlerindeki bu güvenlik açıklarından aktif olarak yararlanılarak saldırganların kimlik doğrulamayı atlamasına ve uzaktan komutlar yürütmesine olanak tanınıyor. CISA, güvenli uzaktan erişim için bu sistemlere güvenen kuruluşlar için kritik riski vurgulayan çok sayıda uyarı yayınladı [4]. Kötü adamları kapıda durdurmak için güvendiğiniz tek şey olan birincil ağ savunmanız, saldırganlara sayısız kurumsal ağa derin erişim sağlamak için aktif olarak kullanılıyor.
- Cisco IOS XE Web Kullanıcı Arayüzü (CVE-2023-20198): Maksimum önem derecesi. Aktif olarak sömürülüyor. Bu güvenlik açığı, kimliği doğrulanmamış saldırganların ayrıcalıklı hesaplar oluşturmasına ve etkilenen Cisco IOS XE cihazları üzerinde tam kontrol sahibi olmasına olanak tanır. Bir saldırgan ağ altyapınızın yönetim düzlemine sahipse, tüm ağınızın sahibi olur. Oyun bitti [5].
CISA eğlence olsun diye "uyarılar" yayınlamıyor; kalabalık bir tiyatro salonunda "ateş" diye bağırıyorlar. Bunlar yalnızca teorik tehditler değil; küresel kuruluşlar genelinde temel savunma ve yönetim sistemlerinden ödün vermek için aktif olarak kullanılıyorlar.
Gerçek Fay Hattı
İroni o kadar yoğun ki kör bir bıçakla kesebilirsin. Bir tarafta, hâlâ inşa etmekte oldukları bir geleceğin etik sonuçlarını tartışan, yıllarca süren kontrolsüz hızlanmanın ardından yavaşlama çağrısında bulunan yapay zeka elitleri var. Öte yandan, mevcut temel teknolojimizin ele alınmamış, yama yapılmamış güvenlik açıklarının ağırlığı altında etkin bir şekilde parçalanmasına ilişkin acil, varoluşsal tehditle karşı karşıyayız.
Gerçek "fay hattı" yalnızca yapay zeka topluluğu içinde değildir; inovasyonun fildişi kulesi ile operasyonel gerçekliğin siperleri arasındadır. Bu, yapay zeka için "kendi kendini düzenleme" konusundaki soyut, geleceğe odaklı tartışmalar ile bugün güvendiğimiz sistemlerde gerçek güvenlik ve istikrara yönelik acil, somut ihtiyaç arasındadır.
CTO'lar ve mühendislik liderleri olarak, yapay zeka yavaşlamasına ilişkin felsefi tartışmaların dikkatimizi dağıtmasına izin veremeyiz. Bu tartışmalar uzun vadede önemli olsa da, eviniz aktif olarak yanıyorsa bunlar bir lükstür. "Ürün yol haritalarının yeniden değerlendirilmesi" mevcut altyapımızın çökmekte olan temellerini desteklemekle başlamalıdır. "Risk değerlendirmelerinin", günümüzde operasyonel sürekliliği ve veri bütünlüğünü tehlikeye sokan acil, aktif olarak istismar edilen tehditlere öncelik vermesi gerekir.
Sektörün öncelikleri çarpık. Aktif olarak çürüyen bir temel üzerine daha hızlı, daha parlak şeyler inşa ediyoruz. Yapay zekanın yavaşlaması çağrısı gerekli bir konuşma olabilir, ancak Ivanti ve Cisco'nun sıfır günleriyle uğraşan bizler için bu, çatı çökerken perdelerin rengini tartışmak gibi geliyor. Şu ana odaklanın. Gelecek, biz aktif olarak kan kaybedene kadar bekleyebilir.
Kaynaklar
[1] Dev Yapay Zeka Deneylerini Duraklatmak İçin Açık Mektup — https://futureoflife.org/open-letter-pause-ai-development/ [2] Yapay zeka hisseleri yükseliyor ancak bazı yatırımcılar tedirgin olmaya başlıyor — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Bilimde yapay zeka devrimi: vaatler ve tehlikeler — https://www.nature.com/articles/d41586-023-03223-y [4] Ivanti Connect Secure ve Ivanti Policy Secure Açıklarından Yararlanan Tehdit Aktörleri — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Cisco IOS XE Yazılımı Web Kullanıcı Arayüzü Güvenlik Açıklarından Yararlanan Tehdit Aktörleri — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a