AI yavaşlaması diqqəti yayındırır. Eviniz yanır.
Açıq danışaq: texnoloji sənaye nəhayət süni intellektlə “İsaya gəliş” anını yaşayır, lakin bu, daha az həqiqi tövbə kimi hiss olunur və daha çox strateji bir nöqtə kimi hiss olunur. Qəfildən, bu dəhşətli süni intellekt yarışının memarları – tanınmış tədqiqatçılar və kofeinlə zəngin sprintlərini maliyyələşdirən maliyyəçilər – yavaşlamağa çağırırlar [1]. Onlar “daxili idarəçilik”, “etik çərçivələr” və “daha düşünülmüş” tempdən danışırlar. Həmişə həssas barometr olan bazar, çip ehtiyatlarında dəyişkənliyə səbəb olan AI investisiyalarının davamlılığı ilə bağlı narahatlıqlarla artıq reaksiya verdi [2].
Bu xarici tənzimləmə deyil; bu, süni intellekt ekosisteminin özündən çıxan daxili “nöqsan xətti”dir. C-suite gələcək yaradıcılıqlarının fəlsəfi nəticələrini müzakirə edərkən, indiki zaman aktiv şəkildə yanır.
Rahat Pauza
Vaxtı nəzərə alın. İllərdir ki, mantra "sürətlə hərəkət et və əşyaları sındır" və ya daha yaxınlarda "sürətlə hərəkət et və AGI qurun" idi. İndi, artıq yerləşdirilmiş güclü modellər, əsasən müəyyən edilmiş rəqabət mənzərəsi və gözlənilən faktiki, mənalı tənzimləmə xəyalları ilə ehtiyatlılıq çağırışları bir az boşdur. Bu, dərin risklərə qarşı həqiqi oyanışdır, yoxsa çəngəllər çıxmazdan əvvəl gücü birləşdirmək, rəqibləri ləngitmək və ictimai qavrayışı idarə etmək üçün hesablanmış manevrdir?
Hesablama, istedad və əsas modellər üzrə bazarı artıq küncə sıxdığınız zaman ehtiyatlı olmağı təbliğ etmək asandır. Sənayenin birdən-birə “məhsulun yol xəritələrinin yenidən qiymətləndirilməsi, risklərin qiymətləndirilməsi və strateji planlaşdırma”ya diqqət yetirməsi nəcib səslənir, lakin bu, həm də resursları yenidən uyğunlaşdırmaq üçün əlverişli bir yol kimi səslənir. Bu, açıq mənbəli alternativləri və ya əsas resurslara girişi idarə etməklə və ya tənzimləyici çərçivələrə təsir etməklə qurulmuş nəhənglərə meydan oxuya biləcək daha kiçik oyunçuları potensial olaraq ləngidə bilər. "Etik çərçivə" modellər qırılmış məlumatlar üzərində öyrədildiyi zaman deyil, cəmiyyəti həqiqətən yenidən formalaşdırmaq üçün kifayət qədər güclü olduqları üçün birdən üstündür.
Akademik və elmi icmalar daxilində səslənən narahatlıqlar, açıq problemlərə qarşı süni intellekt “həllərinin” onların sahələrinin bütövlüyünü təhdid edə biləcəyi barədə xəbərdarlıqlar [3], bu daxili narahatlığın dərinliyinin bariz göstəricisidir. Amma gəlin bunu altruizmlə səhv salmayaq. Bu, süni intellektin işlərə və ya infrastruktura təsiri ilə bağlı deyil; Söhbət nəzarətdən gedir – onu kimin və hansı sürətlə idarə edir. Müzakirə daha az "biz onu tikməliyikmi?" və daha çox "bizim onu nə qədər tez qurduğumuza kim qərar verə bilər və kim qazanır?"
Onlar Gələcəyi Müzakirə Edərken, İndiki Zamanınız Çıxarılır
İndi gəlin süni intellektin daxili çatlamasına dair mücərrəd, gələcəyə baxan narahatlıqlardan şəbəkələrimizdə hal-hazırda baş verən ani, hiss olunan böhrana keçək. Süni intellekt titanları öz maşınlarının ruhunu düşünərkən, əməliyyat qruplarınız tam inkişaf etmiş kibertəhlükəsizlik fəlakətini ehtiva etmək üçün mübarizə aparır.
Söhbət nəzəri təhlükələrdən və ya ümumi tendensiyalardan getmir. Söhbət təməl korporativ proqram təminatında aktiv şəkildə istifadə edilən, kritik infrastrukturu balyoz gücü ilə vuran sıfır gün zəifliklərindən gedir.
- Ivanti Connect Secure və Policy Secure (CVE-2023-46805 & CVE-2024-21887): Bu sadəcə bir səhv deyil; boşluq yarasıdır. İvantinin VPN və şəbəkəyə çıxış həllərindəki bu boşluqlardan aktiv şəkildə istifadə edilib və bu, təcavüzkarlara autentifikasiyadan yan keçməyə və uzaqdan əmrləri yerinə yetirməyə imkan verir. CISA təhlükəsiz uzaqdan giriş üçün bu sistemlərə arxalanan təşkilatlar üçün kritik riski vurğulayan çoxsaylı xəbərdarlıqlar etdi [4]. Qapıdakı pis adamları dayandırmaq üçün etibar etdiyiniz əsas şəbəkə müdafiəniz, təcavüzkarlara saysız-hesabsız müəssisə şəbəkələrinə dərin giriş imkanı vermək üçün fəal şəkildə istifadə olunur.
- Cisco IOS XE Veb UI (CVE-2023-20198): Maksimum ciddilik. Aktiv istismar olunur. Bu boşluq təsdiqlənməmiş təcavüzkarlara imtiyazlı hesablar yaratmağa və təsirlənmiş Cisco IOS XE cihazları üzərində tam nəzarət əldə etməyə imkan verir. Təcavüzkar şəbəkə infrastrukturunuzun idarəetmə planına sahibdirsə, bütün şəbəkənizin sahibidir. Oyun bitdi [5].
CISA əyləncə üçün "xəbərdarlıq" vermir; izdihamlı teatrda “atəş” deyə qışqırırlar. Bunlar təkcə nəzəri təhlükələr deyil; onlar qlobal müəssisələrdə əsas müdafiə və idarəetmə sistemlərini pozmaq üçün fəal şəkildə istifadə olunur.
Əsl Qüsur Xətti
İroniya o qədər qalındır ki, onu darıxdırıcı bıçaqla kəsə bilərsiniz. Bir tərəfdən, süni intellekt elitası hələ də qurduqları gələcəyin etik nəticələrini müzakirə edir və illərlə nəzarətsiz sürətlənmədən sonra yavaşlamağa çağırır. Digər tərəfdən, bizim cari təməl texnologiyamızın dərhal, ekzistensial təhlükəsi, ünvansız, yamaqsız zəifliklərin ağırlığı altında aktiv şəkildə dağılır.
Əsl “nöqsan xətti” təkcə AI icması daxilində deyil; bu, fil sümüyündən innovasiya qülləsi ilə əməliyyat reallığının səngərləri arasındadır. Bu, süni intellekt üçün “özünütənzimləmə”nin mücərrəd, gələcəyə yönəlmiş müzakirələri ilə bu gün etibar etdiyimiz sistemlərdə faktik təhlükəsizlik və sabitliyə olan təcili, konkret ehtiyac arasındadır.
CTO-lar və mühəndislik rəhbərləri kimi, biz süni intellektin yavaşlaması ilə bağlı fəlsəfi müzakirələrdən yayınmağa imkan verə bilmərik. Bu müzakirələr uzun müddət üçün vacib olsa da, eviniz aktiv şəkildə yanan zaman lüksdür. "Məhsul yol xəritələrinin yenidən qiymətləndirilməsi" mövcud infrastrukturumuzun dağılan əsaslarını möhkəmləndirməklə başlamalıdır. "Risk qiymətləndirmələri" əməliyyat davamlılığını və məlumatların bütövlüyünü bu gün xələl gətirən dərhal, fəal şəkildə istifadə edilən təhdidlərə üstünlük verməlidir.
Sənayenin prioritetləri çarpazdır. Biz aktiv şəkildə çürüyən təməl üzərində daha sürətli, daha parlaq şeylər qururuq. Süni intellektin zəifləməsinə çağırış lazımlı söhbət ola bilər, lakin İvanti və Cisco ilə sıfır günlərlə məşğul olan bizlər üçün dam örtüyü içəri girərkən pərdələrin rəngini müzakirə etmək kimi hiss olunur. İndiki vaxta diqqət yetirin. Gələcək biz aktiv qanaxmayana qədər gözləyə bilər.
Mənbələr
[1] Nəhəng AI təcrübələrini dayandırmaq üçün açıq məktub — https://futureoflife.org/open-letter-pause-ai-development/ [2] AI səhmləri yüksəlir, lakin bəzi investorlar əsəbiləşirlər — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Elmdə süni intellekt inqilabı: vədlər və təhlükələr — https://www.nature.com/articles/d41586-023-03223-y [4] Ivanti Connect Secure və Ivanti Policy Secure zəifliklərindən istifadə edən təhlükə aktyorları — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Cisco IOS XE Proqram Təminatının Veb UI Zəifliyindən İstismar Edən Təhdid Aktyorları — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a