הבינה המלאכותית החדשה של הקיסר, והקרן הנרקבת מתחתיה
זוכרים מתי AI עמד להציל את כולנו? מסתבר שהמושיעים מבקשים כעת פסק זמן. רק לאחרונה, האדריכלים של העתיד מונע הבינה המלאכותית שלנו - חוקרי ה"חזית" ובעלי המשקל הכבד הפיננסי - חבטו יחד על הבלמים, ודרשו האטה בפיתוח עקב "חששות בטיחות מתגברים" [1]. השוק, תמיד הכלי הקהה, הגיב בשיעול ריאה: מניות שבבים ושחקני בינה מלאכותית צנחו [2]. בייג'ין, כצפוי, לעג לאזהרות, בעוד ענקיות השבבים של סיאול נרתעו מתשלומים מקדימים עבור התקדמות בינה מלאכותית עתידית [2].
זה לא רק ויכוח פילוסופי עבור מגדל השן. זהו שינוי סיסמי, הודאה פומבית בפזיזות מתוך האליטה של התעשייה. ולמען האמת, זה קצת נוח מדי.
הפסקת הבינה המלאכותית: אלטרואיזם או משחק כוח?
בואו נהיה ברורים: כשהאנשים שבנו את הרקטה פתאום מבינים שהם שכחו את המצנחים אחרי השיגור, זה לא רגע של התעוררות אתית עמוקה. זו התחרטות מאוחרת בשירות עצמי. אלה אינם אידיאליסטים פעורי עין; אלה הטיטאנים שדוחפים את הדוושה עד הסוף, רודפים אחרי צמיחה אקספוננציאלית ודומיננטיות בשוק. כעת, כאשר רוח הרפאים של "ההשלכות הבלתי צפויות" מתנשא - ואולי, באופן ציני יותר, ההבנה שהקצב הנוכחי אינו בר קיימא או שהם צריכים לגבש את ההובלה שלהם - הם קוראים לנשימה קולקטיבית.
תגובת השוק מעידה. צניחה במניות השבבים היא לא רק פחד; זה על ההשלכות הפיננסיות המיידיות של האטה פוטנציאלית. הדחיפה של בייג'ינג? איתות ברור לכך שהיתרון האסטרטגי הלאומי גובר על דאגות בטיחות מופשטות. ויצרניות השבבים של סיאול מסרבות לתשלומים מראש? זה הצליל של הון שמטיל ספק ביציבות וברווחיות ארוכת הטווח של עתיד לא ברור פתאום.
עבורנו, ה-CTOs ומובילי ההנדסה, זה מתורגם ישירות לנוף כאוטי. צפו שההתערבויות הרגולטוריות יואצו, ויאלצו תיעדוף מחדש של פרויקטים של AI. האתוס "זוז מהר ושבור דברים" עבור AI מת רשמית, והוחלף בחיפוש קדחתני אחר מסגרות "פיתוח בינה מלאכותית אתית" שהיו אמורים להיות אפויים מהיום הראשון. ההשקעות יהפכו זהירות יותר, האסטרטגיות יתחלפו, וכן, שוקי העבודה ירגישו את הקור כאשר הבהלה לזהב תפנה את מקומה לגישה מדודה יותר, ובתקווה, אחראית יותר. אבל בואו לא ניקח בטעות את זה כאלטרואיזם טהור. "הפסקה" זו עוסקת באותה מידה בשליטה וכיול מחדש של השוק כפי שהיא עוסקת בבטיחות אמיתית.
בזמן הויכוח על הטיטאנים, הקרן מתפוררת
כעת, בעוד האליטה של AI עוברת את המשבר הקיומי שלה, מתלבטת באתיקה של מודיעין-על עתידי, בואו נדבר על משבר האבטחה האמיתי, המאוד נוכח והקטסטרופלי לחלוטין שמתפתח ממש עכשיו.
השבוע, CISA הוסיפה מספר CVEs חדשים לקטלוג ה- Known Exploited Vulnerabilities שלה [3]. אנחנו מדברים על RCE שורש מאושר ב-Cisco Secure Email Gateway (CVE-2023-20269) [4], חציית נתיב של CVSS 10.0 ב-GitLab (CVE-2023-2825) [3], ו-Chrome Zero-day שתוקן לאחרונה (CVE-2023-4863) שדרש תשומת לב [מיידית].
אבל אגרוף הבטן האמיתי, זה שאמור לגרום לכל איש מקצוע אבטחה לצרוח אל הריק, הוא האיום המתמשך של פגמים יסודיים. שקול את CVE-2021-1647, פגיעות הסלמה מקומית של הרשאות במנוע ההגנה מפני תוכנות זדוניות של Microsoft Defender [5]. זה לא היה איזה פגם לא ברור; הייתה לו הוכחה ציבורית והיא נוצלה באופן פעיל בטבע, והדגישה כיצד ניתן להתפשר על רכיבים קריטיים של ההגנה הדיגיטלית שלנו ולהישאר פגיעים לתקופה מסוימת.
תן לזה לשקוע פנימה. בזמן שאנחנו דנים באתיקה של חוש בינה מלאכותית, התוכנה עצמה שנועדה להגן על נקודות הקצה שלנו, שכבת היסוד של ההגנה הדיגיטלית שלנו, הוכחה כבעלת פגמים ידועים בציבור ומנוצלים באופן אקטיבי המאפשרים לתוקף להעלות את ההרשאות. זה כמו להתווכח על ההשלכות הפילוסופיות של כונן עיוות בזמן שהבלמים של המכונית שלך נכשלים והמנוע בוער.
ההתחשבנות: שני צדדים של אותו מטבע
אלו לא סיפורים נפרדים. הם שני צדדים של אותו מטבע פגום עמוק: תעשיית טכנולוגיה שתעדפה בעקביות מהירות, חידוש ותפיסה חדשנות על פני אבטחה בסיסית, יציבות ואחריות.
הקריאה הפתאומית של מנהיגי הבינה המלאכותית להאטה היא ניסיון תגובתי, משרת עצמי, לתקן את המסלול אחרי שהם כבר שחררו מערכות חזקות וחסרות הבנה לטבע. זו הודאה שהמנטרת "זוז מהר ושבור דברים", כשהיא מיושמת על טכנולוגיה שעלולה לשנות עולם, היא לא רק חסרת אחריות, אלא מסוכנת.
ההתקפה של יום האפס, במיוחד הפגיעות הקריטית של Defender, היא התוצאה הישירה והכואבת של אותה חשיבה המיושמת על IT בסיסי. זו תוצאה של תרבות שמתייחסת לרוב לאבטחה כאל מחשבה שלאחר מכן, תיבת סימון של תאימות או מרכז עלות, ולא כרכיב אינטגרלי ובלתי ניתן למשא ומתן של כל מוצר ומערכת בודדים. אנחנו כל כך עסוקים במרדף אחרי האובייקט המבריק הבא - ה-LLM הבא, סוכן הבינה המלאכותית הבא - עד שנתנו לאדמה שמתחת לרגלינו להירקב.
עבור CTOs ומובילי הנדסה, המסר הוא חד ומיידי. תפסיק לרדוף אחרי כל מגמת בינה מלאכותית שחוצה את הפיד שלך. הכפיל את היסודות. תן עדיפות לתיקון, במיוחד עבור פגיעויות קריטיות, המנוצלות באופן פעיל, כמו אלו ב-Cisco, GitLab והאיום המתמשך המודגם על ידי ה-LPEs בעבר של Defender. יישם אמצעי מניעה חזקים. דרשו אחריות מהספקים שלכם על תנוחת האבטחה שלהם, לא רק על מפת הדרכים התכונות שלהם.
נפילת השוק ובעיות הביטחון הבסיסיות שלא טופלו אינן רק חדשות. הם חשבון. עולם טכנולוגי מהיר מדי, פזיז מדי, ולבסוף, חשוף מדי. הגיע הזמן להתבגר, לאבטח את היסודות שלנו, ואז, רק אז, לשקול בזהירות את הגבול הבא.
מקורות
[1] Future of Life Institute - השהה ניסויי AI ענק: מכתב פתוח - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC - מומחי AI קוראים להשהות בפיתוח מערכות AI מתקדמות - https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Known Exploited Vulnerabilities Catalog — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory - Cisco Secure Email and Web Manager, Cisco Email Security Appliance, ו-Cisco Web Security Appliance Vulnerabilities - https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] מרכז התגובה לאבטחת מיקרוסופט - פגיעות הסלמה של הרשאות מקומיות של Microsoft Defender - https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647