האטת הבינה המלאכותית היא הסחת דעת. הבית שלך בוער.
בואו נהיה בוטים: תעשיית הטכנולוגיה סוף סוף חווה את רגע ה"בוא אל ישו" שלה עם AI, אבל זה מרגיש פחות כמו חזרה בתשובה אמיתית ויותר כמו ציר אסטרטגי. לפתע, האדריכלים של מרוץ הבינה המלאכותית הפורץ הזה - החוקרים הבולטים והמממנים שמימנו את הספרינטים המונעים בקפאין - קוראים להאטה [1]. הם מדברים על "ממשל פנימי", "מסגרות אתיות" וקצב "מכוון יותר". והשוק, תמיד הברומטר הרגיש, כבר הגיב, עם חששות לגבי קיימותן של השקעות בינה מלאכותית הגורמת לתנודתיות במניות השבבים [2].
זו לא רגולציה חיצונית; זהו "קו שבר" פנימי המתגלה מתוך מערכת האקולוגית של הבינה המלאכותית עצמה. ובעוד ש-C-suite דנים בהשלכות הפילוסופיות של יצירותיהם העתידיות, ההווה בוער באופן פעיל.
ההפסקה הנוחה
קחו בחשבון את העיתוי. במשך שנים, המנטרה הייתה "זוז מהר ושבור דברים", או לאחרונה, "זוז מהר ובנה AGI". כעת, עם דגמים רבי עוצמה שכבר נפרסו, כאשר הנוף התחרותי מוגדר במידה רבה, ועם רוח הרפאים של רגולציה אמיתית ומשמעותית מתקרב, הקריאות לזהירות מצלצלות מעט חלולות. האם זו התעוררות אמיתית לסיכונים העמוקים, או תמרון מחושב לגיבוש כוח, להאט את המתחרים ולנהל את התפיסה הציבורית לפני שהקלשונים יוצאים?
קל להטיף לזהירות כשכבר תפסת את השוק על מודלים מחשוב, כישרון ובסיס. ההתמקדות הפתאומית של התעשייה ב"הערכה מחדש של מפות דרכים של מוצרים, הערכות סיכונים ותכנון אסטרטגי" נשמעת אצילית, אבל היא גם נשמעת כמו דרך נוחה ליישר מחדש משאבים. זה עשוי להאט חלופות קוד פתוח או שחקנים קטנים יותר שעלולים לאתגר את הענקיות המבוססות על ידי שליטה בגישה למשאבים חיוניים או השפעה על מסגרות רגולטוריות. "המסגרת האתית" היא פתאום חשובה ביותר, לא כשהמודלים אומנו על נתונים מגורדים, אלא עכשיו כשהם חזקים מספיק כדי באמת לעצב מחדש את החברה.
דאגות שהושמעו בקהילות אקדמיות ומדעיות, והזהירו ש"פתרונות" בינה מלאכותית לבעיות פתוחות עלולים לאיים על שלמות התחומים שלהן [3], הם אינדיקטור בולט לעומק הדאגה הפנימית הזו. אבל בואו לא ניקח בטעות את זה כאלטרואיזם. זה לא קשור להשפעה של AI על מקומות עבודה או תשתית; מדובר על שליטה - מי מפעיל אותה, ובאיזה קצב. הדיון הוא פחות על "האם אנחנו צריכים לבנות את זה?" ועוד על "מי יחליט כמה מהר אנחנו בונים אותו ומי מרוויח?"
בזמן שהם מתווכחים על העתיד, ההווה שלך נפגע
כעת, הבה נפנה מהדאגות המופשטות, המביטות לעתיד, של השבר הפנימי של AI למשבר המיידי והמוחשי שמתגלה ברשתות שלנו ממש עכשיו. בזמן שהטיטאנים בבינה מלאכותית מהרהרים בנשמת המכונות שלהם, הצוותים התפעוליים שלך מתאמצים להכיל קטסטרופה של אבטחת סייבר מלאה.
אנחנו לא מדברים על איומים תיאורטיים או על מגמות כלליות. אנחנו מדברים על ניצול פעיל של פגיעויות של יום אפס בתוכנות ארגוניות בסיסיות, ופוגעות בתשתית קריטית בכוח של פטיש.
- Ivanti Connect Secure ו-Policy Secure (CVE-2023-46805 & CVE-2024-21887): זה לא רק באג; זה פצע פעור. הפגיעויות הללו בפתרונות ה-VPN והגישה לרשת של Ivanti נוצלו באופן פעיל, מה שמאפשר לתוקפים לעקוף את האימות ולהפעיל פקודות מרחוק. CISA פרסמה אזהרות מרובות, המדגישה את הסיכון הקריטי לארגונים המסתמכים על מערכות אלו לגישה מרחוק מאובטחת [4]. הגנת הרשת העיקרית שלך, הדבר היחיד שאתה סומך עליו כדי לעצור את הרעים בשער, מנוצלת באופן פעיל כדי להעניק לתוקפים גישה עמוקה לאינספור רשתות ארגוניות.
- Cisco IOS XE Web UI (CVE-2023-20198): חומרה מקסימלית. מנוצל באופן פעיל. פגיעות זו מאפשרת לתוקפים לא מאומתים ליצור חשבונות מורשים ולהשיג שליטה מלאה על מכשירי Cisco IOS XE המושפעים. אם תוקף הוא הבעלים של מישור הניהול של תשתית הרשת שלך, הוא הבעלים של כל הרשת שלך. המשחק הסתיים [5].
CISA לא מוציא "אזהרות" בשביל הכיף; הם צועקים "אש" בתיאטרון הומה אדם. אלה לא רק איומים תיאורטיים; הם נמצאים בשימוש פעיל כדי להתפשר על מערכות הגנה וניהול ליבה בארגונים גלובליים.
קו השבר האמיתי
האירוניה כל כך עבה שאפשר לחתוך אותה עם סכין עמומה. מצד אחד, יש לנו את האליטה של AI שמתלבטת על ההשלכות האתיות של עתיד שהם עדיין בונים, וקוראת להאטה לאחר שנים של האצה בלתי מבוקרת. מצד שני, יש לנו האיום המיידי, הקיומי, של הטכנולוגיה הבסיסית הנוכחית שלנו שמתפוררת באופן פעיל תחת משקלן של פגיעויות לא מטופלות ולא מתוקנות.
"קו השבר" האמיתי הוא לא רק בתוך קהילת הבינה המלאכותית; זה בין מגדל השן של חדשנות לתעלות המציאות המבצעית. זה בין הדיונים המופשטים וממוקדי העתיד של "ויסות עצמי" עבור AI לבין הצורך המיידי והקונקרטי באבטחה ויציבות ממשית במערכות שעליהן אנו מסתמכים היום.
בתור CTOs ומובילי הנדסה, אנחנו לא יכולים להרשות לעצמנו להיות מוסחים מהוויכוחים הפילוסופיים של ההאטה בבינה מלאכותית. בעוד שהדיונים הללו חשובים לטווח הארוך, הם מהווים מותרות כאשר הבית שלך בוער באופן פעיל. "ההערכה מחדש של מפות הדרכים של המוצר" צריכה להתחיל בחיזוק היסודות המתפוררים של התשתית הקיימת שלנו. "הערכות הסיכון" צריכות לתעדף את האיומים המיידיים, המנוצלים באופן אקטיבי, שפוגעים בהמשכיות התפעולית ובשלמות הנתונים היום.
סדרי העדיפויות של הענף מוטים. אנחנו בונים דברים מהירים ונוצצים יותר על בסיס שנרקב באופן פעיל. הקריאה להאטת בינה מלאכותית עשויה להיות שיחה הכרחית, אבל עבור אלה מאיתנו בשטח, העוסקים ב-Ivanti ו-Cisco zero-days, זה מרגיש כמו להתלבט על צבע הווילונות בזמן שהגג מתערער. התמקד בהווה. העתיד יכול לחכות עד שלא נדמם באופן פעיל.
מקורות
[1] מכתב פתוח להשהיית ניסויי AI ענקיים - https://futureoflife.org/open-letter-pause-ai-development/ [2] מניות הבינה המלאכותית מזנקות, אבל חלק מהמשקיעים מתחילים להיות עצבניים - https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] מהפכת הבינה המלאכותית במדע: הבטחות וסכנות - https://www.nature.com/articles/d41586-023-03223-y [4] שחקנים מאיימים המנצלים את Ivanti Connect Secure ו-Ivanti Policy Secure Vulnerabilities - https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] שחקנים מאיימים מנצלים את פגיעות ממשק האינטרנט של תוכנת Cisco IOS XE - https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a