The Emperor's New AI, and the Rotting Foundation Beneath It
Θυμάστε όταν το AI επρόκειτο να μας σώσει όλους; Αποδεικνύεται ότι οι σωτήρες ζητούν τώρα τάιμ άουτ. Μόλις πρόσφατα, οι ίδιοι οι αρχιτέκτονες του μέλλοντός μας που καθοδηγείται από την τεχνητή νοημοσύνη -οι «μεθοριακοί» ερευνητές και οι βαρείς οικονομικοί παράγοντες - συλλογικά πατούσαν φρένο, απαιτώντας επιβράδυνση στην ανάπτυξη λόγω «κλιμακούμενων ανησυχιών για την ασφάλεια» [1]. Η αγορά, πάντα το αμβλύ όργανο, ανταποκρίθηκε με βήχα: οι μετοχές τσιπ και οι μεγάλοι παίκτες τεχνητής νοημοσύνης κατρακύλησαν [2]. Το Πεκίνο, όπως ήταν αναμενόμενο, χλεύασε τις προειδοποιήσεις, ενώ οι γίγαντες των τσιπ της Σεούλ αμφισβήτησαν τις προκαταβολές για μελλοντικές εξελίξεις στην τεχνητή νοημοσύνη [2].
Αυτή δεν είναι μόνο μια φιλοσοφική συζήτηση για τον πύργο του ελεφαντόδοντου. Αυτή είναι μια σεισμική μετατόπιση, μια δημόσια παραδοχή της απερισκεψίας από την ελίτ της βιομηχανίας. Και ειλικρινά, είναι λίγο πολύ βολικό.
Η παύση AI: Αλτρουισμός ή Power Play;
Ας είμαστε ξεκάθαροι: όταν οι άνθρωποι που κατασκεύασαν τον πύραυλο συνειδητοποιούν ξαφνικά ότι ξέχασαν τα αλεξίπτωτα μετά την εκτόξευση, δεν είναι μια στιγμή βαθιάς ηθικής αφύπνισης. Είναι ένας καθυστερημένος, αυτοεξυπηρετούμενος αγώνας. Αυτοί δεν είναι ιδεαλιστές με ορθάνοιχτα μάτια. Αυτοί είναι οι τιτάνες που σπρώχνουν το πεντάλ στο μέταλλο, κυνηγώντας την εκθετική ανάπτυξη και την κυριαρχία στην αγορά. Τώρα, με το φάσμα των «απρόβλεπτων συνεπειών» να διαφαίνεται μεγάλο - και ίσως, πιο κυνικά, η συνειδητοποίηση ότι ο τρέχων ρυθμός είναι μη βιώσιμος ή ότι πρέπει να εδραιώσουν το προβάδισμά τους - ζητούν συλλογική ανάσα.
Η αντίδραση της αγοράς είναι ενδεικτική. Η πτώση στις μετοχές των τσιπ δεν είναι μόνο φόβος. πρόκειται για τις άμεσες οικονομικές επιπτώσεις μιας πιθανής επιβράδυνσης. Η απώθηση του Πεκίνου; Ένα σαφές μήνυμα ότι το εθνικό στρατηγικό πλεονέκτημα υπερτερεί των αφηρημένων ανησυχιών για την ασφάλεια. Και οι κατασκευαστές τσιπ της Σεούλ αρνούνται τις προκαταβολές; Αυτός είναι ο ήχος του κεφαλαίου που αμφισβητεί τη μακροπρόθεσμη σταθερότητα και την κερδοφορία ενός ξαφνικά αβέβαιου μέλλοντος.
Για εμάς, τους ΚΟΤ και τους ηγέτες μηχανικής, αυτό μεταφράζεται άμεσα σε ένα χαοτικό τοπίο. Αναμένεται επιτάχυνση των ρυθμιστικών παρεμβάσεων, αναγκάζοντας την εκ νέου ιεράρχηση των έργων τεχνητής νοημοσύνης. Το ήθος του "move fast and break things" για την τεχνητή νοημοσύνη είναι επίσημα νεκρό, αντικαθίσταται από μια ξέφρενη αναζήτηση πλαισίων "ηθικής ανάπτυξης τεχνητής νοημοσύνης" που θα έπρεπε να είχαν δημιουργηθεί από την πρώτη μέρα. Οι επενδύσεις θα γίνουν πιο επιφυλακτικές, οι στρατηγικές θα περιστρέφονται και ναι, οι αγορές εργασίας θα αισθάνονται ψύχρα καθώς ο πυρετός του χρυσού δίνει τη θέση του σε μια πιο μετρημένη, και ελπίζουμε, πιο υπεύθυνη, προσέγγιση. Αλλά ας μην το μπερδεύουμε με καθαρό αλτρουισμό. Αυτή η "παύση" αφορά τόσο τον έλεγχο και την εκ νέου βαθμονόμηση της αγοράς όσο και για την πραγματική ασφάλεια.
Ενώ η Συζήτηση για τους Τιτάνες, το Ίδρυμα καταρρέει
Τώρα, ενώ η ελίτ της τεχνητής νοημοσύνης βιώνει την υπαρξιακή της κρίση, συζητώντας την ηθική της μελλοντικής υπερνοημοσύνης, ας μιλήσουμε για την πολύ πραγματική, πολύ παρούσα και εντελώς καταστροφική κρίση ασφάλειας που εκτυλίσσεται αυτή τη στιγμή.
Αυτή την εβδομάδα, η CISA πρόσθεσε πολλαπλά νέα CVE στον κατάλογό της με γνωστά εκμεταλλευόμενα ευπάθεια [3]. Μιλάμε για ένα επιβεβαιωμένο ριζικό RCE στο Cisco Secure Email Gateway (CVE-2023-20269) [4], μια διέλευση διαδρομής CVSS 10.0 στο GitLab (CVE-2023-2825) [3] και μια πρόσφατα επιδιορθωμένη ενημέρωση Chrome zero-day [3-4]863.
Αλλά η πραγματική γροθιά, αυτή που πρέπει να κάνει κάθε επαγγελματία ασφαλείας να ουρλιάζει στο κενό, είναι η επίμονη απειλή των θεμελιωδών ελαττωμάτων. Σκεφτείτε το CVE-2021-1647, μια ευπάθεια κλιμάκωσης τοπικών προνομίων στο Μηχανισμό προστασίας από κακόβουλο λογισμικό του Microsoft Defender [5]. Αυτό δεν ήταν κάποιο σκοτεινό ελάττωμα. είχε ένα δημόσιο Proof-of-Concept και αξιοποιήθηκε ενεργά στη φύση, υπογραμμίζοντας πώς κρίσιμα στοιχεία της ψηφιακής μας άμυνας μπορούν να παραβιαστούν και να παραμείνουν ευάλωτα για μια περίοδο.
Ενώ συζητάμε για την ηθική της τεχνητής νοημοσύνης, το ίδιο το λογισμικό που έχει σχεδιαστεί για την προστασία των τελικών σημείων μας, το θεμελιώδες στρώμα της ψηφιακής μας άμυνας, έχει αποδειχθεί ότι φιλοξενεί δημόσια γνωστά, ενεργά εκμεταλλευόμενα ελαττώματα που επιτρέπουν σε έναν εισβολέα να αυξήσει τα προνόμιά του. Είναι σαν να μαλώνετε για τις φιλοσοφικές συνέπειες του warp drive ενώ τα φρένα του αυτοκινήτου σας δεν λειτουργούν και ο κινητήρας καίγεται.
The Reckoning: Δύο όψεις του ίδιου νομίσματος
Αυτές δεν είναι ξεχωριστές ιστορίες. Είναι οι δύο όψεις του ίδιου νομίσματος με βαθιά ελαττώματα: μια βιομηχανία τεχνολογίας που έχει σταθερά προτεραιότητα την ταχύτητα, την καινοτομία και την αντιληπτή καινοτομία σε σχέση με τη θεμελιώδη ασφάλεια, τη σταθερότητα και την ευθύνη.
Η ξαφνική έκκληση των ηγετών της τεχνητής νοημοσύνης για επιβράδυνση είναι μια αντιδραστική, αυτοεξυπηρετούμενη προσπάθεια διόρθωσης πορείας αφού έχουν ήδη απελευθερώσει ισχυρά, κακώς κατανοητά συστήματα στη φύση. Είναι μια παραδοχή ότι το μάντρα «Κινηθείτε γρήγορα και σπάστε τα πράγματα», όταν εφαρμόζεται σε τεχνολογία που μπορεί να αλλάξει τον κόσμο, δεν είναι απλώς ανεύθυνο, αλλά επικίνδυνο.
Η επίθεση της ημέρας μηδέν, ιδιαίτερα η κρίσιμη ευπάθεια του Defender, είναι η άμεση, οδυνηρή συνέπεια αυτής της ίδιας νοοτροπίας που εφαρμόζεται στη βασική πληροφορική. Είναι το αποτέλεσμα μιας κουλτούρας που συχνά αντιμετωπίζει την ασφάλεια ως εκ των υστέρων σκέψη, ως πλαίσιο ελέγχου συμμόρφωσης ή ως κέντρο κόστους, παρά ως αναπόσπαστο, αδιαπραγμάτευτο στοιχείο κάθε προϊόντος και συστήματος. Είμαστε τόσο απασχολημένοι κυνηγώντας το επόμενο γυαλιστερό αντικείμενο —το επόμενο LLM, τον επόμενο πράκτορα τεχνητής νοημοσύνης— που αφήσαμε το έδαφος κάτω από τα πόδια μας να σαπίσει.
Για τους CTO και τους υπεύθυνους μηχανικής, το μήνυμα είναι ξεκάθαρο και άμεσο. Σταματήστε να κυνηγάτε κάθε τάση AI που διασχίζει τη ροή σας. Διπλασιάστε τα βασικά. Δώστε προτεραιότητα στην ενημέρωση κώδικα, ειδικά για κρίσιμα, ενεργά αξιοποιούμενα τρωτά σημεία όπως αυτά στο Cisco, το GitLab και την επίμονη απειλή που αποτελεί παράδειγμα των προηγούμενων LPE του Defender. Εφαρμόστε ισχυρούς μετριασμούς. Απαιτήστε υπευθυνότητα από τους προμηθευτές σας για τη στάση ασφαλείας τους, όχι μόνο για τον οδικό χάρτη των χαρακτηριστικών τους.
Η πτώση της αγοράς και τα ανεπίλυτα θεμελιώδη ζητήματα ασφάλειας δεν είναι απλώς είδηση. Είναι απολογισμός. Ένας τεχνολογικός κόσμος πολύ γρήγορος, πολύ απερίσκεπτος και, τέλος, πολύ εκτεθειμένος. Ήρθε η ώρα να μεγαλώσουμε, να εξασφαλίσουμε τα θεμέλιά μας και μετά, μόνο τότε, να σκεφτούμε προσεκτικά το επόμενο σύνορο.
Πηγές
[1] Future of Life Institute — Pause Giant AI Experiments: An Open Letter — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — Οι ειδικοί της τεχνητής νοημοσύνης ζητούν παύση στην ανάπτυξη προηγμένων συστημάτων τεχνητής νοημοσύνης — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Κατάλογος γνωστών εκμεταλλευόμενων ευπαθειών — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory — Cisco Secure Email and Web Manager, Cisco Email Security Appliance και Cisco Web Security Appliance Vulnerabilities — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-8Sce-esa-s [5] Κέντρο απόκρισης ασφαλείας της Microsoft — Ευπάθεια κλιμάκωσης τοπικών προνομίων του Microsoft Defender — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647