Η επιβράδυνση της τεχνητής νοημοσύνης αποσπά την προσοχή. Το σπίτι σας φλέγεται.
Ας είμαστε ειλικρινείς: η βιομηχανία τεχνολογίας έχει επιτέλους τη στιγμή του «ελάτε στον Ιησού» με την τεχνητή νοημοσύνη, αλλά αισθάνεται λιγότερο σαν γνήσια μετάνοια και περισσότερο σαν στρατηγικό άξονα. Ξαφνικά, οι ίδιοι οι αρχιτέκτονες αυτής της ιλιγγιώδους κούρσας τεχνητής νοημοσύνης –οι εξέχοντες ερευνητές και οι χρηματοδότες που χρηματοδότησαν τα σπριντ τους που τροφοδοτούνταν με καφεΐνη– ζητούν επιβράδυνση [1]. Μιλούν για «εσωτερική διακυβέρνηση», «ηθικά πλαίσια» και «πιο εσκεμμένο» ρυθμό. Και η αγορά, πάντα το ευαίσθητο βαρόμετρο, έχει ήδη αντιδράσει, με ανησυχίες για τη βιωσιμότητα των επενδύσεων σε τεχνητή νοημοσύνη που προκαλούν αστάθεια στις μετοχές τσιπ [2].
Αυτό δεν είναι εξωτερικός κανονισμός. είναι μια εσωτερική «γραμμή σφάλματος» που αναδύεται μέσα από το ίδιο το οικοσύστημα AI. Και ενώ η C-suite συζητά τις φιλοσοφικές επιπτώσεις των μελλοντικών τους δημιουργιών, το παρόν καίει ενεργά.
Η βολική παύση
Σκεφτείτε το χρονοδιάγραμμα. Εδώ και χρόνια, το μάντρα ήταν «move fast and break things» ή πιο πρόσφατα, «move fast and build AGI». Τώρα, με ισχυρά μοντέλα που έχουν ήδη αναπτυχθεί, με το ανταγωνιστικό τοπίο σε μεγάλο βαθμό καθορισμένο και με το φάσμα της πραγματικής, ουσιαστικής ρύθμισης να διαφαίνεται, οι εκκλήσεις για προσοχή ηχούν λίγο κούφια. Είναι αυτό μια γνήσια αφύπνιση για τους μεγάλους κινδύνους ή ένας υπολογισμένος ελιγμός για την εδραίωση της εξουσίας, την επιβράδυνση των ανταγωνιστών και τη διαχείριση της αντίληψης του κοινού προτού βγουν τα πιρούνια;
Είναι εύκολο να κηρύξετε προσοχή όταν έχετε ήδη στριμώξει την αγορά υπολογιστών, ταλέντων και βασικών μοντέλων. Η ξαφνική εστίαση του κλάδου στην "επαναξιολόγηση των οδικών χαρτών προϊόντων, των αξιολογήσεων κινδύνου και του στρατηγικού σχεδιασμού" ακούγεται ευγενής, αλλά ακούγεται επίσης ως ένας βολικός τρόπος για την εκ νέου ευθυγράμμιση των πόρων. Αυτό θα μπορούσε ενδεχομένως να επιβραδύνει εναλλακτικές λύσεις ανοιχτού κώδικα ή μικρότερους παίκτες που θα μπορούσαν να αμφισβητήσουν τους καθιερωμένους γίγαντες ελέγχοντας την πρόσβαση σε βασικούς πόρους ή επηρεάζοντας τα ρυθμιστικά πλαίσια. Το «δεοντολογικό πλαίσιο» είναι ξαφνικά υψίστης σημασίας, όχι όταν τα μοντέλα εκπαιδεύονταν σε αποκομμένα δεδομένα, αλλά τώρα που είναι αρκετά ισχυρά για να αναδιαμορφώσουν πραγματικά την κοινωνία.
Οι ανησυχίες που εκφράζονται εντός των ακαδημαϊκών και επιστημονικών κοινοτήτων, προειδοποιώντας ότι οι «λύσεις» της τεχνητής νοημοσύνης σε ανοιχτά προβλήματα θα μπορούσαν να απειλήσουν την ακεραιότητα των πεδίων τους [3], είναι μια έντονη ένδειξη του βάθους αυτής της εσωτερικής ανησυχίας. Αλλά ας μην το μπερδεύουμε αυτό με αλτρουισμό. Δεν πρόκειται για τον αντίκτυπο της τεχνητής νοημοσύνης σε θέσεις εργασίας ή υποδομές. πρόκειται για έλεγχο – ποιος το χειρίζεται και με ποιο ρυθμό. Η συζήτηση αφορά λιγότερο το "πρέπει να το χτίσουμε;" και περισσότερα για το "ποιος αποφασίζει πόσο γρήγορα θα το κατασκευάσουμε και ποιος κερδίζει;"
Ενώ συζητούν για το μέλλον, το παρόν σας διακυβεύεται
Τώρα, ας εστιάσουμε από τις αφηρημένες, μελλοντικές ανησυχίες του εσωτερικού ρήγματος της τεχνητής νοημοσύνης στην άμεση, απτή κρίση που εκτυλίσσεται στα δίκτυά μας αυτή τη στιγμή. Ενώ οι τιτάνες της τεχνητής νοημοσύνης συλλογίζονται την ψυχή των μηχανών τους, οι επιχειρησιακές σας ομάδες προσπαθούν να περιορίσουν μια πλήρη καταστροφή στον κυβερνοχώρο.
Δεν μιλάμε για θεωρητικές απειλές ή γενικές τάσεις. Μιλάμε για ενεργά εκμεταλλευόμενες ευπάθειες zero-day στο βασικό εταιρικό λογισμικό, που χτυπούν κρίσιμες υποδομές με τη δύναμη μιας βαριοπούλας.
- Ivanti Connect Secure και Policy Secure (CVE-2023-46805 & CVE-2024-21887): Αυτό δεν είναι απλώς ένα σφάλμα. είναι μια πληγή που ανοίγει. Αυτά τα τρωτά σημεία στο VPN και τις λύσεις πρόσβασης δικτύου της Ivanti έχουν αξιοποιηθεί ενεργά, επιτρέποντας στους εισβολείς να παρακάμπτουν τον έλεγχο ταυτότητας και να εκτελούν απομακρυσμένες εντολές. Η CISA έχει εκδώσει πολλαπλές προειδοποιήσεις, υπογραμμίζοντας τον κρίσιμο κίνδυνο για τους οργανισμούς που βασίζονται σε αυτά τα συστήματα για ασφαλή απομακρυσμένη πρόσβαση [4]. Η κύρια άμυνα του δικτύου σας, το μόνο πράγμα στο οποίο βασίζεστε για να σταματήσετε τους κακούς στην πύλη, αξιοποιείται ενεργά για να παραχωρήσετε στους εισβολείς βαθιά πρόσβαση σε αμέτρητα εταιρικά δίκτυα.
- Cisco IOS XE Web UI (CVE-2023-20198): Μέγιστη σοβαρότητα. αξιοποιείται ενεργά. Αυτή η ευπάθεια επιτρέπει στους εισβολείς χωρίς έλεγχο ταυτότητας να δημιουργήσουν προνομιούχους λογαριασμούς και να αποκτήσουν πλήρη έλεγχο των επηρεαζόμενων συσκευών Cisco IOS XE. Εάν ένας εισβολέας είναι ιδιοκτήτης του επιπέδου διαχείρισης της υποδομής του δικτύου σας, είναι κάτοχος ολόκληρου του δικτύου σας. Ολοκληρώθηκε το παιχνίδι [5].
Η CISA δεν εκδίδει "προειδοποιήσεις" για διασκέδαση. ουρλιάζουν «φωτιά» σε ένα κατάμεστο θέατρο. Αυτές δεν είναι απλώς θεωρητικές απειλές. Χρησιμοποιούνται ενεργά για να θέσει σε κίνδυνο τις βασικές άμυνες και τα συστήματα διαχείρισης σε όλες τις παγκόσμιες επιχειρήσεις.
Η πραγματική γραμμή σφαλμάτων
Η ειρωνεία είναι τόσο χοντρή που θα μπορούσατε να το κόψετε με ένα θαμπό μαχαίρι. Από τη μία πλευρά, έχουμε την ελίτ της τεχνητής νοημοσύνης να συζητά τις ηθικές συνέπειες ενός μέλλοντος που εξακολουθούν να χτίζουν, ζητώντας επιβράδυνση μετά από χρόνια ανεξέλεγκτης επιτάχυνσης. Από την άλλη, έχουμε την άμεση, υπαρξιακή απειλή ότι η τρέχουσα θεμελιώδης τεχνολογία μας καταρρέει ενεργά κάτω από το βάρος των αδιευκρίνιστων, μη επιδιορθωμένων τρωτών σημείων.
Η πραγματική «γραμμή σφαλμάτων» δεν βρίσκεται μόνο στην κοινότητα της τεχνητής νοημοσύνης. είναι ανάμεσα στον ιβουάρ πύργο της καινοτομίας και στα χαρακώματα της επιχειρησιακής πραγματικότητας. Βρίσκεται ανάμεσα στις αφηρημένες, εστιασμένες στο μέλλον συζητήσεις για την «αυτορρύθμιση» για την τεχνητή νοημοσύνη και την άμεση, συγκεκριμένη ανάγκη για πραγματική ασφάλεια και σταθερότητα στα συστήματα στα οποία βασιζόμαστε σήμερα.
Καθώς ηγούνται οι ΚΟΤ και η μηχανική, δεν έχουμε την πολυτέλεια να αποσπάμε την προσοχή μας από τις φιλοσοφικές συζητήσεις για την επιβράδυνση της τεχνητής νοημοσύνης. Ενώ αυτές οι συζητήσεις είναι σημαντικές μακροπρόθεσμα, είναι πολυτέλεια όταν το σπίτι σας καίγεται ενεργά. Η «επαναξιολόγηση των οδικών χαρτών προϊόντων» θα πρέπει να ξεκινήσει με τη στήριξη των κατεστραμμένων θεμελίων της υπάρχουσας υποδομής μας. Οι «αξιολογήσεις κινδύνου» πρέπει να δίνουν προτεραιότητα στις άμεσες, ενεργά αξιοποιούμενες απειλές που θέτουν σε κίνδυνο την επιχειρησιακή συνέχεια και την ακεραιότητα των δεδομένων σήμερα.
Οι προτεραιότητες του κλάδου είναι λοξές. Χτίζουμε πιο γρήγορα, πιο λαμπερά πράγματα σε μια βάση που σαπίζει ενεργά. Η έκκληση για επιβράδυνση της τεχνητής νοημοσύνης μπορεί να είναι μια απαραίτητη συζήτηση, αλλά για όσους από εμάς είμαστε στο έδαφος, που ασχολούμαστε με τις μηδενικές ημέρες του Ivanti και της Cisco, είναι σαν να συζητάμε για το χρώμα των κουρτινών ενώ η οροφή υποχωρεί. Εστιάστε στο παρόν. Το μέλλον μπορεί να περιμένει μέχρι να μην αιμορραγούμε ενεργά.
Πηγές
[1] Μια ανοιχτή επιστολή για παύση γιγαντιαίων πειραμάτων AI — https://futureoflife.org/open-letter-pause-ai-development/ [2] Οι μετοχές της τεχνητής νοημοσύνης εκτινάσσονται στα ύψη, αλλά ορισμένοι επενδυτές είναι νευρικοί — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Η επανάσταση της τεχνητής νοημοσύνης στην επιστήμη: υποσχέσεις και κίνδυνοι — https://www.nature.com/articles/d41586-023-03223-y [4] Απειλές ηθοποιοί που εκμεταλλεύονται τα ευπάθεια του Ivanti Connect Secure και του Ivanti Policy Secure — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Απειλές που εκμεταλλεύονται την ευπάθεια της διεπαφής χρήστη του λογισμικού Cisco IOS XE — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a