Τεχνητή νοημοσύνη για την κυβερνοασφάλεια;

Απαιτούνται μεγαλύτερης κλίμακας και μοντέλα προτού η τεχνητή νοημοσύνη και η μηχανική μάθηση μπορέσουν να αντιμετωπίσουν μεγάλες προκλήσεις, όπως η παραβίαση των καλύτερων αλγορίθμων κρυπτογράφησης.

Θα γίνει η τεχνητή νοημοσύνη αρκετά έξυπνη ώστε να ανατρέψει την ασφάλεια των υπολογιστών;

Η τεχνητή νοημοσύνη εκπλήσσει ήδη τον κόσμο της τέχνης, παράγοντας αριστουργήματα σε οποιοδήποτε στυλ κατά παραγγελία. Είναι ικανό να γράφει ποίηση ενώ ανακαλύπτει απόκρυφα γεγονότα σε ένα τεράστιο αποθετήριο. Εάν τα AI μπορούν να λειτουργήσουν σαν βάρδος ενώ παρέχουν την πλήρη ισχύ των καλύτερων μηχανών αναζήτησης, γιατί δεν μπορούν να καταστρέψουν και τα πρωτόκολλα ασφαλείας; Οι απαντήσεις είναι περίπλοκες, εξελίσσονται γρήγορα και εξακολουθούν να είναι σκοτεινές. Η τεχνητή νοημοσύνη διευκολύνει ορισμένα μέρη της άμυνας των υπολογιστών από επιθέσεις. Άλλα μέρη είναι πιο απαιτητικά και μπορεί να μην υποκύψουν ποτέ σε καμία νοημοσύνη, ανθρώπινη ή τεχνητή. Το να ξέρεις ποιο είναι, όμως, είναι δύσκολο. Η ταχεία εξέλιξη των νέων μοντέλων καθιστά δύσκολο να πούμε πού η AI θα βοηθήσει ή δεν θα βοηθήσει με βεβαιότητα. Η πιο επικίνδυνη δήλωση μπορεί να είναι, «οι AI δεν θα το κάνουν ποτέ αυτό».

Ορισμός τεχνητής νοημοσύνης και μηχανικής μάθησης


Οι όροι «τεχνητή νοημοσύνη» και «μηχανική μάθηση» χρησιμοποιούνται συχνά εναλλακτικά, αλλά δεν είναι οι ίδιοι. Η τεχνητή νοημοσύνη αναφέρεται σε τεχνολογία που μπορεί να μιμηθεί την ανθρώπινη συμπεριφορά ή να την υπερβεί. Η μηχανική μάθηση είναι ένα υποσύνολο της τεχνητής νοημοσύνης που χρησιμοποιεί αλγόριθμους για τον εντοπισμό μοτίβων στα δεδομένα για να αποκτήσει πληροφορίες χωρίς ανθρώπινη παρέμβαση. Ο στόχος της μηχανικής μάθησης είναι να βοηθήσει τους ανθρώπους ή τους υπολογιστές να λαμβάνουν καλύτερες αποφάσεις. Πολλά από αυτά που σήμερα αναφέρονται ως AI σε εμπορικά προϊόντα είναι στην πραγματικότητα μηχανική μάθηση.


Η τεχνητή νοημοσύνη έχει πλεονεκτήματα που μπορεί να είναι άμεσα χρήσιμα σε άτομα που υπερασπίζονται συστήματα και σε άτομα που εισβάλλουν. Μπορούν να αναζητήσουν μοτίβα σε τεράστιο όγκο δεδομένων και συχνά βρίσκουν τρόπους να συσχετίσουν νέα γεγονότα με παλιά.
Πολλές τεχνικές μηχανικής μάθησης είναι σε μεγάλο βαθμό στατιστικές, όπως και πολλές επιθέσεις σε συστήματα υπολογιστών και αλγόριθμους κρυπτογράφησης. Η ευρεία διαθεσιμότητα νέων εργαλείων μηχανικής εκμάθησης διευκολύνει τους επιτιθέμενους και τους υπερασπιστές να δοκιμάσουν τους αλγόριθμους. Οι επιτιθέμενοι τα χρησιμοποιούν για να αναζητήσουν αδυναμίες και οι αμυνόμενοι τα χρησιμοποιούν για να παρακολουθούν για σημάδια των επιτιθέμενων.


Η τεχνητή νοημοσύνη επίσης υπολείπεται των προσδοκιών και μερικές φορές αποτυγχάνει. Μπορεί να εκφράσει μόνο ό,τι υπάρχει στο σύνολο δεδομένων εκπαίδευσης και μπορεί να είναι εξωφρενικά κυριολεκτικό, όπως είναι συχνά οι υπολογιστές.


Υποθέσεις χρήσης κυβερνοασφάλειας για τεχνητή νοημοσύνη


Η ασφάλεια των υπολογιστών είναι επίσης πολύπλευρη και τα συστήματα υπεράσπισης απαιτούν προσοχή στους απόκρυφους κλάδους των μαθηματικών, της ανάλυσης δικτύου και της μηχανικής λογισμικού. Για να γίνουν τα πράγματα πιο περίπλοκα, οι άνθρωποι αποτελούν μεγάλο μέρος του συστήματος και η κατανόηση των αδυναμιών τους είναι απαραίτητη. Ο τομέας είναι επίσης ένα μείγμα πολλών υποειδικοτήτων που μπορεί να είναι πολύ διαφορετικές. Αυτό που λειτουργεί, ας πούμε, στην ασφάλιση ενός επιπέδου δικτύου με τον εντοπισμό κακόβουλων πακέτων μπορεί να είναι άχρηστο για τη σκλήρυνση ενός αλγορίθμου κατακερματισμού.
«Σαφώς υπάρχουν ορισμένοι τομείς στους οποίους μπορείτε να σημειώσετε πρόοδο με τα AI», λέει ο Paul Kocher, Διευθύνων Σύμβουλος της Resilian, ο οποίος έχει εξερευνήσει τη χρήση νέας τεχνολογίας για να σπάσει τους κρυπτογραφικούς αλγόριθμους. "Για το κυνήγι σφαλμάτων και τον διπλό έλεγχο κώδικα, θα είναι καλύτερο από το fuzzing [η διαδικασία εισαγωγής μικρών, τυχαίων σφαλμάτων για την ενεργοποίηση ελαττωμάτων]."
Ορισμένοι βρίσκουν ήδη επιτυχία με αυτήν την προσέγγιση. Τα πιο απλά παραδείγματα περιλαμβάνουν την κωδικοποίηση της παλιάς γνώσης και την εκ νέου εφαρμογή της. Ο Conor Grogan, διευθυντής στο Coinbase, ζήτησε από το ChatGPT να ελέγξει ένα ζωντανό συμβόλαιο που εκτελούνταν στο blockchain Ethereum. Το AI επέστρεψε με μια συνοπτική λίστα αδυναμιών μαζί με προτάσεις για την επίλυσή τους.

Πώς το έκανε αυτό το AI;

Ο μηχανισμός της τεχνητής νοημοσύνης μπορεί να είναι αδιαφανής, αλλά πιθανότατα βασίστηκε, με τη μια ή την άλλη μορφή, σε δημόσιες συζητήσεις για παρόμοιες αδυναμίες στο παρελθόν. Ήταν σε θέση να ευθυγραμμίσει τις παλιές πληροφορίες με τον νέο κώδικα και να δημιουργήσει μια χρήσιμη λίστα με θέματα που πρέπει να αντιμετωπιστούν, όλα αυτά χωρίς προσαρμοσμένο προγραμματισμό ή καθοδήγηση από έναν ειδικό.
Η Microsoft αρχίζει να εμπορευματοποιεί αυτήν την προσέγγιση. Έχει εκπαιδεύσει το AI Security Copilot, μια έκδοση του ChatGPT4 με βασικές γνώσεις πρωτοκόλλων και αλγορίθμων κρυπτογράφησης, ώστε να μπορεί να ανταποκρίνεται σε προτροπές και να βοηθά τους ανθρώπους.
Μερικοί εκμεταλλεύονται τη βαθιά και ευρεία δεξαμενή γνώσης που είναι ενσωματωμένη στα μεγάλα γλωσσικά μοντέλα. Οι ερευνητές στο Claroty βασίστηκαν στο ChatGPT ως βοήθεια εξοικονόμησης χρόνου με εγκυκλοπαιδική γνώση κωδικοποίησης. Κατάφεραν να κερδίσουν έναν διαγωνισμό hacking χρησιμοποιώντας το ChatGPT για να γράψουν τον κώδικα που απαιτείται για να εκμεταλλευτούν πολλές αδυναμίες σε συνεννόηση.
Οι επιτιθέμενοι μπορούν επίσης να χρησιμοποιήσουν την ικανότητα του AI να διαμορφώνει και να αναδιαμορφώνει τον κώδικα. Ο Joe Partlow, CTO στο ReliaQuest, λέει ότι δεν ξέρουμε πραγματικά πώς «σκέφτονται» οι AI και αυτή η ανεξερατότητα μπορεί να είναι χρήσιμη. «Βλέπετε μοντέλα συμπλήρωσης κώδικα όπως το Codex ή το Github Copilot που ήδη βοηθούν τους ανθρώπους να γράφουν λογισμικό», λέει. «Έχουμε δει μεταλλάξεις κακόβουλου λογισμικού που έχουν δημιουργηθεί ήδη από AI. Η εκπαίδευση ενός μοντέλου, για παράδειγμα, στους νικητές του διαγωνισμού C θα μπορούσε οπωσδήποτε να χρησιμοποιηθεί για να βοηθήσει στην επινοήση αποτελεσματικών κερκόπορτων».


Ορισμένες καθιερωμένες εταιρείες χρησιμοποιούν την τεχνητή νοημοσύνη για να αναζητήσουν ανωμαλίες δικτύου και άλλα ζητήματα σε εταιρικά περιβάλλοντα. Βασίζονται σε κάποιο συνδυασμό μηχανικής μάθησης και στατιστικών συμπερασμάτων για την επισήμανση συμπεριφοράς που μπορεί να είναι ύποπτη.

Χρησιμοποιούν AI για να βρουν αδυναμίες, να σπάσουν την κρυπτογράφηση


Ωστόσο, υπάρχουν όρια στο πόσο βαθιά μπορούν να δουν αυτές οι σαρώσεις στις ροές δεδομένων, ειδικά σε αυτές που είναι κρυπτογραφημένες. Εάν ένας εισβολέας ήταν σε θέση να προσδιορίσει ποια κρυπτογραφημένα πακέτα είναι καλά ή κακά, θα μπορούσε να σπάσει τον υποκείμενο αλγόριθμο κρυπτογράφησης.
Το βαθύτερο ερώτημα είναι εάν τα AI μπορούν να βρουν αδυναμία στα χαμηλότερα, πιο θεμελιώδη επίπεδα ασφάλειας των υπολογιστών. Δεν υπήρξαν σημαντικές ανακοινώσεις, αλλά ορισμένοι αρχίζουν να αναρωτιούνται και ακόμη και να εικάζουν για το τι μπορεί να λειτουργήσει ή όχι.
Δεν υπάρχουν προφανείς απαντήσεις για βαθύτερες αδυναμίες. Τα AI μπορεί να είναι προγραμματισμένα να ενεργούν σαν άνθρωποι, αλλά από κάτω μπορεί να είναι ριζικά διαφορετικά. Τα μεγάλα μοντέλα είναι συλλογές στατιστικών σχέσεων διατεταγμένων σε πολλαπλές ιεραρχίες. Κερδίζουν τα πλεονεκτήματά τους με το μέγεθος και πολλές από τις πρόσφατες εξελίξεις προέρχονται απλώς από την ταχεία κλιμάκωση του αριθμού των παραμέτρων και των βαρών.


Στον πυρήνα τους, πολλές από τις πιο κοινές προσεγγίσεις για την κατασκευή μεγάλων μοντέλων μηχανικής μάθησης χρησιμοποιούν μεγάλες ποσότητες γραμμικών μαθηματικών, ενώνοντας αλληλουχίες πολύ μεγάλων πινάκων και τανυστών. Η γραμμικότητα είναι ένα κρίσιμο μέρος του αλγορίθμου επειδή καθιστά δυνατή κάποια από την ανατροφοδότηση για την εκπαίδευση. Οι καλύτεροι αλγόριθμοι κρυπτογράφησης, ωστόσο, σχεδιάστηκαν να είναι μη γραμμικοί. Αλγόριθμοι όπως ο AES ή το SHA βασίζονται στην επανειλημμένη κρυπτογράφηση των δεδομένων περνώντας τα μέσα από ένα σύνολο συναρτήσεων γνωστών ως S-boxes. Αυτές οι συναρτήσεις σχεδιάστηκαν προσεκτικά ώστε να είναι εξαιρετικά μη γραμμικές. Το πιο σημαντικό, οι σχεδιαστές των αλγορίθμων διασφάλισαν ότι εφαρμόστηκαν αρκετές φορές για να είναι ασφαλείς έναντι ορισμένων γνωστών στατιστικών επιθέσεων.


Μερικές από αυτές τις επιθέσεις έχουν πολλά κοινά με τα σύγχρονα AI. Για δεκαετίες, οι κρυπτογράφοι έχουν χρησιμοποιήσει μεγάλες συλλογές στατιστικών για να μοντελοποιήσουν τη ροή δεδομένων μέσω ενός αλγόριθμου κρυπτογράφησης με τον ίδιο σχεδόν τρόπο που οι AI μοντελοποιούν τα δεδομένα εκπαίδευσής τους. Στο παρελθόν, οι κρυπτογράφοι έκαναν την περίπλοκη εργασία της τροποποίησης των στατιστικών χρησιμοποιώντας τις γνώσεις τους για τους αλγόριθμους κρυπτογράφησης.


Ένα από τα πιο γνωστά παραδείγματα ονομάζεται συχνά διαφορική κρυπτανάλυση. Ενώ περιγράφηκε για πρώτη φορά δημόσια από τον Adi Shamir και τον Eli Biham, ορισμένοι από τους σχεδιαστές προηγούμενων αλγορίθμων όπως το Data Encryption Standard του NIST είπαν ότι κατανοούσαν την προσέγγιση και σκληρύνουν τον αλγόριθμο σε σχέση με αυτήν. Αλγόριθμοι όπως το AES που σκληρύνθηκαν έναντι της διαφορικής κρυπτανάλυσης θα πρέπει να είναι σε θέση να αντέχουν σε επιθέσεις από AI που αναπτύσσουν πολλές από τις ίδιες γραμμικές στατιστικές προσεγγίσεις.
Υπάρχουν βαθύτερα θεμελιώδη ζητήματα. Πολλοί από τους αλγόριθμους δημόσιου κλειδιού βασίζονται σε αριθμούς με χιλιάδες ψηφία ακρίβειας. «Αυτό είναι απλώς μια λεπτομέρεια υλοποίησης», εξηγεί η Nadia Heninger, κρυπτογράφος στο UCSD, «Αλλά μπορεί να πάει πιο βαθιά επειδή αυτά τα μοντέλα έχουν βάρη που είναι αιωρούμενα και η ακρίβεια είναι εξαιρετικά σημαντική».
Πολλοί αλγόριθμοι μηχανικής μάθησης συχνά περιορίζουν την ακρίβεια επειδή δεν ήταν απαραίτητο για την επιτυχία σε ανακριβείς τομείς όπως η ανθρώπινη γλώσσα σε μια εποχή ατημέλητης, γεμάτη αργκό και πρωτεϊνική γραμματική. Αυτό σημαίνει μόνο ότι ορισμένα από τα διαθέσιμα εργαλεία ενδέχεται να μην ταιριάζουν καλά για κρυπτανάλυση. Οι γενικοί αλγόριθμοι ενδέχεται να προσαρμοστούν και ορισμένοι ήδη διερευνούν αυτό το θέμα.

Μεγαλύτερης κλίμακας, μοντέλα θα μπορούσαν να κάνουν την τεχνητή νοημοσύνη μεγαλύτερη απειλή


Ένα δύσκολο ερώτημα, ωστόσο, είναι αν η μαζική κλίμακα θα κάνει τη διαφορά. Εάν η αύξηση της ισχύος επέτρεψε στα AI να κάνουν μεγάλα άλματα στο να φαίνονται πιο έξυπνα, ίσως θα υπάρξει κάποιο όριο που θα επιτρέψει στο AI να βρει περισσότερες τρύπες από τους παλαιότερους διαφορικούς αλγόριθμους. Ίσως μερικές από τις παλαιότερες τεχνικές μπορούν να χρησιμοποιηθούν για να καθοδηγήσουν τους αλγόριθμους μηχανικής μάθησης πιο αποτελεσματικά.
Ορισμένοι επιστήμονες της τεχνητής νοημοσύνης φαντάζονται τρόπους να παντρέψουν την απόλυτη δύναμη των μεγάλων γλωσσικών μοντέλων με πιο λογικές προσεγγίσεις και επίσημες μεθόδους. Η ανάπτυξη αυτοματοποιημένων μηχανισμών για συλλογισμό σχετικά με μαθηματικές έννοιες μπορεί να είναι πολύ πιο ισχυρή από την απλή προσπάθεια μίμησης των προτύπων σε ένα σύνολο εκπαίδευσης.
«Αυτά τα μεγάλα γλωσσικά μοντέλα δεν διαθέτουν ένα συμβολικό μοντέλο του τι πραγματικά παράγουν», εξηγεί ο Simson Garfinkel, συγγραφέας του The Quantum Age και ερευνητής ασφάλειας. "Δεν υπάρχει λόγος να υποθέσουμε ότι οι ιδιότητες ασφαλείας θα ενσωματωθούν, αλλά υπάρχει ήδη μεγάλη εμπειρία με τη χρήση επίσημων μεθόδων για την εύρεση τρωτών σημείων ασφαλείας."


Οι ερευνητές της τεχνητής νοημοσύνης εργάζονται για να επεκτείνουν τη δύναμη των μεγάλων γλωσσικών μοντέλων εμβολιάζοντας τα με καλύτερο συμβολικό συλλογισμό. Ο Stephen Wolfram, για παράδειγμα, ένας από τους προγραμματιστές του Wolfram Alpha, εξηγεί ότι αυτός είναι ένας από τους στόχους. «Αυτή τη στιγμή στη γλώσσα Wolfram έχουμε έναν τεράστιο όγκο ενσωματωμένων υπολογιστικών γνώσεων για πολλά είδη πραγμάτων». έγραψε. «Αλλά για μια πλήρη συμβολική γλώσσα λόγου θα έπρεπε να δημιουργήσουμε πρόσθετους «λογισμούς» για γενικά πράγματα στον κόσμο: Εάν ένα αντικείμενο μετακινείται από το Α στο Β και από το Β στο Γ, τότε μετακινείται από το Α στο Γ κ.λπ.».
Ο Whitfield Diffie, ένας κρυπτογράφος που πρωτοστάτησε στον τομέα της κρυπτογραφίας δημόσιου κλειδιού, πιστεύει ότι προσεγγίσεις όπως αυτή με τα AI μπορεί να είναι σε θέση να σημειώσουν πρόοδο σε νέους, ανεξερεύνητους τομείς των μαθηματικών. Μπορεί να σκέφτονται αρκετά διαφορετικά από τους ανθρώπους για να είναι πολύτιμοι. «Οι άνθρωποι προσπαθούν να δοκιμάσουν μαθηματικούς μηχανών έναντι γνωστών θεωριών στις οποίες οι άνθρωποι έχουν ανακαλύψει πολλά θεωρήματα – θεωρήματα που οι άνθρωποι απέδειξαν και έτσι οι άνθρωποι είναι καλοί στο να αποδεικνύουν», λέει. «Γιατί να μην τα δοκιμάσουμε σε κάτι σαν γεωμετρίες υψηλότερων διαστάσεων όπου η ανθρώπινη διαίσθηση είναι άθλια και να δούμε αν βρίσκουν πράγματα που δεν μπορούμε;»


Οι τομείς της κρυπτανάλυσης είναι μόνο ένας είναι μια μεγάλη ποικιλία μαθηματικών περιοχών που δεν έχουν δοκιμαστεί. Οι δυνατότητες μπορεί να είναι ατελείωτες γιατί τα ίδια τα μαθηματικά είναι άπειρα. «εάν μια τεχνητή νοημοσύνη μπορεί να συμβάλει στη διάρρηξη συστημάτων που αξίζει περισσότερο από ό,τι κοστίζει, οι άνθρωποι θα το χρησιμοποιήσουν», προβλέπει ο Diffie.

Το πραγματικό ερώτημα είναι πώς.

ΠΗΓΗ: CSOONLINE.COM