Καθώς η επιρροή της Τεχνητής Νοημοσύνης επεκτείνεται σε ολόκληρη την κοινωνία, οι κυβερνητικές ρυθμιστικές αρχές επικεντρώνονται στον καθορισμό σαφών ορίων για το πότε ένα σύστημα τεχνητής νοημοσύνης γενικού σκοπού -GPAI θα πρέπει να υπόκειται σε αυξημένο έλεγχο.
Τόσο η Ευρωπαϊκή Ένωση, όσο και οι Ηνωμένες Πολιτείες περιέγραψαν πρόσφατα υπολογιστικά κριτήρια αναφοράς, μετρούμενα σε πράξεις κινητής υποδιαστολής-FLOPs, τα οποία καθορίζουν εάν ένα σύστημα ΤΝ πρέπει να θεωρείται υψηλού κινδύνου και, ως εκ τούτου, να υπόκειται σε ρυθμιστική εποπτεία.
Ενώ τα συγκεκριμένα επίπεδα FLOP διαφέρουν μεταξύ των δύο δικαιοδοσιών, και οι δύο περιοχές συμφωνούν ότι η υπέρβαση αυτών των ορίων απαιτεί αυστηρά πρωτόκολλα συμμόρφωσης για την ασφάλεια, την προστασία και τη διαφάνεια.
Ο νόμος της ΕΕ για την Τεχνητή Νοημοσύνη ορίζει κατώτατο όριο 10^25 FLOPs για τα μοντέλα GPAI, ενώ το πρόσφατο εκτελεστικό διάταγμα Biden των ΗΠΑ ορίζει το όριο αυτό σε 10^26 FLOPs ή 10^23 FLOPs για μοντέλα που εκπαιδεύονται σε δεδομένα βιολογικής αλληλουχίας.
Αυτά τα κατώτατα όρια δεν είναι απλώς τεχνικά σημεία αναφοράς- χρησιμεύουν ως έναυσμα για διαδικασίες εποπτείας που αποσκοπούν στον μετριασμό των συστημικών κινδύνων που συνδέονται με την ανάπτυξη προηγμένων συστημάτων ΤΝ.
Κατανόηση της εποπτείας με βάση τα FLOPs στην ΤΝ
Στην πράξη, η ρύθμιση με βάση τα FLOPs απαιτεί από τις εταιρείες που εκπαιδεύουν μοντέλα GPAI να αξιολογούν κατά πόσον η υπολογιστική τους ισχύς υπερβαίνει τα καθορισμένα κατώτατα όρια. Η καταμέτρηση FLOP υποδεικνύει την κλίμακα των πόρων που χρησιμοποιούνται, με υψηλότερες καταμετρήσεις να συσχετίζονται συνήθως με πιο προηγμένες και αυτόνομες δυνατότητες ΤΝ. Κατά συνέπεια, τα μοντέλα που υπερβαίνουν αυτά τα όρια τεκμαίρεται ότι ενέχουν δυνητικούς κινδύνους, όπως κοινωνικές διαταραχές, απειλές για την ασφάλεια στον κυβερνοχώρο ή παραβιάσεις της ιδιωτικής ζωής.
Οι κανονισμοί της ΕΕ και των ΗΠΑ εισάγουν πλήθος ευθυνών για τις εταιρείες που εκπαιδεύουν μοντέλα ΤΝ που υπερβαίνουν τα όρια FLOP.
Για παράδειγμα:
– Στις Ηνωμένες Πολιτείες, σύμφωνα με το νέο εκτελεστικό διάταγμα, οι εταιρείες των οποίων τα μοντέλα Tεχνητής Nοημοσύνης υπερβαίνουν τα 10^26 FLOPs ή βασίζονται σε μεγάλα βιολογικά σύνολα δεδομένων με πάνω από 10^23 FLOPs πρέπει να ενημερώνουν την κυβέρνηση σχετικά με τα μοντέλα τους, να τεκμηριώνουν τις μεθόδους δοκιμής τους και να πληρούν τα πρότυπα αναφοράς.
– Στην Ευρώπη, ο νόμος της ΕΕ για την ΤΝ απαιτεί από τους προγραμματιστές των μοντέλων GPAI που υπερβαίνουν το όριο των 10^25 FLOP να διεξάγουν εκτεταμένες εκτιμήσεις κινδύνου, να αναφέρουν σοβαρά περιστατικά, να εκτελούν δοκιμές τελευταίας τεχνολογίας και να διασφαλίζουν τη διαφάνεια της κυβερνοασφάλειας και της ενέργειας.
Επιπτώσεις στο κόστος: FLOP
Η υπολογιστική ισχύς που συνεπάγονται αυτά τα κατώτατα όρια αντικατοπτρίζει μια σημαντική οικονομική επένδυση. Οι εκτιμήσεις δείχνουν ότι η εκπαίδευση ενός μεγάλου μοντέλου για την τήρηση του ευρωπαϊκού ρυθμιστικού ορίου με τη χρήση υλικού κορυφαίας ποιότητας θα μπορούσε να κοστίσει μερικά εκατομμύρια δολάρια, ενώ η τήρηση του αμερικανικού ορίου θα μπορούσε να απαιτήσει επένδυση άνω των εκατό εκατομμυρίων δολαρίων.
Αυτή η διαφορά στα ρυθμιστικά σημεία αναφοράς σημαίνει ότι οι εταιρείες με έδρα τις ΗΠΑ πρέπει συνήθως να κάνουν σημαντικά υψηλότερες επενδύσεις σε εκπαίδευση πριν ενεργοποιήσουν τη ρυθμιστική εποπτεία, ενώ οι ευρωπαϊκές εταιρείες μπορεί να βρεθούν υπό ρύθμιση με συγκριτικά χαμηλότερες επενδύσεις σε υπολογιστικούς πόρους.
Για τους προγραμματιστές μεγάλων γλωσσικών μοντέλων, αυτά τα όρια αντιπροσωπεύουν κάτι περισσότερο από ένα λειτουργικό ορόσημο – είναι ρυθμιστικά εναύσματα με σημαντικές επιπτώσεις.
Πολλές εταιρείες, ιδίως στην Ευρώπη, θα διαπιστώσουν ότι τα μοντέλα υψηλών επιδόσεων που διαθέτουν ξεπερνούν το όριο των 10^25 FLOP, γεγονός που τις θέτει υπό την αρμοδιότητα του νόμου της ΕΕ για την Tεχνητή Nοημοσύνη. Το όριο αυτό επηρεάζει πιθανότατα ένα ευρύτερο φάσμα εταιρειών από ό,τι αρχικά αναμενόταν, πράγμα που σημαίνει ότι οι ευρωπαϊκές ρυθμιστικές αρχές θα χρειαστούν περισσότερους πόρους και προσωπικό για να διεκπεραιώσουν ελέγχους συμμόρφωσης και αξιολογήσεις κινδύνου για αυτά τα συστήματα ΤΝ.
Απαιτήσεις δοκιμών και αξιολόγησης κινδύνου: Δέσμευση έντασης πόρων
Τόσο το ρυθμιστικό πλαίσιο της ΕΕ όσο και των ΗΠΑ απαιτούν σημαντικές δοκιμές και τεκμηρίωση συμμόρφωσης για τα μοντέλα που ξεπερνούν τα αντίστοιχα όρια FLOP. Αυτό περιλαμβάνει μια σειρά κριτηρίων από την ποιότητα των δεδομένων και την ερμηνευσιμότητα των μοντέλων έως την ασφάλεια στον κυβερνοχώρο.
Οι εταιρείες πρέπει να αποδείξουν ότι αυτά τα μοντέλα υψηλού υπολογισμού είναι ανθεκτικά έναντι κινδύνων όπως η ακούσια συμπεριφορά ή η μεροληψία, ενώ παράλληλα εξασφαλίζουν τη διαφάνεια γύρω από τη χρήση ενέργειας.
Οι απαιτήσεις απαιτούν υψηλό επίπεδο τεχνικής εμπειρογνωμοσύνης για την εφαρμογή, την παρακολούθηση και την ερμηνεία αυτών των δοκιμών. Ως εκ τούτου, οι κυβερνήσεις πρέπει να είναι προετοιμασμένες να προσλάβουν εξειδικευμένο προσωπικό που κατανοεί τόσο τις τεχνικές όσο και τις κοινωνικές διαστάσεις των μοντέλων τεχνητής νοημοσύνης υψηλού αντίκτυπου. Στην ΕΕ, η εποπτεία αυτή περιλαμβάνει την αξιολόγηση όχι μόνο της υπολογιστικής ισχύος αλλά και ποιοτικών πτυχών, όπως ο αριθμός των τελικών χρηστών ενός μοντέλου, ο δυνητικός κοινωνικός του αντίκτυπος και οι κίνδυνοι που συνδέονται με την επεκτασιμότητα και την αυτονομία του.
Πιθανή επέκταση του ρυθμιστικού πεδίου στην ΕΕ
Το χαμηλότερο όριο FLOP που έχει τεθεί από την ΕΕ υποδηλώνει ότι περισσότερες εταιρείες θα εμπίπτουν στις κανονιστικές απαιτήσεις από ό,τι στις ΗΠΑ, όπου το όριο είναι υψηλότερο. Αυτή η διάκριση θα μπορούσε να οδηγήσει την ΕΕ στη ρύθμιση μεγαλύτερου αριθμού συστημάτων ΤΝ από ό,τι αρχικά αναμενόταν. Για παράδειγμα, οι ευρωπαϊκές εταιρείες τεχνητής νοημοσύνης, όπως η Mistral, ενδέχεται να υπερβαίνουν συχνά το όριο των 10^25 FLOP, πράγμα που σημαίνει ότι πρέπει να συμμορφώνονται με τα πρότυπα μείωσης των κινδύνων και να παρέχουν ολοκληρωμένη τεκμηρίωση για τα μοντέλα υψηλών επιδόσεων.
Αυτό το διευρυμένο ρυθμιστικό πεδίο στην Ευρώπη θα μπορούσε να δημιουργήσει ένα ανταγωνιστικό χάσμα μεταξύ των επιχειρήσεων ΤΝ των ΗΠΑ και της ΕΕ.
Οι αμερικανικές εταιρείες που εκπαιδεύουν μοντέλα με, ας πούμε, 10^25 FLOPs δεν θα υπόκεινται στις ίδιες ρυθμιστικές απαιτήσεις με τις αντίστοιχες ευρωπαϊκές. Αυτό θα μπορούσε δυνητικά να δώσει κίνητρο σε ορισμένες εταιρείες να εγκαταστήσουν τις επιχειρήσεις τους με υψηλή υπολογιστική ικανότητα στις ΗΠΑ, όπου η εποπτεία αρχίζει να εφαρμόζεται σε υψηλότερο όριο FLOP, εκτός εάν παρόμοια πρότυπα γίνουν πιο διαδεδομένα διεθνώς.
Συμπέρασμα: Μια ισορροπημένη, προσαρμοστική προσέγγιση της ρύθμισης της τεχνητής νοημοσύνης
Τα ρυθμιστικά κατώτατα όρια με βάση τους FLOPs που καθορίστηκαν από τις ΗΠΑ και την ΕΕ αποτελούν ένα σημαντικό πρώτο βήμα για τον ορισμό του συστημικού κινδύνου στα συστήματα ΓΓΠΙ. Το χαμηλότερο όριο 10^25 FLOP της ΕΕ σημαίνει πιθανώς ότι μια ευρύτερη ομάδα μοντέλων ΤΝ θα χρειαστεί ρυθμιστική εποπτεία, ενώ το όριο 10^26 των ΗΠΑ παρέχει ένα κάπως πιο χαλαρό πρότυπο. Και για τις δύο περιοχές, ωστόσο, οι απαιτήσεις αυτές υπογραμμίζουν την ανάγκη για αυστηρή αξιολόγηση του κινδύνου, ενδελεχή τεκμηρίωση και προσεκτική διαχείριση των ηθικών και κοινωνικών επιπτώσεων των προηγμένων συστημάτων ΤΝ.
Αυτά τα κατώτατα όρια με βάση το FLOP αποτελούν σημαντική προσθήκη στο παγκόσμιο ρυθμιστικό τοπίο. Θέτοντας διαφανή κριτήρια για την εποπτεία, τόσο οι κανονισμοί της ΕΕ όσο και οι κανονισμοί των ΗΠΑ αποτελούν πρότυπο για τα μελλοντικά πλαίσια διακυβέρνησης της ΤΝ παγκοσμίως.
Comments are closed.