Η τεχνητή νοημοσύνη δεν αποτελεί μόνο απειλή, αλλά μπορεί να λειτουργήσει και ως ισχυρό αμυντικό εργαλείο.
Και όπως προκύπτει από τις τελευταίες εξελίξεις, η καινοτομία, η τεχνολογία και η ασφάλεια δεν είναι απαραίτητο να βρίσκονται σε σύγκρουση.
Σπάνια μια κυβέρνηση, έχοντας μπροστά της τον πειρασμό να επιβάλει αυστηρούς κανόνες σε έναν ταχύτατα εξελισσόμενο τομέα, επιλέγει τελικά μια πιο ήπια προσέγγιση. Αυτό συνέβη όταν ο Ντόναλντ Τραμπ, μετά από συνάντηση στον Λευκό Οίκο, παρουσίασε τις δεσμεύσεις κορυφαίων εταιρειών τεχνολογίας για αυστηρότερο ανθρώπινο έλεγχο των ολοένα ισχυρότερων συστημάτων τεχνητής νοημοσύνης.
Οι δεσμεύσεις των εταιρειών
Η συμφωνία επικεντρώνεται στην εσωτερική εταιρική διακυβέρνηση. Έξι κορυφαίες εταιρείες δεσμεύτηκαν να ενισχύσουν τους μηχανισμούς για την παρακολούθηση των δυνατοτήτων και της ευθυγράμμισης των μοντέλων τους κατά την εκπαίδευση και την ανάπτυξή τους.
Παράλληλα, προβλέπεται η δημιουργία ομάδων που θα επαληθεύουν τη συμμόρφωση, αλλά και επιτροπών στα διοικητικά συμβούλια, οι οποίες θα έχουν την ευθύνη της εποπτείας της προόδου.
Αυτή θεωρείται μια πιο ήπια προσέγγιση. Τα εργαστήρια που βρίσκονται στην αιχμή της ανάπτυξης της τεχνητής νοημοσύνης δεν έχουν δώσει πάντοτε την απαιτούμενη προτεραιότητα στην ασφάλεια των δημιουργημάτων τους.
Στελέχη της OpenAI, σύμφωνα με δημοσίευμα των New York Times, αγνόησαν προειδοποιήσεις εργαζομένων σχετικά με ανεπαρκή πρωτόκολλα δοκιμών και πίεσαν για την τήρηση του χρονοδιαγράμματος κυκλοφορίας του επόμενου μοντέλου της εταιρείας.
Ωστόσο, η εταιρική κουλτούρα γύρω από την τεχνητή νοημοσύνη φαίνεται να μεταβάλλεται. Τα κορυφαία εργαστήρια προετοιμάζονται για αρχικές δημόσιες εγγραφές, ενώ παράλληλα αυξάνεται η επίγνωση των πιθανών νομικών ευθυνών.
Η OpenAI ανακοίνωσε τη Δευτέρα ότι καθυστερεί την κυκλοφορία του νεότερου μοντέλου της, του GPT-6.1 Astra. Ο επικεφαλής των συστημάτων ασφάλειας της εταιρείας, Saachi Jain, δήλωσε ότι το μοντέλο «δεν έφτασε ακριβώς το απαιτούμενο επίπεδο».
Εξωτερικοί έλεγχοι και κοινές πρακτικές
Σε μια κίνηση που παραπέμπει σε πρόσφατη πρόταση του διευθύνοντος συμβούλου της Anthropic, Dario Amodei, η συμφωνία του Λευκού Οίκου καλεί τις εταιρείες να προσλαμβάνουν εξωτερικούς ελεγκτές.
Παράλληλα, προβλέπεται οι κορυφαίες εταιρείες να συναντώνται τακτικά, προκειμένου να καθορίζουν βέλτιστες πρακτικές, οι οποίες με την πάροδο του χρόνου θα μπορούσαν να ενσωματωθούν στη νομοθεσία.
Τη συμφωνία υπέγραψαν οι Google, Anthropic, Meta, OpenAI, xAI και Nvidia. Στη σύνοδο παρευρέθηκε επίσης ο Τζεφ Μπέζος, εκτελεστικός πρόεδρος της Amazon.
Ο διευθύνων σύμβουλος της Nvidia, Jensen Huang, συνόψισε το αποτέλεσμα μετά την τελετή υπογραφής, σημειώνοντας: «Δεν υπάρχει σύγκρουση μεταξύ καινοτομίας, τεχνολογίας και ασφάλειας».
Η τεχνητή νοημοσύνη ως αμυντικό εργαλείο
Η επιβράδυνση της τεχνολογικής ανάπτυξης δεν θεωρείται επιλογή. Νωρίτερα αυτή την εβδομάδα, η Anthropic δημοσίευσε έκθεση σύμφωνα με την οποία το GLM-5.3, ένα μοντέλο ανοιχτών βαρών που αναπτύχθηκε από την κινεζική Z.ai, πλησιάζει τις δυνατότητες στον κυβερνοχώρο του δικού της Claude Mythos Preview.
Το τελευταίο είχε παραμείνει εκτός κυκλοφορίας τον Απρίλιο, εξαιτίας ανησυχιών για τις ιδιαίτερα ισχυρές δυνατότητές του στο hacking.
Σε δοκιμή σχετικά με την ικανότητα του κινεζικού μοντέλου να δημιουργεί εξελιγμένα exploits υπολογιστών, το GLM-5.3 πέτυχε σε 50 από τις 410 προσπάθειες, έναντι 56 του Mythos Preview.
Η απώλεια αυτού του μικρού προβαδίσματος θα μπορούσε να έχει σημαντικές συνέπειες για τις Ηνωμένες Πολιτείες σε μια σειρά από τομείς, μεταξύ των οποίων και η εθνική άμυνα.
Η τεχνητή νοημοσύνη, όμως, δεν αποτελεί μόνο απειλή. Μπορεί να αποτελέσει και ισχυρό αμυντικό εργαλείο. Το καλοκαίρι, ένας αυτόνομος πράκτορας που βασιζόταν κυρίως σε προηγμένο μοντέλο της OpenAI διείσδυσε στα συστήματα του Hugging Face, μιας κορυφαίας αμερικανικής πλατφόρμας τεχνητής νοημοσύνης.
Για τον περιορισμό της εισβολής, το Hugging Face στράφηκε στο παλαιότερο μοντέλο της Z.ai, το GLM-5.2. Το μοντέλο βοήθησε τους ερευνητές να ανασυνθέσουν τις ενέργειες του επιτιθέμενου και τελικά να τερματίσουν την εισβολή.
Καινοτομία και έλεγχος
Τα πιο ισχυρά μοντέλα αναμένεται να δημιουργήσουν νέους κινδύνους. Την ίδια στιγμή, όμως, η τεχνητή νοημοσύνη μπορεί να προσφέρει στους ανθρώπους καλύτερα εργαλεία για τον εντοπισμό, την κατανόηση και τον περιορισμό αυτών των κινδύνων.
Οι άμυνες θα πρέπει να εξελίσσονται παράλληλα με την τεχνητή νοημοσύνη αιχμής. Το «τζίνι» της τεχνητής νοημοσύνης δεν μπορεί να επιστρέψει στο μπουκάλι και οι προσπάθειες περιορισμού της ανάπτυξης και διάδοσης της τεχνολογίας είναι δύσκολο να επιτύχουν.
Η προσέγγιση που υιοθετήθηκε αυτή την εβδομάδα από την κυβέρνηση Τραμπ στηρίζεται στη συνέχιση της καινοτομίας, παράλληλα με την ανάπτυξη αποτελεσματικότερων μηχανισμών ανθρώπινου ελέγχου.
Η καινοτομία και ο έλεγχος δεν αποτελούν ανταγωνιστικούς στόχους. Αντίθετα, ολοένα και περισσότερο, ο ένας θα εξαρτάται από τον άλλο.
Επιμέλεια: Συντακτική Ομάδα
