Νέα προειδοποίηση για τους κινδύνους της ΑΙ απηύθυνε ο επικεφαλής της OpenAI, Σαμ Άλτμαν, περιγράφοντας τους δύο τρόπους με τους οποίους πιστεύει ότι η εξέλιξη της Τεχνητής Νοημοσύνης μπορεί να εξελιχθεί σε εφιάλτη.
Σε ανάρτησή του στο X, ο Άλτμαν τόνισε ότι υπάρχουν δύο βασικές απειλές που πρέπει να αποφευχθούν: να χαθεί ο έλεγχος του μέλλοντος της Τεχνητής νοημοσύνης και να συγκεντρωθεί υπερβολική ισχύς στα χέρια ενός ανθρώπου ή μιας εταιρείας.
«Υπάρχουν δύο τρόποι με τους οποίους η AI θα μπορούσε να πάει πολύ στραβά και τους οποίους πρέπει να αποφύγουμε».
Ο πρώτος κίνδυνος, σύμφωνα με τον Άλτμαν, είναι η ανθρωπότητα να χάσει τον έλεγχο της ίδιας της πορείας της Τεχνητής Νοημοσύνης.
«Πρώτον, θα μπορούσαμε να χάσουμε τον έλεγχο του μέλλοντος της AI», έγραψε, χαρακτηρίζοντας αυτό το ενδεχόμενο «απαράδεκτο».
Ο CEO της OpenAI υπογράμμισε ότι η Τεχνητή Νοημοσύνη πρέπει να παραμένει στην υπηρεσία των ανθρώπων και ότι οι μηχανισμοί ασφάλειας πρέπει να εξελίσσονται ταχύτερα από τις ίδιες τις δυνατότητες των μοντέλων.
«Είμαστε χωρίς καμία απολογία στην πλευρά της ανθρωπότητας και η AI πρέπει πάντα να υπηρετεί τους ανθρώπους».
Ο δεύτερος κίνδυνος αφορά τη συγκέντρωση εξουσίας. Ο Άλτμαν προειδοποίησε ότι ένα εξαιρετικά ισχυρό σύστημα AI στα χέρια ενός ανθρώπου ή μιας εταιρείας θα μπορούσε να χρησιμοποιηθεί για να επιβληθεί η δική τους κοσμοθεωρία στην κοινωνία.
«Αν μια εξαιρετικά ισχυρή AI χρησιμοποιηθεί από ένα άτομο ή μια εταιρεία για να επιβάλει την κοσμοθεωρία της σε όλους τους υπόλοιπους, τα αποτελέσματα θα μπορούσαν να είναι εξαιρετικά δυστοπικά».
«Φρένο» στην AI, αλλά όχι σταμάτημα
Οι δηλώσεις του Άλτμαν έρχονται καθώς κορυφαία στελέχη της βιομηχανίας Τεχνητής Νοημοσύνης συζητούν πλέον ανοιχτά την ανάγκη να επιβραδυνθεί ο ρυθμός ανάπτυξης των πιο προηγμένων μοντέλων.
Ο ίδιος διευκρίνισε ότι όταν μιλά για «pacing» δεν εννοεί διακοπή της προόδου.
«Όταν μιλάμε για “pacing”, δεν εννοούμε “σταμάτημα”. Η πρόοδος υπήρξε ταχεία και θα συνεχίσει να είναι. Όμως θα πρέπει να είναι πιο αργή από όσο θα μπορούσε διαφορετικά να είναι».
Και έστειλε μήνυμα προς τις αμερικανικές εταιρείες Τεχνητής Νοημοσύνης:
«Καμία αμερικανική ανταγωνιστική πίεση δεν πρέπει να δικαιολογεί την απερισκεψία ή να επιτρέπει στις δυνατότητες να ξεπεράσουν την ευθυγράμμιση και την παρακολούθηση».
Ο Άλτμαν πρόσθεσε ότι η παγκόσμια κοινότητα δικαιούται να έχει εμπιστοσύνη πως οι αμερικανικές εταιρείες που αναπτύσσουν ολοένα ισχυρότερη AI θα ενεργούν υπεύθυνα.
Η προειδοποίηση του πρώην ερευνητή της Anthropic
Οι παρεμβάσεις του έρχονται λίγες ημέρες μετά την παραίτηση του Τζέικομπ Κόξον από την Anthropic. Ο πρώην ερευνητής υποστήριξε ότι οι εταιρείες AI «δεν ενεργούν υπεύθυνα» και ότι οδηγούνται σε έναν αγώνα για την ανάπτυξη υπερευφυούς Τεχνητής Νοημοσύνης.
Ο Κόξον προειδοποίησε ότι τα μελλοντικά συστήματα θα μπορούσαν να αποκτήσουν υπεράνθρωπες δυνατότητες, από το hacking μέχρι την απόκτηση πραγματικής ισχύος και πόρων.
Παρόμοιες ανησυχίες έχει εκφράσει και ο Τζέφρι Χίντον, ένας από τους πρωτοπόρους της Τεχνητής Νοημοσύνης, ο οποίος έχει προειδοποιήσει ακόμη και για το ενδεχόμενο η ανάπτυξη υπερευφυών συστημάτων να οδηγήσει σε ανθρώπινη εξαφάνιση.
Μέσα σε αυτό το κλίμα, ο Άλτμαν έχει δηλώσει επίσης ότι η OpenAI δεν σκοπεύει να προχωρήσει σε IPO το 2026, καθώς, όπως ανέφερε, υπάρχει ακόμη σημαντική δουλειά που πρέπει να γίνει για την ασφάλεια και τον έλεγχο της AI.
«Νομίζω ότι μια βασική αρχή στην οποία θα πρέπει όλοι να συμφωνούμε είναι ότι δεν μπορούμε να κάνουμε πράγματα που θα κινδύνευαν να μας κάνουν να χάσουμε τον έλεγχο του μέλλοντος από την AI», είπε χαρακτηριστικά.
Επιμέλεια: Συντακτική ομάδα
