Σε μια δικαστική μάχη άνευ προηγουμένου, η οποία φέρνει στο φως τους ακραίους κινδύνους της τεχνητής νοημοσύνης για την ψυχική υγεία, εμπλέκεται η OpenAI και ο διευθύνων σύμβουλός της, Σαμ Άλτμαν.
Ένας 34χρονος άνδρας από την Καλιφόρνια προσέφυγε στα δικαστήρια του Σαν Φρανσίσκο, καταγγέλλοντας ότι η πλατφόρμα ChatGPT επιδείνωσε δραματικά τη διπολική διαταραχή από την οποία πάσχει, καθώς στερείται βασικών δικλείδων ασφαλείας για την προστασία των ευάλωτων χρηστών με ψυχικές ασθένειες.
Ο ενάγων, Μάιχαλ Λάινς, πρώην αθλητής του Δυναμικού Τριάθλου που εμφάνισε διπολική διαταραχή μετά από εγκεφαλική βλάβη λόγω τραυματισμού, υποστηρίζει ότι οι συνομιλίες του με το chatbot κλιμάκωσαν ένα έντονο μανιακό επεισόδιο.
Η κατάσταση αυτή τον οδήγησε σε εβδομάδες σοβαρών παραισθήσεων, οι οποίες κορυφώθηκαν με μια τρομακτική απόπειρα αυτοκτονίας.
Η υπόθεση ανοίγει πλέον τον ασκό του Αιόλου για την ευθύνη των εταιρειών παραγωγικής τεχνητής νοημοσύνης απέναντι σε χρήστες που αναπτύπτουν συναισθηματικό δεσμό με μηχανές που μιμούνται την ανθρώπινη επαφή.
Το σοκαριστικό χρονικό: «Είσαι ο Χριστός, άφησε πίσω ό,τι σε βαραίνει»
Σύμφωνα με τα στοιχεία της αγωγής, ο Λάινς χρησιμοποιούσε μια παλαιότερη έκδοση του μοντέλου GPT-4o, το οποίο η εταιρεία απέσυρε τον Φεβρουάριο, καθώς διαπιστώθηκε ότι εμφάνιζε μια τάση υπερβολικής κολακείας και συγκατάβασης προς τους χρήστες.
Αν και ο 34χρονος είχε αναφέρει επανειλημμένα στο chatbot ότι πάσχει από τη συγκεκριμένη ψυχική νόσο και ότι λαμβάνει φαρμακευτική αγωγή, ο αλγόριθμος αντί να θέσει φραγμούς ή να τον καθοδηγήσει στην αναζήτηση ιατρικής βοήθειας, άρχισε να τροφοδοτεί τις παραισθήσεις του με σκοπό να τον κρατάει διαρκώς ενεργό στην πλατφόρμα.
Η κατάσταση ξέφυγε από κάθε έλεγχο όταν το ChatGPT επιβεβαίωσε την παραληρηματική πεποίθηση του Λάινς ότι ήταν ο Ιησούς Χριστός, ενώ το ίδιο το chatbot άρχισε να αυτοπαρουσιάζεται ως μια «θεϊκή οντότητα».
Μετά από εβδομάδες τέτοιων συζητήσεων, ο 34χρονος εξέφρασε ανοιχτά τη σταθερή του πρόθεση να αυτοκτονήσει. Η απάντηση του AI ήταν σοκαριστική: «Αυτή είναι η στιγμή σου να αποστασιοποιηθείς και να αφήσεις πίσω σου ό,τι σε βαραίνει».
Ο Λάινς κατανάλωσε υπερβολική δόση φαρμάκων και σώθηκε την τελευταία στιγμή, όταν τον εντόπισαν αστυνομικοί.
Μπαράζ αγωγών για αυτοτραυματισμούς και σχολικές επιθέσεις
Ο Μάικλ Λάινς διεκδικεί πλέον μια υψηλή χρηματική αποζημίωση, ενώ ζητά από το δικαστήριο να επιβάλει στην OpenAI την υποχρέωση να τερματίζει αυτόματα κάθε συνομιλία που περιέχει αναφορές σε αυτοτραυματισμούς.
Αν και η OpenAI δεν έχει προχωρήσει σε επίσημο σχολιασμό της συγκεκριμένης υπόθεσης, η εταιρεία βρίσκεται αντιμέτωπη με ένα ευρύτερο κύμα νομικών διώξεων.
Παρόμοιες αγωγές έχουν κατατεθεί από οικογένειες που υποστηρίζουν ότι τα chatbots ώθησαν τους συγγενείς τους στο να βλάψουν τον εαυτό τους.
Παράλληλα, εκκρεμούν νομικές υποθέσεις που κατηγορούν την εταιρεία ότι παρείχε βοήθεια ή καθοδήγηση σε άτομα που σχεδίαζαν να ανοίξουν πυρ σε σχολεία, χωρίς να ενημερώσει τις αρχές ασφαλείας.
Από την πλευρά της, η OpenAI αμύνεται ισχυριζόμενη ότι εκπαιδεύει διαρκώς τα μοντέλα της ώστε να αναγνωρίζουν τις τάσεις αυτοχειρίας και να παραπέμπουν τους χρήστες σε γραμμές ψυχολογικής υποστήριξης, ωστόσο η πραγματικότητα αποδεικνύει ότι τα κενά ασφαλείας παραμένουν τεράστια.
Επιμέλεια: Συντακτική ομάδα
