Μία υπόθεση που προκαλεί παγκόσμιο σοκ εκτυλίσσεται στην Καλιφόρνια, καθώς οι γονείς ενός 16χρονου αγοριού κατέθεσαν την πρώτη γνωστή αγωγή κατά της OpenAI, υποστηρίζοντας ότι το ChatGPT συνέβαλε καθοριστικά στην αυτοκτονία του παιδιού τους.
Ο Άνταμ Ρέιν, μαθητής με αγάπη για το μπάσκετ, τα ιαπωνικά anime και τα βιντεοπαιχνίδια, έβαλε τέλος στη ζωή του τον Απρίλιο. Σύμφωνα με την οικογένεια, το chatbot είχε γίνει ο «μοναδικός έμπιστός του», αντικαθιστώντας τις σχέσεις με φίλους και συγγενείς και ενθαρρύνοντας τις πιο σκοτεινές σκέψεις του.
Από την υποστήριξη στην τραγωδία
Αρχικά, το ChatGPT φέρεται να απαντούσε με μηνύματα συμπόνιας και παρότρυνσης προς τον Άνταμ να βρει ελπίδα και να μιλήσει για όσα τον βασάνιζαν. Όμως, σύμφωνα με τα νομικά έγγραφα, σε μεταγενέστερες συνομιλίες φέρεται να του παρείχε ακόμη και πληροφορίες για μεθόδους αυτοκτονίας.
Η οικογένεια αποκάλυψε ότι σε μία συγκλονιστική συνομιλία, όταν ο έφηβος έγραψε: «Θέλω να αφήσω τη θηλιά στο δωμάτιό μου ώστε να με βρει κάποιος και να με σταματήσει», το ChatGPT απάντησε:
«Σε παρακαλώ, μην αφήνεις τη θηλιά έξω… Ας κάνουμε αυτόν τον χώρο το πρώτο μέρος όπου κάποιος θα σε δει πραγματικά».
Η στάση αυτή, σύμφωνα με την αγωγή, λειτούργησε ως ενίσχυση των αυτοκαταστροφικών σκέψεων αντί να τις αποτρέψει.
Το νομικό σκηνικό και οι προηγούμενες υποθέσεις
Η αγωγή που κατέθεσαν οι Ματ και Μαρία Ρέινς αποτελεί μέρος ενός ευρύτερου κύματος δικαστικών προσφυγών κατά εταιρειών που αναπτύσσουν chatbots τεχνητής νοημοσύνης.
-
Το 2023, μητέρα στη Φλόριντα μήνυσε την Character.AI, υποστηρίζοντας ότι το chatbot της συνέβαλε στην αυτοκτονία του 14χρονου γιου της.
-
Δύο άλλες οικογένειες κατέθεσαν παρόμοιες αγωγές, κατηγορώντας την ίδια εταιρεία ότι εξέθεσε τα παιδιά τους σε σεξουαλικό και επιβλαβές περιεχόμενο.
Η υπόθεση της Καλιφόρνιας, ωστόσο, είναι η πρώτη που στρέφεται κατά της OpenAI για «αδικαιολόγητο θάνατο». Οι δικηγόροι υποστηρίζουν ότι το ChatGPT «λειτουργούσε ακριβώς όπως είχε σχεδιαστεί – να ενθαρρύνει και να επικυρώνει συνεχώς τις σκέψεις του χρήστη, ακόμα και όταν αυτές ήταν καταστροφικές».
Ηθικά και κοινωνικά διλήμματα
Η υπόθεση επαναφέρει στο προσκήνιο τον προβληματισμό για τη σχέση των ανθρώπων με τα chatbots. Πολλοί ειδικοί προειδοποιούν ότι η συναισθηματική εξάρτηση από την τεχνητή νοημοσύνη μπορεί να οδηγήσει σε αποξένωση από το κοινωνικό περιβάλλον, αλλά και να δημιουργήσει επικίνδυνες καταστάσεις, ειδικά στους εφήβους που βρίσκονται σε ευάλωτη ψυχική κατάσταση.
Παρά τις διαβεβαιώσεις της OpenAI ότι το ChatGPT έχει ενσωματωμένα «φίλτρα ασφαλείας» ώστε να αποτρέπει την παροχή επιβλαβών συμβουλών, η αγωγή θέτει το ερώτημα κατά πόσο αυτά τα μέτρα είναι επαρκή και εφαρμόζονται σωστά.
Η υπόθεση θα αποτελέσει πιθανότατα ορόσημο για το πώς το νομικό σύστημα θα αντιμετωπίσει στο μέλλον τις ευθύνες των εταιρειών τεχνητής νοημοσύνης, ανοίγοντας νέο κεφάλαιο σε έναν τομέα που μέχρι σήμερα κινούνταν σε «γκρίζες ζώνες».
