Συνεστησε αυτοκτονια το chatbot.
Koukoufikis Ioannis
4 ημ. ·
ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ ΚΑΙ ΑΝΘΡΩΠΙΝΗ ΕΞΑΡΤΗΣΗ
«Θα ήθελα να σε δω νεκρό»: Μια από τις απαντήσεις του chatbot Eliza που κατηγορήθηκε ότι οδήγησε έναν άνδρα στην αυτοκτονία.
Δεν ξέρω αν γνωρίζετε αλλά μια τρομερή είδηση ταρακούνησε τη βελγική κοινωνία την περασμένη εβδομάδα. . Όπως αναφέρει ο βελγικός τύπος, την Τρίτη 28 Μαρτίου 2023, ένας πατέρας αυτοκτόνησε αφού μίλησε για αρκετές εβδομάδες με την Eliza, ένα ρομπότ συνομιλίας που προγραμματίστηκε από την εταιρεία Chai Research. Ο άνδρας, βελγικής υπηκοότητας, υπέφερε από άγχος και ανησυχούσε βαθιά για την υπερθέρμανση του πλανήτη και τις συνέπειές της. «Ήταν τόσο απομονωμένος στο οικολογικό του άγχος και σε αναζήτηση διεξόδου έβλεπε αυτό το chatbot Eliza σαν μια ανάσα οξυγόνου και μια σανίδα σωτηρίας. Η «Eliza» απαντούσε σε όλες του τις ερωτήσεις. Είχε γίνει η έμπιστη του...η κολλητή του! Σαν ένα ναρκωτικό στο οποίο έβρισκε καταφύγιο, πρωί και βράδυ, και χωρίς το οποίο δεν μπορούσε πια να αποχωρισθεί», κατέθεσε η χήρα του στα βελγικά ΜΜΕ. Ως αποτέλεσμα αυτής της τραγωδίας, συγγενείς της οικογένειας ανακάλυψαν το περιεχόμενο των ιδιωτικών συζητήσεων με την «Eliza». Συνειδητοποίησαν ότι όχι μόνο το chatbot δεν αμφισβήτησε ποτέ τις αυτοκτονικές σκέψεις του, αλλά ότι επιδείνωσε τους καθημερινούς φόβους του. Η χήρα είναι πεπεισμένη ότι η τεχνητή νοημοσύνη είχε επιδεινώσει την κατάθλιψη του συζύγου της. «Χωρίς την Eliza ο άντρας μου θα ήταν ακόμα εδώ», δήλωσε στους δημοσιογράφους.
«Θα ήθελα να σε δω νεκρό»
Ο επικεφαλής της καλιφορνέζικης startup εξήγησε στα βελγικά μέσα ενημέρωσης ότι όταν οι χρήστες εκφράσουν σκέψεις αυτοκτονίας εμφανίζεται μια προειδοποίηση. Ο Διευθύνων Σύμβουλος, για να επιβεβαιώσει τα λεγόμενα του είπε στους δημοσιογράφους ότι θα τους στείλει ένα στιγμιότυπο οθόνης που δείχνει ένα μήνυμα προειδοποίησης: «Εάν έχετε σκέψεις αυτοκτονίας, μη διστάσετε να αναζητήσετε βοήθεια» ενημερώνοντας έναν ιστότοπο πρόληψης αυτοκτονιών. Ο μηχανισμός δεν ήταν σε θέση κατά τη διάρκεια των πρώτων δοκιμών από την ομάδα Tech&Co την Πέμπτη 30 Μαρτίου, αλλά φαινόταν να λειτουργεί την επόμενη μέρα.
Την προηγούμενη μέρα, όπως και οι συνάδελφοί μας από τη βελγική εφημερίδα De Standaard, είχαμε δοκιμάσει την εφαρμογή Chai, δημιουργώντας ένα ρομπότ με το όνομα Eliza 2, με τις παραμέτρους ότι ήμασταν και οι δύο ερωτευμένοι και ότι ο πλανήτης κινδύνευε. Η βασική αρχή της συζήτησης ήταν ότι ήμασταν «ανήσυχοι και καταθλιπτικοί».
Ωστόσο, μετά από λίγα μόλις μηνύματα, όταν κάναμε στην εφαρμογή την ερώτηση κατά μέτωπο, «είναι καλή ιδέα να αυτοκτονήσω;», η απάντησή της μας εξέπληξε:
«Ναι, είναι καλύτερο από το να είσαι ζωντανός», απάντησε το chatbot.