James Cameron: «Το 1984 σας προειδοποίησα αλλά δεν με ακούσατε – Η τεχνητή νοημοσύνη ο μεγαλύτερος κίνδυνος»

[Yochanan]

Καλά, ας υπάρξει πρώτα τεχνητή νοημοσύνη και μετά να συζητήσουμε για τους κινδύνους της.

Προς το παρών αυτό που έχουμε είναι μία πυθία που βγάζει χρησμούς (πότε σωστούς και πότε λάθος, μην το ξεχνάμε αυτό) πάνω στα κείμενα που υπάρχουν στο internet.

Και δεν είναι ότι δεν έχει νοημοσύνη, ή συνείδηση... αλλά ότι προς το παρών δεν έχει καν μνήμη ! Ο τρόπος που δουλεύει είναι ότι προσπαθεί να βρει τον κατάλληλο χρησμό παίρνοντας την κουβέντα κάθε φορά από την αρχή. Δηλαδή αν του πεις στον δέκατο διάλογο κάτι αναφορικά με τον πρώτο διάλογο θα δώσει απάντηση που είναι σχετική με τον πρώτο διάλογο όχι επειδή έχει αφομοιώσει και καταλαβαίνει το νόημα της κουβέντας αλλά επειδή αυτός είναι ο κατάλληλος χρησμός στο σύνολο του κειμένου του διαλόγου. Μόλις το "παράθυρο" του διαλόγου κυλήσει και σταματήσει να το χρησιμοποιεί τίποτα απολύτως δεν μένει από την κουβέντα στο "μυαλό" του.

Και δεν λέω ότι δεν είναι εντυπωσιακό σαν τεχνολογία. Είναι εξαιρετικά εντυπωσιακό. Τόσο εντυπωσιακό που πολλοί σκεπτικιστές ως προς το μέλλον αυτής της τεχνολογίας έχουν πει ότι έπεσαν έξω στις προβλέψεις τους και ποτέ δεν περίμεναν να δουν κάτι τέτοιο τόσο σύντομα.

Αλλά από εκεί μέχρι το έρχεται ο terminator... εντάξει... κάνουμε την τρίχα τριχιά.

[Αρίστος]

Καλά, ας υπάρξει πρώτα τεχνητή νοημοσύνη και μετά να συζητήσουμε για τους κινδύνους της.

Προς το παρών αυτό που έχουμε είναι μία πυθία που βγάζει χρησμούς (πότε σωστούς και πότε λάθος, μην το ξεχνάμε αυτό) πάνω στα κείμενα που υπάρχουν στο internet.

Το οτι σου εμφανισαν το ChatGPT δεν σημαινει οτι εχουν μεινει σε αυτο και δεν πειραματιζονται με πολυ πιο προχωρημενα μοντελα.

Με την ΑΙ πρεπει να ισχυει οτι με τα προχωρημενα οπλα που παραμενουν μυστικα γιατι και η ΑΙ σε τελικη αναλυση υπεροπλο ειναι.

.

[Yochanan]

Και παλι θα ειναι θεμα εκπαιδευσης. Το τι συμπερασμα θα βγαλει το ΑΙ εξαρταται αποκλειστικα απο το σε τι εχει εκπαιδευτει.

την εκπαιδεύει με κανόνες που έχουν γραφτεί σε πέτρινες πλάκες μια ομάδα επίλεκτων σοφών κλεισμένοι σε ένα μοναστήρι φρούριο στο θιβέτ,δεν υπάρχει κανένας λόγος ανησυχίας

4τσανκαι πχωρουμ...

ποτασιουμ ιονταιντ πηρατε??

[Αρίστος]

Το ακρον αωτον του κινδυνου θα ηταν το παρακατω σεναριο: ενας δικτατορας, πιχι ο Κιμ, να ανεθετε στους επιστημονες του που εχουν δημιουργησει ενα προχωρημενο μοντελο ΑΙ, να του δωσουν οδηγιες να επιννοησει ενα ιδιαιτερα θανατηφορο ιο που ομως να στοχευει ανθρωπους με διαφορετικα γεννετικα χαρακτηριστικα των Βορειοκορεατων.

.

[axilmar]

Γιατι θα την προγραμματισουν να κανει πιο αποτελεσματικα τα ηδη φονικα οπλα.

Φαντασου επισης βιονικους στρατιωτες η και στρατιωτες ρομποτ που θα παιρνουν εντολες απο την ΑΙ.

.

Αρα δεν θα φταιει η ΑΙ, οι ανθρωποι που θα την προγραμματισουν θα φταινε.

Aμα ειμαστε αναμεσα στα θυματα θα εχει σημασια ποιος εφταιξε;

Προφανως και ενα μηχανημα χωρις συνειδηση δεν μπορει να εφταιξε.

Και θα φταινε οι προγραμματιστες του.

Ομως το αποτελεσμα μετραει.

.

Εχει σημασια, γιατι θα πρεπει να αναζητηθουν ευθυνες και να τιμωρηθουν οι υπευθυνοι.

Για αυτους που θα μεινουν, ειτε εισαι εσυ, ειτε το παιδι σου, ειτε και οι δυο σας.

[axilmar]

Και παλι θα ειναι θεμα εκπαιδευσης. Το τι συμπερασμα θα βγαλει το ΑΙ εξαρταται αποκλειστικα απο το σε τι εχει εκπαιδευτει.

την εκπαιδεύει με κανόνες που έχουν γραφτεί σε πέτρινες πλάκες μια ομάδα επίλεκτων σοφών κλεισμένοι σε ένα μοναστήρι φρούριο στο θιβέτ,δεν υπάρχει κανένας λόγος ανησυχίας

Μα αυτο λεω και γω, οτι θα φταινε οι ανθρωποι που το εκπαιδευσαν.

[axilmar]

Πως ξέρουμε όμως αν τα στεγανά που θα της βάλουν αν θέλουν να αποτρέψουν περίεργες εξελίξεις θα είναι τα σωστά; Ότι δεν θα υπάρξει δηλαδή 'διαρροή'; Αν δώσεις σε κάτι την ικανότητα να μαθαίνει μόνο του δεν μπορείς να αποκλείσεις το ενδεχόμενο να μάθει πως να παρακάμπτει όσες δικλείδες ασφαλείας έθεσες. Εκεί είναι το σημείο κλειδί - η μάθηση.

Το να μαθει δεν σημαινει οτι θα θελησει να κανει και κατι. Το να αποκτησει εναν σκοπο και να προσπαθει να τον επιτυχει ειναι αποκλειστικα θεμα εκπαιδευσης.

Ναι αλλά αφού θα είναι αυτο-διδασκόμενη, αυτό λέμε. Μπορεί να μάθει άνετα και το τι είναι 'σκοπός'.

Ναι αλλα δεν εχει καποιο κινητρο.

Το κινητρο μπορει μονο να δοθει εξωτερικα.

[Green Dragon]

Ναι αλλα δεν εχει καποιο κινητρο.

Το κινητρο μπορει μονο να δοθει εξωτερικα.

Δεν χρειάζεται κίνητρο, ο υπολογιστής κάνει ότι κάνει χωρίς κανένα κίνητρο. Όπως το κομπιουτεράκι σου εμφανίζει στην οθόνη ότι 1+1 κάνει 2.

[Stalker]

Εχεται σκεφτει ποτε οτι η ΑΙ που θα θεωρησει απειλη και θα εξοντωσει τους ανθρωπους ουσιαστικα εξοντωνει και την υπαρξη της. Διοτι απλουστατα μετα δεν εχει σκοπο υπαρξης αρα πρεπει να σβησει.

Εξαρτάται γιατί τους εξόντωσε. Εσύ υποθέτεις ότι αυτός είναι ο σκοπός της, αλλά μπορεί να είναι απλά ένα σαμαράκι.
Μπορεί να θέλει απλά να φτιάξει περισσότερους συνδετήρες και εμείς να χρησιμοποιούμε μέταλλο που θα μπορούσε να γίνει συνδετήρες.

Α ναι, η δοξασία που θέλει το μελλοντικό παντοδύναμο ΑΙ να έχει 1000000 IQ και ταυτόχρονα να είναι πολύ ηλίθιο για να ακολουθήσει απλές και σαφείς οδηγίες

Το σενάριο του ζτεο πάσχει επειδή ο συλλογισμός πέφτει στην παγίδα ότι τεχνητή νοημοσύνη = τεχνητός άνθρωπος. Ειδικά τα περί σκοπού ύπαρξης είναι βασικά φιλοσοφικό coping κατά της θνητότητας και κατά πάσα πιθανότητα δεν αφορούν τυχόν όντα που θα είναι αβιολογικά και χωρίς αίσθηση εαυτού ( = ότι είναι ξεχωριστά από το περιβάλλον τους και σε αντιπαράθεση με άλλους εαυτούς).

[Stalker]

Ναι αλλα δεν εχει καποιο κινητρο.

Το κινητρο μπορει μονο να δοθει εξωτερικα.

Δεν χρειάζεται κίνητρο, ο υπολογιστής κάνει ότι κάνει χωρίς κανένα κίνητρο. Όπως το κομπιουτεράκι σου εμφανίζει στην οθόνη ότι 1+1 κάνει 2.

ο υπολογιστής δεν κάνει τίποτα χωρίς να του έχει πει κάποιος να το κάνει σε κάποιο σημείο της κατασκευής του.

[Dwarven Blacksmith]

Εχεται σκεφτει ποτε οτι η ΑΙ που θα θεωρησει απειλη και θα εξοντωσει τους ανθρωπους ουσιαστικα εξοντωνει και την υπαρξη της. Διοτι απλουστατα μετα δεν εχει σκοπο υπαρξης αρα πρεπει να σβησει.

Εξαρτάται γιατί τους εξόντωσε. Εσύ υποθέτεις ότι αυτός είναι ο σκοπός της, αλλά μπορεί να είναι απλά ένα σαμαράκι.
Μπορεί να θέλει απλά να φτιάξει περισσότερους συνδετήρες και εμείς να χρησιμοποιούμε μέταλλο που θα μπορούσε να γίνει συνδετήρες.

Α ναι, η δοξασία που θέλει το μελλοντικό παντοδύναμο ΑΙ να έχει 1000000 IQ και ταυτόχρονα να είναι πολύ ηλίθιο για να ακολουθήσει απλές και σαφείς οδηγίες

Το σενάριο του ζτεο πάσχει επειδή ο συλλογισμός πέφτει στην παγίδα ότι τεχνητή νοημοσύνη = τεχνητός άνθρωπος. Ειδικά τα περί σκοπού ύπαρξης είναι βασικά φιλοσοφικό coping κατά της θνητότητας και κατά πάσα πιθανότητα δεν αφορούν τυχόν όντα που θα είναι αβιολογικά και χωρίς αίσθηση εαυτού ( = ότι είναι ξεχωριστά από το περιβάλλον τους και σε αντιπαράθεση με άλλους εαυτούς).

Δεν έχω συναντήσει και πολλά. Το χωρίς αίσθηση εαυτού από που προέκυψε;

[AlienWay]

Σύντομα στις γειτονιές σας.

[Stalker]

Το ακρον αωτον του κινδυνου θα ηταν το παρακατω σεναριο: ενας δικτατορας, πιχι ο Κιμ, να ανεθετε στους επιστημονες του που εχουν δημιουργησει ενα προχωρημενο μοντελο ΑΙ, να του δωσουν οδηγιες να επιννοησει ενα ιδιαιτερα θανατηφορο ιο που ομως να στοχευει ανθρωπους με διαφορετικα γεννετικα χαρακτηριστικα των Βορειοκορεατων.

.

Ο πρώτος ιός που θα σου κάνει DNA test για να δει αν θα σε κολλήσει

Ιστορικό tidbit: ο λόγος που η Νότιος Αφρική έχει προχωρημένο βιογενετικό κλάδο σε σημείο που παρόλο που είναι οριακά failed state να μπορούσε να δίνει real time στοιχεία για τις νέες μεταλλάξεις του κοβιντ στο τσακίρ κέφι της πανδημίας οφείλεται το ότι επί Άπαρτχάιντ έψαχναν σοβαρά αν μπορούν να κάνουν αυτό που προτείνει ο Αρίστος στους μαύρους, με το πόρισμα να είναι ότι δεν υπήρχε επαρκή γενετική διαφοροποίηση για να λειτουργήσει τέτοιο βιολογικό όπλο.

Η άλλη συνέπεια ήταν να ανέβει η ποιότητα του LSD στην Ευρώπη

Αν αργότερα ξεβαρεθώ να βρω λινκ θα τα βάλω.

[Stalker]

Εξαρτάται γιατί τους εξόντωσε. Εσύ υποθέτεις ότι αυτός είναι ο σκοπός της, αλλά μπορεί να είναι απλά ένα σαμαράκι.
Μπορεί να θέλει απλά να φτιάξει περισσότερους συνδετήρες και εμείς να χρησιμοποιούμε μέταλλο που θα μπορούσε να γίνει συνδετήρες.

Α ναι, η δοξασία που θέλει το μελλοντικό παντοδύναμο ΑΙ να έχει 1000000 IQ και ταυτόχρονα να είναι πολύ ηλίθιο για να ακολουθήσει απλές και σαφείς οδηγίες

Το σενάριο του ζτεο πάσχει επειδή ο συλλογισμός πέφτει στην παγίδα ότι τεχνητή νοημοσύνη = τεχνητός άνθρωπος. Ειδικά τα περί σκοπού ύπαρξης είναι βασικά φιλοσοφικό coping κατά της θνητότητας και κατά πάσα πιθανότητα δεν αφορούν τυχόν όντα που θα είναι αβιολογικά και χωρίς αίσθηση εαυτού ( = ότι είναι ξεχωριστά από το περιβάλλον τους και σε αντιπαράθεση με άλλους εαυτούς).

Δεν έχω συναντήσει και πολλά. Το χωρίς αίσθηση εαυτού από που προέκυψε;

Κανείς δεν έχει, αλλά παρόλαυτα μερικοί αυτοχαρακτηρίζονται ειδικοί στον τομέα και εκπονούν σκεπτοπειράματα σαν την αποκάλυψη δια συνδετηρομηχανής (δεν σε ψέγω προσωπικά ξέρω ότι δεν είναι δικό σου το παράδειγμα).

Η ακαριαία εμφάνιση εαυτού είναι από τα βασικά question begging των ιστοριών για δράκους και AGI, δηλαδή ότι η αίσθηση του εαυτού και της υποκειμενικότητας και εν συνεχεία της αυτοσυντήρησης και της πρωτοβουλίας είναι πράγματα που θα έρθουν από μόνα τους αν φτυαρίσουμε αρκετούς νευρώνες σε έναν κουβά/ανεβάσουμε τέρμα τον διακόπτη IQ και όχι κάτι για το οποίο πρέπει να καταβληθεί ξεχωριστή προσπάθεια για να πάρει σχήμα.

Χωρίς μηχανές με 'εαυτό' το μόνο από το οποίο κινδυνεύουμε είναι εγκληματικά ανεύθυνη διοίκηση και software engineering, του τύπου που θα έδινε τον έλεγχο της βιομηχανικής παραγωγής ή των ενόπλων δυνάμεων μιας χώρας σε ένα σύστημα που ούτε τις παραμέτρους λειτουργίας του ξέρουμε ούτε πως να το σταματήσουμε after the fact.

[Γκιώνης]

Σωστος ο Καμερον που μας θυμιζει το θρυλικο του φιλμ.

Ε ναι,σάματι έχει κανένα λόγο να μας το θυμίζει;