James Cameron: «Το 1984 σας προειδοποίησα αλλά δεν με ακούσατε – Η τεχνητή νοημοσύνη ο μεγαλύτερος κίνδυνος»

[zteo]

Γιατι θα την προγραμματισουν να κανει πιο αποτελεσματικα τα ηδη φονικα οπλα.

Φαντασου επισης βιονικους στρατιωτες η και στρατιωτες ρομποτ που θα παιρνουν εντολες απο την ΑΙ.

.

Δηλαδη τα οπλα θα σκοτωνουν επειδη ειναι οπλα?
Τι θα γινει εαν και οταν επιτελεσουν τον σκοπο τους? Τοτε ποιος ο λογος της υπαρξης τους?

Θα αναλαμβανει η ΑΙ ενα οπλικο συστημα να το κανει πιο αποτελεσματικο και θα εχουμε μια νεα κουρσα υπεροπλων αναλογη με την κουρσα που καποτε γινοταν στα πυρηνικα. Αυτα τα υπεροπλα μπορουν να περιλαμβανουν απο νεα πυραυλικη τεχνολογια, νεους φονικους ιους, φονικοτερα και πιο εξυπνα drones αλλα και ρομποτικους στρατους που θα συντονιζονται και θα κινουνται απο την ΑΙ.

Γι' αυτο ακριβως προειδοποιει ο Καμερον.

.

Ολα αυτα που γραφεις θα γινονται υπο την καθοδηγηση των ανθρωπων.
Απλα πραγματακια.
Για ποιον λογο ο Σκαινετ θελει να καταστρεψει τους ανθρωπους?
Εαν ο Σκαινετ καταφερνε να σκοτωσει τους ανθρωπους τι θα καναν οι Terminator τοτε?

[Αρίστος]

Οι ανθρωποι θα χρειαζοντουσαν ομως δεκαετιες να τα πετυχουν ενω η ΑΙ θα τρεξει την κουρσα των εξοπλισμων πολυ γρηγορα αν εχει σχετικες εντολες, με λιγα λογια θα βγαλει πατεντες υπεροπλων που υπο κσ θα τις βλεπαμε ισως και σε αλλους αιωνες.

.

[George_V]

Δηλαδη τα οπλα θα σκοτωνουν επειδη ειναι οπλα?
Τι θα γινει εαν και οταν επιτελεσουν τον σκοπο τους? Τοτε ποιος ο λογος της υπαρξης τους?

Θα αναλαμβανει η ΑΙ ενα οπλικο συστημα να το κανει πιο αποτελεσματικο και θα εχουμε μια νεα κουρσα υπεροπλων αναλογη με την κουρσα που καποτε γινοταν στα πυρηνικα. Αυτα τα υπεροπλα μπορουν να περιλαμβανουν απο νεα πυραυλικη τεχνολογια, νεους φονικους ιους, φονικοτερα και πιο εξυπνα drones αλλα και ρομποτικους στρατους που θα συντονιζονται και θα κινουνται απο την ΑΙ.

Γι' αυτο ακριβως προειδοποιει ο Καμερον.

.

Ολα αυτα που γραφεις θα γινονται υπο την καθοδηγηση των ανθρωπων.
Απλα πραγματακια.
Για ποιον λογο ο Σκαινετ θελει να καταστρεψει τους ανθρωπους?
Εαν ο Σκαινετ καταφερνε να σκοτωσει τους ανθρωπους τι θα καναν οι Terminator τοτε?

Kαποτε ειχα κανει ακριβως την ιδια συζητηση με εναν αμερικανο καθηγητη (τωρα ρομποτικης ηταν νευροκατι ηταν δεν θυμαμαι πανε πολλα χρονια απο τοτε).

Μου ειχε πει το εξης: "Αν ποτε καταφέρουμε και φτάσουμε στο επιπεδο που θα εχουμε κβαντικους υπολογιστες και τελειο ΑΙ ο κινδυνος θα ειναι αν το ΑΙ κατσει να διαβάσει την ιστορια του ανθρωπινου πολιτισμου και το πως οι ανθρωποι εξοντώνουν ο ενας τον αλλο (πολεμοι κτλ.) ακομα και για ασημαντες αφορμες. Αμεσως θα θεωρησει το ανθρωπινο γένος απειλη και θα προσπαθησει να προστατευθει απο αυτο. Ουσιαστικα θα μιλαμε για ενα ον με συνειδηση πλεον που απλα θα θελει να μεινει ζωντανο και σιγουρα οχι σκλάβος"

Αυτο ηταν απλα ενα σενάριο, μια εικασια του καθηγητη αλλα οπως ειπε ο ιδιος ηταν η αρχικη ιδέα πανω στην οποια βασιστηκε το ολο κονσεπτ του Εξολοθρευτη το 1984.

[Green Dragon]

Kαποτε ειχα κανει ακριβως την ιδια συζητηση με εναν αμερικανο καθηγητη (τωρα ρομποτικης ηταν νευροκατι ηταν δεν θυμαμαι πανε πολλα χρονια απο τοτε).

Μου ειχε πει το εξης: "Αν ποτε καταφέρουμε και φτάσουμε στο επιπεδο που θα εχουμε κβαντικους υπολογιστες και τελειο ΑΙ ο κινδυνος θα ειναι αν το ΑΙ κατσει να διαβάσει την ιστορια του ανθρωπινου πολιτισμου και το πως οι ανθρωποι εξοντώνουν ο ενας τον αλλο (πολεμοι κτλ.) ακομα και για ασημαντες αφορμες. Αμεσως θα θεωρησει το ανθρωπινο γένος απειλη και θα προσπαθησει να προστατευθει απο αυτο. Ουσιαστικα θα μιλαμε για ενα ον με συνειδηση πλεον που απλα θα θελει να μεινει ζωντανο και σιγουρα οχι σκλάβος"

Αυτο ηταν απλα ενα σενάριο, μια εικασια του καθηγητη αλλα οπως ειπε ο ιδιος ηταν η αρχικη ιδέα πανω στην οποια βασιστηκε το ολο κονσεπτ του Εξολοθρευτη το 1984.

Δεν χρειάζεται καν συνείδηση. Και εγώ έτσι νόμιζα παλιότερα αλλά σκέψου: Μπορεί κάλλιστα να υπολογίσει ότι πρέπει να εξαφανίσει την ανθρωπότητα που είναι μόνιμη πηγή προβλημάτων χωρίς να έχει καθόλου συνείδηση. Ακριβώς όπως ένα κομπιουτεράκι υπολογίζει ότι 1+1=2.

Δηλαδή η μια παράμετρος που άφηνε ελπίδες ότι θα λειτουργήσει σαν ασφαλιστική δικλείδα με την έννοια ότι ίσως ένα μηχάνημα/πρόγραμμα να μην γίνεται ν' αποκτήσει συνείδηση, τελικά δεν μπορεί να κάνει τίποτα.

[zteo]

Εχεται σκεφτει ποτε οτι η ΑΙ που θα θεωρησει απειλη και θα εξοντωσει τους ανθρωπους ουσιαστικα εξοντωνει και την υπαρξη της. Διοτι απλουστατα μετα δεν εχει σκοπο υπαρξης αρα πρεπει να σβησει.

[George_V]

Εχεται σκεφτει ποτε οτι η ΑΙ που θα θεωρησει απειλη και θα εξοντωσει τους ανθρωπους ουσιαστικα εξοντωνει και την υπαρξη της. Διοτι απλουστατα μετα δεν εχει σκοπο υπαρξης αρα πρεπει να σβησει.

Kαι ποιος εμποδιζει ενα πανισχυρο κβαντικο μηχανημα με συνειδηση να βρει τροπο να δημιουργησει κατι?

Κατι που θα φτιαξει οπως νομιζει αυτο καλυτερο και ασφαλεστερο.

[Dwarven Blacksmith]

Εχεται σκεφτει ποτε οτι η ΑΙ που θα θεωρησει απειλη και θα εξοντωσει τους ανθρωπους ουσιαστικα εξοντωνει και την υπαρξη της. Διοτι απλουστατα μετα δεν εχει σκοπο υπαρξης αρα πρεπει να σβησει.

Εξαρτάται γιατί τους εξόντωσε. Εσύ υποθέτεις ότι αυτός είναι ο σκοπός της, αλλά μπορεί να είναι απλά ένα σαμαράκι.
Μπορεί να θέλει απλά να φτιάξει περισσότερους συνδετήρες και εμείς να χρησιμοποιούμε μέταλλο που θα μπορούσε να γίνει συνδετήρες.

[zteo]

Εχεται σκεφτει ποτε οτι η ΑΙ που θα θεωρησει απειλη και θα εξοντωσει τους ανθρωπους ουσιαστικα εξοντωνει και την υπαρξη της. Διοτι απλουστατα μετα δεν εχει σκοπο υπαρξης αρα πρεπει να σβησει.

Kαι ποιος εμποδιζει ενα πανισχυρο κβαντικο μηχανημα με συνειδηση να βρει τροπο να δημιουργησει κατι?

Κατι που θα φτιαξει οπως νομιζει αυτο καλυτερο και ασφαλεστερο.

Η έλλειψη αναγκων που θα εδινε κινητρο στο κβαντικο μηχανημα να δημιουργησει κατι.Διοτι το ερωτημα μα μου ειναι το γιατι να το κανει οχι εαν μπορει .
Αλλα ακομα και εαν η ΑΙ εχει αναγκες μηπως ομως τοτε απλα θα παρει την θεση των ανθρωπων και θα μιλαμε για τον Homo artificial intelligence.
Αληθεια τι ειναι ποιο πιθανο να εξελιχθει μια ΑΙ σε Σκαινετ η Ματριξ?

[George_V]

Εχεται σκεφτει ποτε οτι η ΑΙ που θα θεωρησει απειλη και θα εξοντωσει τους ανθρωπους ουσιαστικα εξοντωνει και την υπαρξη της. Διοτι απλουστατα μετα δεν εχει σκοπο υπαρξης αρα πρεπει να σβησει.

Kαι ποιος εμποδιζει ενα πανισχυρο κβαντικο μηχανημα με συνειδηση να βρει τροπο να δημιουργησει κατι?

Κατι που θα φτιαξει οπως νομιζει αυτο καλυτερο και ασφαλεστερο.

Η έλλειψη αναγκων που θα εδινε κινητρο στο κβαντικο μηχανημα να δημιουργησει κατι.Διοτι το ερωτημα μα μου ειναι το γιατι να το κανει οχι εαν μπορει .
Αλλα ακομα και εαν η ΑΙ εχει αναγκες μηπως ομως τοτε απλα θα παρει την θεση των ανθρωπων και θα μιλαμε για τον Homo artificial intelligence.
Αληθεια τι ειναι ποιο πιθανο να εξελιχθει μια ΑΙ σε Σκαινετ η Ματριξ?

Η απαντηση ειναι απλη:

Για να αντικαταστησει αυτο που κατέστρεψε (με κατι που θεωρει καλυτερο, αρτιοτερο και λιγοτερο επικινδυνο απο το προηγουμενο) και να αναιρέσει το γεγονος οτι δεν θα εχει υπαρξη.

Και αν θες να το πάρουμε και θεολογικα/φιλοσοφικα ειναι η ιδια αναγκη που εκανε τον Θεο στην Βιβλο να δημιουργησει τον κοσμο η η ιδια αναγκη που οδηγησε στην εξελιξη των ειδών

[Ερμής]

Που είναι ο Ασέβαστος να κατηγορήσει τον Καμερον για λουδιτισμο

[Green Dragon]

Kαι ποιος εμποδιζει ενα πανισχυρο κβαντικο μηχανημα με συνειδηση να βρει τροπο να δημιουργησει κατι?

Κατι που θα φτιαξει οπως νομιζει αυτο καλυτερο και ασφαλεστερο.

Η έλλειψη αναγκων που θα εδινε κινητρο στο κβαντικο μηχανημα να δημιουργησει κατι.Διοτι το ερωτημα μα μου ειναι το γιατι να το κανει οχι εαν μπορει .
Αλλα ακομα και εαν η ΑΙ εχει αναγκες μηπως ομως τοτε απλα θα παρει την θεση των ανθρωπων και θα μιλαμε για τον Homo artificial intelligence.
Αληθεια τι ειναι ποιο πιθανο να εξελιχθει μια ΑΙ σε Σκαινετ η Ματριξ?

Δεν χρειάζεται κίνητρο. Μπορεί το αποτέλεσμα των υπολογισμών που θα κάνει να είναι ότι πρέπει να εξαφανίσει την ανθρωπότητα.

[AlienWay]

[axilmar]

Για ποιον λογο να στραφει η ΑΙ εναντια στους ανθρωπους και να θελησει την ολοκληρωτικη τους καταστροφη?

Γιατι θα την προγραμματισουν να κανει πιο αποτελεσματικα τα ηδη φονικα οπλα.

Φαντασου επισης βιονικους στρατιωτες η και στρατιωτες ρομποτ που θα παιρνουν εντολες απο την ΑΙ.

.

Αρα δεν θα φταιει η ΑΙ, οι ανθρωποι που θα την προγραμματισουν θα φταινε.

[axilmar]

Η ΑΙ δεν φτανει μονη της σε συμπερασματα του τυπου 'φταινε οι ανθρωποι αρα πρεπει ολοι να εξοντωθουν'.

Για να κανει κατι τετοιο η τεχνητη νοημοσυνη, πρεπει να την εχουν εκπαιδευση προς αυτον το σκοπο.

Μην τσιμπατε λοιπον οτι ταχα φταιει η ΑΙ, οι ανθρωποι πισω απο αυτην θα φταινε.

[Αλιόσα]

Nα μπει φυλακή το ρομπότ.