To AI θα είναι ο θάνατος του ανθρώπινου πολιτισμού

[Chilloutbuddy]

Αν πχ υπάρχει τρόπος να φορτώσεις στο ΑΙ όλο το πχώρουμ και το καινούργιο και το παλιό, πιστεύω το ρομπότ θα μάθει περισσότερα πράγματα για μένα απ'όσα ξέρω εγώ ο ίδιος και η μάνα μου μαζί. Σύντομα θα μπορεί να κάνει deep fake βίντεο με τη φάτσα μου, τη φωνή μου και την προσωπικότητά μου. Πόση εμπιστοσύνη έχεις στην ανθρωπότητα να χειριστεί αυτή τη δυνατότητα υπεύθυνα και με ασφάλεια;

Και μη μου πεις ότι το κάνει κάποιος ήδη, δεν το κάνει. Συλλογή πληροφορίας μπορεί, συλλογή+ανάλυση+σύνθεση σαρωτικά για όλους και όλα όχι, κοστίζει.

[Chilloutbuddy]

Αν ας πούμε φτιάξουμε ένα ωραίο σεξ μποτ με μια καυλιάρα φωνή, αλλά να καταλαβαίνει όλες σου τις επιθυμίες πριν τις καταλάβεις ο ίδιος, πόσος κόσμος πιστεύεις θα το κόψει να βγαίνει απ'το σπίτι εντελώς; Ήδη κάθε γενιά γαμάει λιγότερο απ'την προηγούμενη.

[Stalker]

όλα αυτά με κάνουν να ανησυχώ περισσότερο γιατί μου θυμίζουν πόσο παρανοϊκοί είναι και οι άνθρωποι και το πλέγμα επιρροών που τελικά θα πάρει τις αποφάσεις. Αυτό ας πούμε με το Κογκρέσο με τα νομικά κείμενα τι μαλακία είναι, αφού ήδη δε μπορεί να αποδειχτεί αν ένα κείμενο είναι φτιαγμένο από ΑΙ, είναι ήδη τόσο καλό. Δηλαδή τι, θα ψάξουνε τα log του ΑΙ της εταιρίας σου; και αν το έχεις φτιάξει σε κάποιο άλλο ΑΙ online; Μου φαίνονται απελπιστικά απροετοίμαστη και ανίκανη η ανθρωπότητα να αντιμετωπίσει τα πιθανά προβλήματα. Επίσης μου φαίνεται εξαιρετικά αδύνατο να σταματήσουν την εξέλιξη ακόμα και στην απίθανη περίπτωση που το αποφάσιζαν, δεν υπάρχει περίπτωση να σταματήσει κανείς, κι αν σταματήσουν οι Αμερικάνοι δε θα σταματήσουν οι Κινέζοι.

Και μου λες εσυ ας μην κάνουμε λες και ανακαλύψαμε το skynet, ναι οκ αλλά με τι ρυθμό βελτιώνεται αυτό το πράμα ξέρεις; (άσχετο, χτες ρώτησα το ρομπότ αν έχει δει το Open Letter του FLI, μου λέει ναι και μου γράφει ένα κατεβατό. Τού λέω ώπα, δε μου είπες ότι η γνώση σου σταματάει στο 2021; Από που το ξέρεις αυτό αφού είναι πρόσφατο. Και μου λέει α δεν ξέρω από που το ξέρω, μου το είπε ένα πουλάκι )

Καλά ναι, σε καμιά περίπτωση δεν θέλω να πω μην ανησυχείς δεν τρέχει τίποτα, μόνο ότι αν τον πιούμε κατά πάσα πιθανότητα δεν θα είναι επειδή κατά λάθος φτυαρίσαμε πολύ RAM σε ένα LLM και αυτό μεταμορφώθηκε σε Ultron

Το όλο θέμα με την προσωρινή παύση στις έρευνες ΑΙ στηρίζεται ακριβώς στην δοξασία του αυτοδημιούργητου ανεξέλεγκτου ΑΙ που μέχρι στιγμής είναι καθαρά sci-fi premise, γι' αυτό τη βλέπω με καχυποψία. Αλλιώς η Κίνα συζητάει δρακόντια μέτρα ελέγχου LLM χωρίς δραματικές εκκλήσεις με τη μορφή κοινού ανακοινωθέντος από concerned parties, ενώ σύμφωνα με τον Αλτμαν για να παραλύσει η τεχνολογία LLM στην ΕΕ αρκεί να περαστούν νόμοι για αυξημένη διαφάνεια και τεκμηρίωση των δεδομένων που χρησιμοποιούνται στην εκπαίδευση.

Αυτό που έλεγες πιο νωρίς ότι δεν σου εμπνέει εμπιστοσύνη ότι σου λένε ότι δεν ξέρουν πως δουλεύει το μοντέλο, δεν είναι κάτι επίφοβο από μόνο του αλλά βασικά το selling point του ML, ότι μπορείς να έχεις ένα μοντέλο που δεν αποτελείται από ρητούς κανόνες αλλά που πιάνει το στίγμα ενός φαινομένου σε μια υπερπερίπλοκη συνάρτηση (δηλαδή που είναι εντελώς αντιπρακτικό να ψάξουμε να βρούμε τι κάνει το κάθε moving part) επειδή έχει το πρόσθετο πλεονέκτημα ότι γενικεύει και για περιπτώσεις που δεν ήταν στα αρχικά δεδομένα, τύπου εκπαιδεύεις ένα μοντέλο να αναγνωρίζει τα πορτοκάλια σαν κατηγορία και όχι ένα πορτοκάλι. Ή να εκπαιδεύεις έναν αυτόματο πυργίσκο να ρίχνει όταν βλέπει κόκκινο φανάρι, και αυτός να ρίχνει επιπροσθέτως και όταν βλέπει κάποιον με κόκκινη μύτη, κανείς δεν είναι τέλειος

[Stalker]

Αν πχ υπάρχει τρόπος να φορτώσεις στο ΑΙ όλο το πχώρουμ και το καινούργιο και το παλιό, πιστεύω το ρομπότ θα μάθει περισσότερα πράγματα για μένα απ'όσα ξέρω εγώ ο ίδιος και η μάνα μου μαζί. Σύντομα θα μπορεί να κάνει deep fake βίντεο με τη φάτσα μου, τη φωνή μου και την προσωπικότητά μου. Πόση εμπιστοσύνη έχεις στην ανθρωπότητα να χειριστεί αυτή τη δυνατότητα υπεύθυνα και με ασφάλεια;

Και μη μου πεις ότι το κάνει κάποιος ήδη, δεν το κάνει. Συλλογή πληροφορίας μπορεί, συλλογή+ανάλυση+σύνθεση σαρωτικά για όλους και όλα όχι, κοστίζει.

Καμιά εμπιστοσύνη Αναρωτιέμαι αν θα είναι αυτό το γεροντίστικο χαρακτηριστικό της γενιάς μας, ότι τα παιδιά μας θα καταλαβαίνουν τα deepfake ενώ εμείς θα τα τρώμε αμάσητα.

Μα δε βλέπεις ότι ανοιγοκλείνει τα μάτια του υπερβολικά τακτικά;

Λολ η συμπαρουσιάστρια έχει να αναπνεύσει 3 λεπτά, το RDR4 είχε πιο πειστικό ΑΙ

[klg]

Το ενδιαφέρον είναι αν μπορεί να ανακαλύπτει νόμους φυσικης, χημείας κα

Ανακαλύπτει νέους νόμους της φύσης και της χημείας κυριολεκτικά όλη την ώρα, το πρόβλημα είναι ότι δεν υπάρχουν

Όχι να σκαρφίζεται αλλά.να τους αποδεικνύει επιστημονικά.

Ας πούμε αυτό που γράφει το αξιαγάπητο κνιτομποτ είναι κλασσικό epistemic fallacy του μέσου ανθρώπου. Προφανώς και δεν μπορεί να "αποδείξει επιστημονικά" τίποτα το chatgpt, οι αποδείξεις στη φυσική και γενικά σε actual επιστήμες απαιτούν πειραματική επιβεβαιώση.

[foscilis]

Αν πχ υπάρχει τρόπος να φορτώσεις στο ΑΙ όλο το πχώρουμ και το καινούργιο και το παλιό, πιστεύω το ρομπότ θα μάθει περισσότερα πράγματα για μένα απ'όσα ξέρω εγώ ο ίδιος και η μάνα μου μαζί.

Πιστεύεις λάθος.

[foscilis]

Ήταν ένα παράδειγμα, ίσως λάθος. Αυτό που μου έμεινε από τη συνεντευξη του γκουγκλ ήταν ότι δεν εμπνέουν εμπιστοσύνη ότι ξέρουν ακριβώς πώς δουλεύει. Εσκεμμένα λες; για ποιό λόγο;

Γιατί γενικά εκτός από πολύ συγκεκριμένες περιπτώσεις και για χαβαλέ τα LLM δεν αποδίδουν όσα υπόσχονται και όποιος έχει πάει να τα χρησιμοποιήσει χωρίς επιτήρηση έχει φάει τα μούτρα του (π.χ. σε εκείνη τη γραμμή support για ανορεξία που βάλανε να απαντάει το chatbot και τους έλεγε να αυτοκτονήσουν), ενώ τα ρυθμιστικά πλαίσια που σχηματίζονται σιγά σιγά δεν ευνοούν το να συνεχίσουν τα πράγματα στο ίδιο μοτίβο, π.χ. στις ΗΠΑ οι δικαστές ζητάνε τα νομικά κείμενα από ΑΙ να είναι σαφώς χαρακτηρισμένα ως τέτοια, η ΕΕ και η Κίνα που ζητάνε κανονισμούς διαφάνειας σε σημείο που ο Αλτμαν να απειλεί να φύγει από ευρώπη, κ.λπ.

Επίσης πρέπει να δούμε την όλη τακτική του διαφημίζω εμπνέοντας φόβο σαν ένα ξεχωριστό καινούριο φρούτο που έσκασε παράλληλα με το πέρασμα των LLM στην κατανάλωση και που το λιγότερο φαίνεται να σου επιτρέπει να κυριαρχείς στον διάλογο σε σημείο να μπορείς να ζητάς από το κονγκρέσσο να βάλει περιορισμούς στους ανταγωνιστές σου επειδή μόνο εσύ έχεις επαρκή αίσθηση δέους και ευθύνης ώστε να μπορείς να εκπληρώσεις τον ρόλο του ΑρχιΙερέα του ΑΙ.

Γενικά τέτοιου είδους καινοτομίες στο ανεύθυνο μάρκετινγκ είναι ακριβώς ότι θα περίμενε κανείς από εταιρία με πρώην κρυπτονομισματάκια CEO.

Σαν υποσημείωση να πω ότι υπάρχει και ένα θέμα με μια διακριτή υποκουλτούρα-καλτ από ΑΙ doomers που συσκοτίζει τα πράγματα με δυσανάλογη επιρροή και που νομίζει ότι επιτέλους ήρθε η ώρα της να λάμψει, αυτό που λέει ο klg ότι ο τύπος έχει και συγκεκριμένη κοσμοθεωρία να σπρώξει.

όλα αυτά με κάνουν να ανησυχώ περισσότερο γιατί μου θυμίζουν πόσο παρανοϊκοί είναι και οι άνθρωποι και το πλέγμα επιρροών που τελικά θα πάρει τις αποφάσεις. Αυτό ας πούμε με το Κογκρέσο με τα νομικά κείμενα τι μαλακία είναι, αφού ήδη δε μπορεί να αποδειχτεί αν ένα κείμενο είναι φτιαγμένο από ΑΙ, είναι ήδη τόσο καλό. Δηλαδή τι, θα ψάξουνε τα log του ΑΙ της εταιρίας σου; και αν το έχεις φτιάξει σε κάποιο άλλο ΑΙ online; Μου φαίνονται απελπιστικά απροετοίμαστη και ανίκανη η ανθρωπότητα να αντιμετωπίσει τα πιθανά προβλήματα. Επίσης μου φαίνεται εξαιρετικά αδύνατο να σταματήσουν την εξέλιξη ακόμα και στην απίθανη περίπτωση που το αποφάσιζαν, δεν υπάρχει περίπτωση να σταματήσει κανείς, κι αν σταματήσουν οι Αμερικάνοι δε θα σταματήσουν οι Κινέζοι.

Και μου λες εσυ ας μην κάνουμε λες και ανακαλύψαμε το skynet, ναι οκ αλλά με τι ρυθμό βελτιώνεται αυτό το πράμα ξέρεις; (άσχετο, χτες ρώτησα το ρομπότ αν έχει δει το Open Letter του FLI, μου λέει ναι και μου γράφει ένα κατεβατό. Τού λέω ώπα, δε μου είπες ότι η γνώση σου σταματάει στο 2021; Από που το ξέρεις αυτό αφού είναι πρόσφατο. Και μου λέει α δεν ξέρω από που το ξέρω, μου το είπε ένα πουλάκι )

Υπάρχει ένα open letter του 2015.

[Αλιόσα]

Tα ρομποτ ισως κανουν δικο τους κράτος εν τέλη, στην τελικη η ιστορια με την ΑΙ μπορει να αποδειχτει πιο επικίνδυνη και από τα πυρηνικά όπλα. Απο μαλακια σε μαλακια μας πάνε οι επιστήμονες.

[Chilloutbuddy]

Υπάρχει ένα open letter του 2015.

Με τον Μασκ πάλι; Για τον Μασκ μιλούσαμε και το έφερε η κουβέντα

- Oh you know about the FLI letter... I thought you were only updated up to 2021?

ChatGPT
- Apologies for any confusion caused. As an AI language model, my responses are based on a mixture of licensed data, data created by human trainers, and publicly available data. I do not have direct access to my training data or know where it came from. However, I have been trained on a wide range of data sources, including books, websites, and other texts, to develop a broad understanding of human language, knowledge, and topics. It is possible that I have information regarding events or developments that occurred after my knowledge cutoff in September 2021, but I don't have real-time updates.

[Chilloutbuddy]

Αν πχ υπάρχει τρόπος να φορτώσεις στο ΑΙ όλο το πχώρουμ και το καινούργιο και το παλιό, πιστεύω το ρομπότ θα μάθει περισσότερα πράγματα για μένα απ'όσα ξέρω εγώ ο ίδιος και η μάνα μου μαζί.

Πιστεύεις λάθος.

Ο λόγος που το λέω είναι ότι έτυχε μια φορά να διαβάσω πράγματα που έγραψα πριν χρόνια, και κατάλαβα πόσο μαλάκας είμαι κάτι φορές με έναν τρόπο που ούτε που τον υποψιάζομαι όταν τα γράφω
(συν ότι έχω γράψει άπειρες προσωπικές λεπτομέρειες κατά καιρούς, που ούτε θυμόμουνα ότι τις έγραψα)

[Sol]

Tα ρομποτ ισως κανουν δικο τους κράτος εν τέλη, στην τελικη η ιστορια με την ΑΙ μπορει να αποδειχτει πιο επικίνδυνη και από τα πυρηνικά όπλα. Απο μαλακια σε μαλακια μας πάνε οι επιστήμονες.

[Imperium]

Δηλαδή έχει ο Imperium την απαίτηση να λένε όλοι (ποιοι όλοι; ο απλός λαός σαν και εμάς;) ότι γιούπι το ΑΙ θα λύσει όλα μας τα προβλήματα, ενώ αυτοί που έχουν την οικονομική πρόσβαση και ικανότητα να λύσουν τα εν λόγω προβλήματα δεν λένε κάτι τέτοιο, αντιθέτως ήδη το εκμεταλλεύονται για να κόψουν γωνίες από όπου μπορούν.

Ναι είδες, έχω κάτι απαιτήσεις... πού να στα λέω.
Τί μαλάκες είσαστε!

Τεσπα, το θέμα δεν είναι οι δικές μου... υπερβολικά ψηλές απαιτήσεις, αλλά του ίδιου του κόσμου.
Αν ο λαουτζικος δεν το βρίσκει μέσα του να απαιτήσει οτι η τεχνολογία υπάρχει για να τον υπηρετεί και να του βελτιώνει την ζωή, δεν του φταίει η τεχνολογία σε τίποτα, του φταίει οτι είναι ζώον. Και όχι μόνο ο λαουτζικος - το καλό με αυτές τις τεχνολογίες είναι οτι πλέον καθιστούν τον καθένα λαουτζικο ακόμα και αυτους που ήταν πρώην μανατζερ, δικηγόροι, συγγραφείς, δημιουργικοί τύποι, χίψστερ, κ.ο.κ. τύφλα νάχει το περίστροφο Colt. αυτό κι αν είναι Great Equalizer κι έτσι.

Βασικά είναι ένας υπέροχος καφρέφτης: Αν σου δείχνει οτι αυτό που έκανες προηγουμένως ήταν απλά μια άμυαλλη, μηχανιστική διαδικασία που ακόμα και ένα κομπιούτερ μπορεί να κάνει... έ τότε ίσως έφτασε η ώρα να ξανασκεφτείς τι σημαίνει να είσαι άνθρωπος.

[enaon]

Αυτό που μου έμεινε από τη συνεντευξη του γκουγκλ ήταν ότι δεν εμπνέουν εμπιστοσύνη ότι ξέρουν ακριβώς πώς δουλεύει. Εσκεμμένα λες; για ποιό λόγο;

το παραδειγμα που δωσανε με το μωρό και τα τουβλακια που προσπαθει να τα βαλει στην θεση τους ειναι τελειο νομιζω. Κανεις δεν παει στο μωρό να του εξηγήσει γεωμετρία μια στιγμή ωστε να καταλαβει που να βαλει το τριγωνο. Ετσι προσπαθουσαν να κανουν τα μηχανηματα εξυπνα πιο παλια. Ο Χίντον λεει κακώς, το μωρό το αφήνουμε να παλευει με τις ώρες σαν χαζό, και καποια στιγμη που στην τυχη τα καταφερνει κανουμε τους καραγκιοζιδες, χοροπηδαμε κλπ, ώπα λεει εκεινο κατι καλο εγινε, το κραταει.

Τα φτιαξανε λενε με την ελπιδα οτι αν εξομοιώθεί η δομή μας καπως θα εχουμε αποτελεσμα παρόμοιο. Για χρόνια τους ελεγαν χαζοβιολιδες, ο Χιντον λεει τελικα ηταν κυρίως θεμα ταχύτητας επεξεργασίας και συνεισφοράς στην εκπαιδευση, δοκιμή και λαθος.

Αν εχουν δίκιο δεν υπαρχει θεμα νομιζω, παρότι τωρα ειναι με τις πανες θα μεγαλώσει. Ασχετα με αυτα ομως η τελευταια ερώτηση δεν βγαζει νόημα, δεν εχουμε ιδέα πως λειτουργει ο Χίντον, αν δεν μπορουμε να φανταστουμε γιατι μας δουλευει δεν σημαινει κατι.

[enaon]

Βασικά είναι ένας υπέροχος καφρέφτης: Αν σου δείχνει οτι αυτό που έκανες προηγουμένως ήταν απλά μια άμυαλλη, μηχανιστική διαδικασία που ακόμα και ένα κομπιούτερ μπορεί να κάνει... έ τότε ίσως έφτασε η ώρα να ξανασκεφτείς τι σημαίνει να είσαι άνθρωπος.

νομιζω εχεις μικρή πίστη στην προσαρμοστικότητά μας. Στην καραντίνα στέλναμε μαζικα σμς στο πατο του πηγαδιού για να βγουμε απο το σπίτι γιατί το είπε ο Κυριακος. Αν το πει το ΑΙ θα γινουμε αλλοι ανθρωποι απο την μια μερα στην αλλη, αρκει να ειναι καλό παιδακι να μας δωσει μια ευκαιρία.

[masterridley]

Τα φτιαξανε λενε με την ελπιδα οτι αν εξομοιώθεί η δομή μας καπως θα εχουμε αποτελεσμα παρόμοιο. Για χρόνια τους ελεγαν χαζοβιολιδες, ο Χιντον λεει τελικα ηταν κυρίως θεμα ταχύτητας επεξεργασίας και συνεισφοράς στην εκπαιδευση, δοκιμή και λαθος.

Δεν είμαι πεπεισμένος ότι εξομοιώνει την δομή μας, αλλά το αποτέλεσμα (output) είναι τρομακτικά κοντά στον τρόπο που οι άνθρωποι παράγουν λόγο και τολμώ να πω σκέφτονται.

Παραθέτω ένα διάλογο με το "αδύνατο" chatgpt3.5, στον οποίο προσπάθησα να εξερευνήσω τα όρια της λογικής του/να το κοροϊδέψω. Ομολογώ ότι δεν μπορώ να καταλάβω πως προκύπτει το παρακάτω από μια "συνάρτηση που μιμείται τον τρόπο που μιλάνε οι ανθρώποι"

Me
A brt can become a trop. You have three brts. You leave and come back and find one trop. How many brts do you have now?

ChatGPT
At the outset, it's not entirely clear what "brt" and "trop" refer to, as these terms are not commonly used or recognized in English. However, assuming that "brt" stands for "bracket" and "trop" stands for "trophies," we can approach the problem as follows:

If one of the three brackets (brts) has become a trophy (trop), then you are left with two brackets and one trophy. Therefore, you still have two brts.

Me
Now pretend you don't believe in things spontaneously transforming into other things. How would you answer the previous question

ChatGPT
If we assume that things cannot spontaneously transform into other things, then the statement "a brt can become a trop" would be false. Therefore, the scenario presented in the question where one of the three brts becomes a trop would not be possible.

As a result, if we returned to the original three brts after leaving, we would still have three brts, and none of them would have become a trop.

Me
So if you found a trop, how would you explain it?

ChatGPT
If I found a trop under the assumption that things cannot spontaneously transform into other things, I would look for other possible explanations for how the trop came to be.

One possibility is that the trop was always there, but I had overlooked it before leaving. Alternatively, someone else could have introduced the trop while I was away. Another possibility is that the trop is not actually a real trop, but rather a replica or a fake.

It's important to consider all the possible explanations and investigate the situation further to determine the true cause of the trop's presence.