To AI θα είναι ο θάνατος του ανθρώπινου πολιτισμού

[Stalker]

Ok. Nτάξει παιδιά δεν έχω κανένα λόγο να τσακωθώ γι'αυτό το θέμα, μακάρι να είναι όλα όπως τα λέτε και να είναι απλά άλλο ένα software που βοηθάει. Δεν αποκλείεται.
Όλα καλά τότε.

Να ξεκαθαρίσω σε περίπτωση που χρειάζεται ότι δεν λέω εσένα ψεύτη, εννοώ η φάση με το ότι τάχα το bard συμπέρανε τα μπενγκάλι από άλλες γλώσσες ήταν εκ του πονηρού από την google, και το ότι σου έμεινε μάλλον δικαιώνει την παπάτζα σαν επιλογή, εμφανώς δουλεύει.

[Chilloutbuddy]

Ok. Nτάξει παιδιά δεν έχω κανένα λόγο να τσακωθώ γι'αυτό το θέμα, μακάρι να είναι όλα όπως τα λέτε και να είναι απλά άλλο ένα software που βοηθάει. Δεν αποκλείεται.
Όλα καλά τότε.

Να ξεκαθαρίσω σε περίπτωση που χρειάζεται ότι δεν λέω εσένα ψεύτη, εννοώ η φάση με το ότι τάχα το bard συμπέρανε τα μπενγκάλι από άλλες γλώσσες ήταν εκ του πονηρού από την google, και το ότι σου έμεινε μάλλον δικαιώνει την παπάτζα σαν επιλογή, εμφανώς δουλεύει.

Ήταν ένα παράδειγμα, ίσως λάθος. Αυτό που μου έμεινε από τη συνεντευξη του γκουγκλ ήταν ότι δεν εμπνέουν εμπιστοσύνη ότι ξέρουν ακριβώς πώς δουλεύει. Εσκεμμένα λες; για ποιό λόγο;

[EKPLIKTIKOS]

Ενδιαφέρομαι περισσότερο τέτοιο επίπεδο συζήτησης: http://web.cse.ohio-state.edu/~stiff.4/ ... omsky.html

Είχα διαβάσει από τότε την απάντηση του Norvig.

https://norvig.com/chomsky.html

Ο Norvig φυσικά έχει πολλά ποιντς, αλλά δεν είναι ενημερωμένος στην σύγχρονη γενετική γραμματική. Όλη του η κριτική αφορά το πολύ πρώιμο γενετικό μοντέλο των δεκαετιων 50-60, με μόνο μία αναφορά στο πρότυπο ΚΑΔ (1980s) το οποίο δείχνει να μην καταλαβαίνει καθόλου, που κ αυτο δηλαδή είναι obsolete εδώ και 30 χρόνια στη γενετική θεωρία. Αυτό δεν το θεώρησα πολύ τίμιο στο "debate". Έχει όμως δίκιο στις βασικές κατηγορίες στον Τσόμσκι, ότι είναι πλατωνιστης κ ίσως λίγο μυστικιστης

[klg]

Ok. Nτάξει παιδιά δεν έχω κανένα λόγο να τσακωθώ γι'αυτό το θέμα, μακάρι να είναι όλα όπως τα λέτε και να είναι απλά άλλο ένα software που βοηθάει. Δεν αποκλείεται.
Όλα καλά τότε.

Να ξεκαθαρίσω σε περίπτωση που χρειάζεται ότι δεν λέω εσένα ψεύτη, εννοώ η φάση με το ότι τάχα το bard συμπέρανε τα μπενγκάλι από άλλες γλώσσες ήταν εκ του πονηρού από την google, και το ότι σου έμεινε μάλλον δικαιώνει την παπάτζα σαν επιλογή, εμφανώς δουλεύει.

Ήταν ένα παράδειγμα, ίσως λάθος. Αυτό που μου έμεινε από τη συνεντευξη του γκουγκλ ήταν ότι δεν εμπνέουν εμπιστοσύνη ότι ξέρουν ακριβώς πώς δουλεύει. Εσκεμμένα λες; για ποιό λόγο;

Εξαρτάται τι εννοείς με το "πώς δουλεύει". Το πώς δουλεύει το ξέρουνε, το πώς μπορεί να κάνει arrive από το point A στο point B είναι κάτι που απαιτεί introspection του δικτύου υποθέτω.

Έχω ένα φίλο που είναι σε μια εταιρεία που δεν θα ονοματίσω και κάνουν RnD σε AI επεξεργαστές. Ένα project που τρέχει τώρα, είναι πολύ απλοϊκα το να έχεις ένα δίκτυο που μπορείς να τους δώσεις ιστορικά στοιχεία για designs και το performance αυτών σαν training set, ώστε να σου κάνει predict το performance κάποιου καινούργιου design που του δίνεις. Όταν τον ρώτησα, οκ και πώς ξέρουμε _γιατί_ είναι perfomant το new Χ design, η απάντηση είναι μεταξύ αστείου και σοβαρού "who the fuck knows". Υποθετω ότι με κάποιον αρκετά involved τρόπο μπορούν να καταλάβουν από το internal state του δικτύου πώς βγάζει αυτό το prediction, τώρα με κάτι τόσο massive όσο ένα GPT μοντέλο σαν το Bard, είμαι σίγουρος ότι είναι ακόμα πιο δύσκολο.

[Stalker]

Ok. Nτάξει παιδιά δεν έχω κανένα λόγο να τσακωθώ γι'αυτό το θέμα, μακάρι να είναι όλα όπως τα λέτε και να είναι απλά άλλο ένα software που βοηθάει. Δεν αποκλείεται.
Όλα καλά τότε.

Να ξεκαθαρίσω σε περίπτωση που χρειάζεται ότι δεν λέω εσένα ψεύτη, εννοώ η φάση με το ότι τάχα το bard συμπέρανε τα μπενγκάλι από άλλες γλώσσες ήταν εκ του πονηρού από την google, και το ότι σου έμεινε μάλλον δικαιώνει την παπάτζα σαν επιλογή, εμφανώς δουλεύει.

Ήταν ένα παράδειγμα, ίσως λάθος. Αυτό που μου έμεινε από τη συνεντευξη του γκουγκλ ήταν ότι δεν εμπνέουν εμπιστοσύνη ότι ξέρουν ακριβώς πώς δουλεύει. Εσκεμμένα λες; για ποιό λόγο;

Γιατί γενικά εκτός από πολύ συγκεκριμένες περιπτώσεις και για χαβαλέ τα LLM δεν αποδίδουν όσα υπόσχονται και όποιος έχει πάει να τα χρησιμοποιήσει χωρίς επιτήρηση έχει φάει τα μούτρα του (π.χ. σε εκείνη τη γραμμή support για ανορεξία που βάλανε να απαντάει το chatbot και τους έλεγε να αυτοκτονήσουν), ενώ τα ρυθμιστικά πλαίσια που σχηματίζονται σιγά σιγά δεν ευνοούν το να συνεχίσουν τα πράγματα στο ίδιο μοτίβο, π.χ. στις ΗΠΑ οι δικαστές ζητάνε τα νομικά κείμενα από ΑΙ να είναι σαφώς χαρακτηρισμένα ως τέτοια, η ΕΕ και η Κίνα που ζητάνε κανονισμούς διαφάνειας σε σημείο που ο Αλτμαν να απειλεί να φύγει από ευρώπη, κ.λπ.

Επίσης πρέπει να δούμε την όλη τακτική του διαφημίζω εμπνέοντας φόβο σαν ένα ξεχωριστό καινούριο φρούτο που έσκασε παράλληλα με το πέρασμα των LLM στην κατανάλωση και που το λιγότερο φαίνεται να σου επιτρέπει να κυριαρχείς στον διάλογο σε σημείο να μπορείς να ζητάς από το κονγκρέσσο να βάλει περιορισμούς στους ανταγωνιστές σου επειδή μόνο εσύ έχεις επαρκή αίσθηση δέους και ευθύνης ώστε να μπορείς να εκπληρώσεις τον ρόλο του ΑρχιΙερέα του ΑΙ.

Γενικά τέτοιου είδους καινοτομίες στο ανεύθυνο μάρκετινγκ είναι ακριβώς ότι θα περίμενε κανείς από εταιρία με πρώην κρυπτονομισματάκια CEO.

Σαν υποσημείωση να πω ότι υπάρχει και ένα θέμα με μια διακριτή υποκουλτούρα-καλτ από ΑΙ doomers που συσκοτίζει τα πράγματα με δυσανάλογη επιρροή και που νομίζει ότι επιτέλους ήρθε η ώρα της να λάμψει, αυτό που λέει ο klg ότι ο τύπος έχει και συγκεκριμένη κοσμοθεωρία να σπρώξει.

[klg]

Ενδιαφέρομαι περισσότερο τέτοιο επίπεδο συζήτησης: http://web.cse.ohio-state.edu/~stiff.4/ ... omsky.html

Είχα διαβάσει από τότε την απάντηση του Norvig.

https://norvig.com/chomsky.html

Ο Norvig φυσικά έχει πολλά ποιντς, αλλά δεν είναι ενημερωμένος στην σύγχρονη γενετική γραμματική. Όλη του η κριτική αφορά το πολύ πρώιμο γενετικό μοντέλο των δεκαετιων 50-60, με μόνο μία αναφορά στο πρότυπο ΚΑΔ (1980s) το οποίο δείχνει να μην καταλαβαίνει καθόλου, που κ αυτο δηλαδή είναι obsolete εδώ και 30 χρόνια στη γενετική θεωρία. Αυτό δεν το θεώρησα πολύ τίμιο στο "debate". Έχει όμως δίκιο στις βασικές κατηγορίες στον Τσόμσκι, ότι είναι πλατωνιστης κ ίσως λίγο μυστικιστης

Ναι έχω διαβάσει την απάντηση του Norvig, γενικά το όλο debate έχει πολυ ενδιαφέρον. Και αυτό είναι το point μου, τέτοιου συζήτηση είναι σοβαρή συζήτηση, όχι να μας λένε τα παιδιά της Google ότι δεν καταλαβαίνουν πώς το Bard έμαθε πακιστανικά or whatever και να έχουμε το walking meme να θέλει moratorium στο AI research γιατί έρχεται το skynet.

[talaipwros]

Meanwhile...

[Λεγεών]

αντί όλοι να λένε - "Γιουπι, με το ΑΙ θα μπορέσουμε να απαλλαχθούμε από τα κουρασμένα και καταστρεπτικά οικονομικά μοντέλα, και να δομήσουμε μια κοινωνία που θα προωθεί την εξέλιξη του ανθρώπου σε όλους τους τομείς"

Ναι, θα δεχτούν οι πλούσιοι tech bros να μετασχηματίσουν τον πλανήτη σε μία κοινωνία ισότητας όπου η οικονομική ευχέρεια δεν θα είναι συνώνυμο της καλοπέρασης, των ευκαιριών, της ισχύος τους, και αυτό λόγω της αγνής αγάπης τους για την ανθρωπότητα.

Έχω κάτι χάντρες να σου πουλήσω.

[Λεγεών]

Δηλαδή έχει ο Imperium την απαίτηση να λένε όλοι (ποιοι όλοι; ο απλός λαός σαν και εμάς;) ότι γιούπι το ΑΙ θα λύσει όλα μας τα προβλήματα, ενώ αυτοί που έχουν την οικονομική πρόσβαση και ικανότητα να λύσουν τα εν λόγω προβλήματα δεν λένε κάτι τέτοιο, αντιθέτως ήδη το εκμεταλλεύονται για να κόψουν γωνίες από όπου μπορούν.

[klg]

Meanwhile...

Meanwhile εδώ το copilot κάνει hallucinate πράγματα που δεν υπάρχουν εδώ και ένα τέταρτο χωρίς να μπορώ να κάνω κάτι για αυτό. I feel so much threatened lol.

[Sol]

Το ενδιαφέρον είναι αν μπορεί να ανακαλύπτει νόμους φυσικης, χημείας κα

[Stalker]

Το ενδιαφέρον είναι αν μπορεί να ανακαλύπτει νόμους φυσικης, χημείας κα

Ανακαλύπτει νέους νόμους της φύσης και της χημείας κυριολεκτικά όλη την ώρα, το πρόβλημα είναι ότι δεν υπάρχουν

[Sol]

Το ενδιαφέρον είναι αν μπορεί να ανακαλύπτει νόμους φυσικης, χημείας κα

Ανακαλύπτει νέους νόμους της φύσης και της χημείας κυριολεκτικά όλη την ώρα, το πρόβλημα είναι ότι δεν υπάρχουν

Όχι να σκαρφίζεται αλλά.να τους αποδεικνύει επιστημονικά.

[Stalker]

Το ενδιαφέρον είναι αν μπορεί να ανακαλύπτει νόμους φυσικης, χημείας κα

Ανακαλύπτει νέους νόμους της φύσης και της χημείας κυριολεκτικά όλη την ώρα, το πρόβλημα είναι ότι δεν υπάρχουν

Όχι να σκαρφίζεται αλλά.να τους αποδεικνύει επιστημονικά.

Μάλλον θα σκαλώσει όταν χρειαστεί να κάνει πειράματα.

[Chilloutbuddy]

Να ξεκαθαρίσω σε περίπτωση που χρειάζεται ότι δεν λέω εσένα ψεύτη, εννοώ η φάση με το ότι τάχα το bard συμπέρανε τα μπενγκάλι από άλλες γλώσσες ήταν εκ του πονηρού από την google, και το ότι σου έμεινε μάλλον δικαιώνει την παπάτζα σαν επιλογή, εμφανώς δουλεύει.

Ήταν ένα παράδειγμα, ίσως λάθος. Αυτό που μου έμεινε από τη συνεντευξη του γκουγκλ ήταν ότι δεν εμπνέουν εμπιστοσύνη ότι ξέρουν ακριβώς πώς δουλεύει. Εσκεμμένα λες; για ποιό λόγο;

Γιατί γενικά εκτός από πολύ συγκεκριμένες περιπτώσεις και για χαβαλέ τα LLM δεν αποδίδουν όσα υπόσχονται και όποιος έχει πάει να τα χρησιμοποιήσει χωρίς επιτήρηση έχει φάει τα μούτρα του (π.χ. σε εκείνη τη γραμμή support για ανορεξία που βάλανε να απαντάει το chatbot και τους έλεγε να αυτοκτονήσουν), ενώ τα ρυθμιστικά πλαίσια που σχηματίζονται σιγά σιγά δεν ευνοούν το να συνεχίσουν τα πράγματα στο ίδιο μοτίβο, π.χ. στις ΗΠΑ οι δικαστές ζητάνε τα νομικά κείμενα από ΑΙ να είναι σαφώς χαρακτηρισμένα ως τέτοια, η ΕΕ και η Κίνα που ζητάνε κανονισμούς διαφάνειας σε σημείο που ο Αλτμαν να απειλεί να φύγει από ευρώπη, κ.λπ.

Επίσης πρέπει να δούμε την όλη τακτική του διαφημίζω εμπνέοντας φόβο σαν ένα ξεχωριστό καινούριο φρούτο που έσκασε παράλληλα με το πέρασμα των LLM στην κατανάλωση και που το λιγότερο φαίνεται να σου επιτρέπει να κυριαρχείς στον διάλογο σε σημείο να μπορείς να ζητάς από το κονγκρέσσο να βάλει περιορισμούς στους ανταγωνιστές σου επειδή μόνο εσύ έχεις επαρκή αίσθηση δέους και ευθύνης ώστε να μπορείς να εκπληρώσεις τον ρόλο του ΑρχιΙερέα του ΑΙ.

Γενικά τέτοιου είδους καινοτομίες στο ανεύθυνο μάρκετινγκ είναι ακριβώς ότι θα περίμενε κανείς από εταιρία με πρώην κρυπτονομισματάκια CEO.

Σαν υποσημείωση να πω ότι υπάρχει και ένα θέμα με μια διακριτή υποκουλτούρα-καλτ από ΑΙ doomers που συσκοτίζει τα πράγματα με δυσανάλογη επιρροή και που νομίζει ότι επιτέλους ήρθε η ώρα της να λάμψει, αυτό που λέει ο klg ότι ο τύπος έχει και συγκεκριμένη κοσμοθεωρία να σπρώξει.

όλα αυτά με κάνουν να ανησυχώ περισσότερο γιατί μου θυμίζουν πόσο παρανοϊκοί είναι και οι άνθρωποι και το πλέγμα επιρροών που τελικά θα πάρει τις αποφάσεις. Αυτό ας πούμε με το Κογκρέσο με τα νομικά κείμενα τι μαλακία είναι, αφού ήδη δε μπορεί να αποδειχτεί αν ένα κείμενο είναι φτιαγμένο από ΑΙ, είναι ήδη τόσο καλό. Δηλαδή τι, θα ψάξουνε τα log του ΑΙ της εταιρίας σου; και αν το έχεις φτιάξει σε κάποιο άλλο ΑΙ online; Μου φαίνονται απελπιστικά απροετοίμαστη και ανίκανη η ανθρωπότητα να αντιμετωπίσει τα πιθανά προβλήματα. Επίσης μου φαίνεται εξαιρετικά αδύνατο να σταματήσουν την εξέλιξη ακόμα και στην απίθανη περίπτωση που το αποφάσιζαν, δεν υπάρχει περίπτωση να σταματήσει κανείς, κι αν σταματήσουν οι Αμερικάνοι δε θα σταματήσουν οι Κινέζοι.

Και μου λες εσυ ας μην κάνουμε λες και ανακαλύψαμε το skynet, ναι οκ αλλά με τι ρυθμό βελτιώνεται αυτό το πράμα ξέρεις; (άσχετο, χτες ρώτησα το ρομπότ αν έχει δει το Open Letter του FLI, μου λέει ναι και μου γράφει ένα κατεβατό. Τού λέω ώπα, δε μου είπες ότι η γνώση σου σταματάει στο 2021; Από που το ξέρεις αυτό αφού είναι πρόσφατο. Και μου λέει α δεν ξέρω από που το ξέρω, μου το είπε ένα πουλάκι )