To AI θα είναι ο θάνατος του ανθρώπινου πολιτισμού

[paul25]

Δεν νομίζω ότι χρειάζεται καν να κάνουμε φιλοσοφική συζήτηση για την τεχνητή νοημοσύνη tbh. Ακόμα και να έχουμε κάτι που είναι AGI, δεν υπάρχει περίπωση να μπορεί να αλλάζει αρχεία σε random sites στο internet. Επίσης αυτό που σου είπα πριν, παραμένει, αν πρέπει να εκπαιδευτεί από dataset που είναι ένα επι της ουσίας crawl όλου του ιντερνετ, σημαίνει ότι θα έχεις και εσύ πρόσβαση σε αυτό το dataset (ή καλύτερα τη δυνατότητα να το κάνεις θεωρητικά construct).

Επομένως μιλάς για κάτι υποδεέστερο και όχι πραγματικό ΑΙ.

Υποδεέστερο σε σχέση με τι ρε συ; Με αυτό που το sci-fi έχουν κάνει force feed ό,τι θα είναι το "AI" ; Εννοώ να κάνουμε real talk, ή να τρολλάρουμε εδώ πέρα; Αυτή τη στιγμή θεωρούμε "sparks" του AGI το να μπορεί να κάνει μαθηματικό, abstract reasoning.

Φυσικά _πραγματικό AI_ δεν σημαίνει ότι θα το κάνεις connect στο internet, θα αποφασίσει με κάποιο utilitarian calculus ότι οι άνθρωποι είναι μαλάκες οπότε πάμε να χακάρουμε με AI μαγεία τη NORAD.

Υποδεέστερο ως προς την πληρη συνείδηση. Όσα εχουν βγει μέχρι τώρα και θα βγουν στο μέλλον ΑΙs υποπίπτουν στην κατηγορία του "εργαλείου". Είναι απλά πολύ καλύτερες υπολογιστικές μηχανές, περιορισμένες σε μια στενή περιοχή του φάσματος που καλούμε "νοημοσύνη". Δεν υπάρχει ιδιαίτερο πρόβλημα με αυτό, εφόσον μπορούν να υπάρχουν ρυθμισμένες ως εργαλεία. Το μόνο πρόβλημα που συνεχίζει να υπάρχει είναι η εμπιστοσυνη σε αυτά ως προς την ορθότητα των οποίων αποτελεσμάτων τους. Όμως όσοι μελετούν και αναπτύσουν την ΑΙ, ναι μεν αυτά τα προοδευτικά άλματα τους χαροποιουν, αλλά το ανώτατο όραμα τους είναι να δημιούργησαν μια νέα οντότητα με αυτοσυνειδηση.

[klg]

[
Πώς δεν εννοεί αυτό ρε μαν; Άλλο το να κάνεις recognize κάποια patterns από raw data, που δεν μπορεί να κάνει recognize ένας άνθρωπος, άλλο να πιστεύεις ότι ο άνθρωπος για κάποιον ανεξήγητο λόγο δεν θα έχει access στα raw data. .

Εχω ζητησει κατ επαναληψην raw data απο independent providers και το NHSdigital και δεν εχω παρει τίποτα διοτι gdpr και να περασει απο ethics Committee (οταν απαντησουν)

Μιλάμε για publicly available πράγματα στο internet, όχι γενικά για όποιο dataset έχει παράξει η ανθρωπότητα.

[GoBzi]

[
Πώς δεν εννοεί αυτό ρε μαν; Άλλο το να κάνεις recognize κάποια patterns από raw data, που δεν μπορεί να κάνει recognize ένας άνθρωπος, άλλο να πιστεύεις ότι ο άνθρωπος για κάποιον ανεξήγητο λόγο δεν θα έχει access στα raw data. .

Εχω ζητησει κατ επαναληψην raw data απο independent providers και το NHSdigital και δεν εχω παρει τίποτα διοτι gdpr και να περασει απο ethics Committee (οταν απαντησουν)

Μιλάμε για publicly available πράγματα στο internet, όχι γενικά για όποιο dataset έχει παράξει η ανθρωπότητα.

Εκτός και εάν το AI βρει 0day για τα πάντα

[foscilis]

Καταλαβαίνετε, συνειδητοποιείτε τι γίνεται;

Ξέρεις όλα αυτά τα χρόνια μπορείς να διαβάσεις το resolv.conf, να δεις ποια είναι η διεύθυνση του ρούτερ, να του στείλις με UDP στην πόρτα 53 τα δεδομένα 01 01 01 00 00 00 77 77 77 2e 67 6f 6f 67 6c 65 2e 63 6f 6d 00 00 01 00 01, να πάρεις στην απάντηση 00 01 81 80 00 01 00 01 00 00 00 00 03 77 77 77 06 67 6f 6f 67 6c 65 03 63 6f 6d 00 00 01 00 01 c0 0c 00 01 00 01 00 00 01 2c 00 04 d8 3a c2 84, από αυτό να καταλάβεις ότι πρέπει να δώσεις την εντολή telnet 2a00:1450:4001:812::2004 80 και στην κονσόλα του τέλνετ να γράψεις
GET / HTTP 1.1
host: www.google.com
[ENTER]
[ENTER]

παίρνοντας πίσω την απάντηση




η οποία σημαίνει μια σειρά από πράγματα τα οποία αν θες μπορείς όντως να εκτελέσεις με το χέρι για να δεις τι άλλο πρέπει να στείλεις τις περίπου 30 φορές που θα επαναλάβεις τη διαδικασία. Κράτα τουλάχιστον ότι όλες οι επόμενες εντολές που θα στείλεις στο τελνετ (τουλάχιστον για ό,τι domains σου βγάλει η εκτέλεσή σου με το χέρι ότι τελειώνουν σε google.com) πρέπει να περιέχουν και την επικεφαλίδα
cookie: AEC=AUEFqZeVBm8XOxO49-WB0iea4KvlGlJhJa7KLhHGoozqN-PcJPuGjVewxg

Αντί για αυτό πας στον browser, πληκτρολογείς "goo", διαλέγεις το google.com που σου προτείνει και όλα αυτά γίνονται αυτόματα, ενώ σου δείχνει και ένα κατανοητό τελικό αποτέλεσμα:



Όλα αυτά τα κάνει εκατομμύρια φορές πιο γρήγορα από εσένα, ίσως τρισεκατομμύρια φορές πιο γρήγορα από εσένα αν χρησιμοποιούσαμε και κρυπτογράφηση (HTTPS) που είναι ένα εντελώς διαφορετικό κεφάλαιο.

Η απορία μου είναι: αυτό είναι κάτι που σε σοκάρει το ίδιο με την αυτοματοποίηση παραγωγής και κατανάλωσης κειμένων φυσικής γλώσσας, ή θεωρείς πως τα κείμενα των διαδικτυακών πρωτοκόλλων, των μορφών εικόνας και των διαφόρων γλωσσών προγραμματισμού είναι πιο "δεύτερα"; Γιατί σε διαβεβαιώ ότι όντως θα μπορούσαν όλα αυτά που περιγράφω πιο πάνω να γίνονται από ανθρώπους με το χέρι (μάλιστα ΟΝΤΩΣ γίνονταν κάποτε) και όντως η αυτοματοποίηση καταργεί τρισεκατομμύρια ανθρωποώρες εργασίας που θα υπήρχαν απουσία αυτής.

[EKPLIKTIKOS]

Θα συμφωνήσω ότι υπάρχει θέμα, αλλά ρεαλιστικά μιλώντας, σε πόσες περιπτώσεις στην Ιστορία η επιστημονική πρόοδος σταματηθηκε εθελοντικα λόγω ηθικών ή τέλος πάντων εξω-επιστημονικων κωλυμάτων;

Δεν υπάρχει περίπτωση να σταματήσει η χρήση, η έρευνα και η παραμετροποίηση των LLMs σε κάθε εργαστήριο ανά τον κόσμο οικειοθελώς. Ο μόνος τρόπος που μπορεί να γίνει αυτο είναι με κρατική παρέμβαση, και δε θα είναι ό,τι καλύτερο. Θα έχεις απλά μια παύση στην εξελιξη με κινητήριο δυναμη την κινδυνολογια από οργανισμούς και ομαδες ανθρώπων που για να είμαστε ειλικρινείς δεν καταλαβαίνουν καλά, έως καθόλου, αυτό το οποίο θέλουν να σταματήσουν.

Υπάρχει πολύ μεγάλο benefit από τη χρήση των LLMs, μπορώ να φανταστώ ειδικά στον τομέα της εκπαίδευσης, της υγείας, αλλά όχι μόνο. Είναι πράγματα απο τα οποια θα ωφεληθουν πραγματικά παρα μα παρα πολλοι άνθρωποι. Σίγουρα υπάρχουν θέματα τα οποία δεν είναι τόσο βαθιά φιλοσοφικά (όπου ακούς τέτοιες αναλύσεις για singularity κ αλλες new age μαλακιες να τρεχεις) και ναι κάποια έχουν να κάνουν με την υπεύθυνη, ηθικη χρήση αυτών των μοντέλων, κάποια άλλα έχουν να κάνουν με το ποσο explainable είναι (ή δεν ειναι) αυτά τα μοντέλα, αλλά όλα αυτά μακριά από κινδυνολογιες κ υπερβολές (εκατέρωθεν).

All in all αυτά τα μοντέλα είναι εκπληκτικά με πραγματικα huge potential να συμβάλουν θετικά στην καθημερινότητα εκατομμυρίων ανθρώπων, ενώ οι κίνδυνοι είναι σχετικά μικροί κ μάλλον καταδεικνύουν αλλα, εγγενή προβλήματα που υπάρχουν (πχ στα συστήματα εξετάσεων ανά τον κόσμο στην εκπαίδευση) πάρα τα δημιουργούν.

[Λεγεών]

Δηλαδή οι πληροφορικάριοι λέτε πως δεν υπάρχει λόγος ανησυχίας, όλα θα πάνε καλά, και οι ανθρώπινες κοινωνίες είναι ήδη έτοιμες ή θα προσαρμοστούν εύκολα στις αλλαγές που θα φέρει το ΑΙ. ΟΚ, εδώ θα είμαστε.

[GoBzi]

Δηλαδή οι πληροφορικάριοι λέτε πως δεν υπάρχει λόγος ανησυχίας, όλα θα πάνε καλά, και οι ανθρώπινες κοινωνίες είναι ήδη έτοιμες ή θα προσαρμοστούν εύκολα στις αλλαγές που θα φέρει το ΑΙ. ΟΚ, εδώ θα είμαστε.

Οι πληροφορικαριοι σε λίγα χρόνια θα είναι ότι ο τσαγκάρης σήμερα

[talaipwros]

Δηλαδή οι πληροφορικάριοι λέτε πως δεν υπάρχει λόγος ανησυχίας, όλα θα πάνε καλά, και οι ανθρώπινες κοινωνίες είναι ήδη έτοιμες ή θα προσαρμοστούν εύκολα στις αλλαγές που θα φέρει το ΑΙ. ΟΚ, εδώ θα είμαστε.

Οι πληροφορικαριοι σε λίγα χρόνια θα είναι ότι ο τσαγκάρης σήμερα

Οχι οτι ο τσαγκαρης, οι περισσοτεροι οτι ο τυπος που περναγε και πουλαγε παγο και τον αντικατεστησε το ψυγειο.

[Dorian]

Πρέπει οπωσδήποτε να μπει φρένο και νομοθεσία που θα το απαγορεύει. Δεν πρόκειται για νεολουδιτισμό, πρόκειται για μία καταστροφή που την βλέπουμε να έρχεται και οι περισσότεροι δεν έχουμε ακόμα πάρει χαμπάρι τίποτα.

δεν θα χαθούν high level δουλειες μηχανικοί γιατροί, δικηγοροι κοκ. Θα συμβεί σφαγή στις low level που δουλευει και η μάζα, τηλεφωνικά κέντρα, γραφείου, λογιστήρια, ημιαυτοματοποιημενα εμπορικά κ.ά. οι πρώτοι είναι και ισχυροι κοινωνικά θα βάλουν και προστατευτισμό, τα φιλελευθερα οταν θα δουν τα ζορια θα πάνε περίπατο. Και τώρα ειναι τεχνικά εφικτό πχ να πάρεις ένα φθηνό μηχανικό από κάποια ασιαστική χώρα να σου σχεδιάσει το σπίτι, δε νομίζω όμως ότι επιτρέπεται. Υπάρχει και εμπειρικό προηγούμενο, υπήρξε σχεδόν πλήρης αδιαφορία όταν μαζικά οικοδόμοι ανειδίκευτοι κ.ά έχαναν ή υποβαθμίζονταν ραγδαία την εργασία τους από αλλοδαπούς εδώ και 3 δεκαετίες. Υπήρχει μάλιστα ηδη νομικό πλαίσιο που κανείς δεν του έδωσε σημασία. το ίδιο θα γίνει και τώρα, κόψτε το λαιμό σας αντε πάρτε και ενα δυο πασσ θα είναι η απάντηση

[axilmar]

Θα αλλαξει το οικονομικο μοντελο χαρην της τεχνολογιας.

Θα εισαχθει το UBI, διοτι θα μεγαλωσει πολυ το πληθος του κοσμου που δεν θα εχει εργασια.

Θα αλλαξει τελειως το θεμα 'πολεμος' γιατι εκει η ΑΙ θα φερει κοσμογονικες αλλαγες. Τα ρομποτ θα μαχονται.

Παντως ειναι αναποφευκτες οι αλλαγες, ειτε καλες, ειτε κακες.

[GoBzi]

Δηλαδή οι πληροφορικάριοι λέτε πως δεν υπάρχει λόγος ανησυχίας, όλα θα πάνε καλά, και οι ανθρώπινες κοινωνίες είναι ήδη έτοιμες ή θα προσαρμοστούν εύκολα στις αλλαγές που θα φέρει το ΑΙ. ΟΚ, εδώ θα είμαστε.

Οι πληροφορικαριοι σε λίγα χρόνια θα είναι ότι ο τσαγκάρης σήμερα

Οχι οτι ο τσαγκαρης, οι περισσοτεροι οτι ο τυπος που περναγε και πουλαγε παγο και τον αντικατεστησε το ψυγειο.

Κατά την γνώμη μου πάλι θα υπάρχουν αλλά σε πολύ μικρότερο αριθμό. Αντί να έχεις 100 άτομα που γράφουν κώδικα θα έχεις 2-3 senior να επιβλέπουν.

[Λεγεών]

Πρέπει οπωσδήποτε να μπει φρένο και νομοθεσία που θα το απαγορεύει. Δεν πρόκειται για νεολουδιτισμό, πρόκειται για μία καταστροφή που την βλέπουμε να έρχεται και οι περισσότεροι δεν έχουμε ακόμα πάρει χαμπάρι τίποτα.

δεν θα χαθούν high level δουλειες μηχανικοί γιατροί, δικηγοροι κοκ.

Όλες οι δουλειές θα επηρεαστούν, κάποιες πιο αργά από άλλες.

Μηχανικοί δεν το συζητάμε, με πλήρη ρομποτική αυτοματοποίηση (όπως ήδη υπάρχει σε κάποιες βιομηχανίες) το ΑΙ θα μπορεί να τρέξει γραμμή παραγωγής χωρίς πρόβλημα.

Γιατροί επίσης, θα μπαίνεις σε ένα κουβούκλιο (όπως στο Prometheus), θα τρέχει ό,τι εξετάσεις το προγραμματίσουν να κάνει, θα παίρνει αίμα, θα σου κάνει ακτινογραφίες, θα βγάζει διάγνωση και θα σου γράφει και φάρμακα.

Όσο για δικηγόρους, δεν θα μπορεί ένα ΑΙ να διαβάσει όλο το ψηφιοποιημένο Δίκαιο και να παρουσιάσει πειστικότατα επιχειρήματα ή να βρει παραθυράκια, ή ακόμα και να παρουσιάσει ψεύτικο βίντεο που σε δείχνει να πυροβολείς έναν συγγενή σου που ξέρεις ότι πέθανε από φυσικά αίτια, ενώ βρίσκεσαι στο δικαστήριο για ένα τρακάρισμα;

[Dwarven Blacksmith]

Οι Δικηγόροι είναι το no 1 που θα γίνει σίγουρα disrupt.

[Dwarven Blacksmith]

Δηλαδή οι πληροφορικάριοι λέτε πως δεν υπάρχει λόγος ανησυχίας, όλα θα πάνε καλά, και οι ανθρώπινες κοινωνίες είναι ήδη έτοιμες ή θα προσαρμοστούν εύκολα στις αλλαγές που θα φέρει το ΑΙ. ΟΚ, εδώ θα είμαστε.

Αν η θέση σου ήταν "η προσαρμογή θα είναι δύσκολη", θα ήταν πιο δύσκολο να της επιτεθεί κανείς.

[vantono]

Οι αμφιβολίες και ο σκεπτικισμός ειναι σωστά και αποδεκτά, σε λογικά πλαίσια, αλλά μην το πάμε στον ψεκασμό, παιδιά.
Ειναι ξεκάθαρα μια θετικη εξέλιξη της επιστήμης της τεχνολογίας όλο αυτο που γινεται, και θα δουμε πως θα κυλήσει.

Οι νεολουδιτισμοί τυπου "μα θα κοπούν τοσες θεσεις εργασιας κτλ", καλο ειναι να λειπουν. Και ναι, να κοπούν.
Μπορει να κοπεί η δικη μου θεση εργασιας αυριο? Ειμαι μεσα! Θυσιάζομαι πρώτος απ'ολους, αν θελετε.
Το ιδανικοτερο βεβαια θα ηταν να αντικατασταθεί απο ρομπότ το οποιο θα χειρίζομαι εγώ, αλλα οκ, να 'χουμε να λέμε.