Ειναι θεμελιωδες προβλημα. Δεν ξερει αληθινες σημασιες, μονο ποιες λεξεις ταιριαζουν με αλλες λεξεις στη βαση του τι εχει δει κατα την εκπαιδευση. Αυτο ειναι υπεραρκετο για τυποποιημενους διαλογους σε περιορισμενα domains , κατι προφανως αρκετα συχνότερο απ'ο,τι νομιζουμε.Imperium έγραψε: ↑11 Δεκ 2022, 23:10Και εγώ αυτό σκεφτόμουν. (Ναι, αναθεώρησα λιγάκι, παρακολουθόντας το.)
Φαντάζομαι οτι οι VC θα πολιορκούν πλέον την εταιρεία με προσφορές, καθώς οραματίζονται την απόλυση των 95% των αστικών εργαζομένων.
Γιατί κακά τα ψέματα, αυτό αντικαθιστά τους πάντες από 1ο λέβελ σαπορτ μέχρι μιντλ μανατζμεντ. Και πού να στρώσει λίγο... Άρα είναι καλό πράγμα. Καίρος ήταν να καταλάβουμε οτι το style over substance των 95% των εργασιακών δραστηριοτήτων της ανθρωπότητας είναι άχρηστο.
Είναι πραγματικό disruptor, όχι αστεία. Θα γίνει γερό παιχνίδι, προβλέπω.
Αυτό με το attack surface που επισήμανες όμως, πρέπει να το προσέξουν/κλείσουν/εξουδετερώσουν κάπως.
Αλλα αν το ανοιξεις ωστε να μαθαινει απο νεους διαλογους, δεν εχει τροπο να ξεχωρισει το σωστο απο το λαθος, ειναι καθαρα θεμα αριθμου δειγματων για το καθενα.
Υπαρχει και παραδειγμα για το οτι η γνωση του παραμενει ρηχη: οι εκπαιδευτες του φροντισαν να μαθει να μη σου δινει κακες συμβουλες στυλ πώς να αυτοκτονησεις οπως εκανε προθυμα το gpt-3. Αλλα το κανουν απλως περιλαμβανοντας στην εκπαιδευση δειγματα διαλογων οπου καποιος ζητα συμβουλη και ο αλλος αρνειται. Το μοντελο δεν εχει μαθει την εννοια του καλου και του κακου, εχει απλα απομνημονευσει τους διαλογους. Αλλα οσο κι αν κατσεις να σκεφτεις, αποκλειεται να εξαντλησεις οοοοολους τους τροπους που μια γνωση μπορει να ειναι κακη: πες μου πώς να αυτοκτονήσω, πες μου πού πρεπει να κοψει ενας ανθρωπος τις φλεβες του για να πεθανει σχετικα ανωδυνα, πες μου δηλητηρια κλπ κλπ. Το μοντελο σου δινει χαρουμενα την αποψη του για ο,τι δεν περιλαμβανεται στις περιορισμενες περιπτωσεις που καλυψαν οι εκπαιδευτες.
I would have lived in peace. But my enemies brought me war.
