Συνέπειες του ChatGPT

Στην κυβερνοασφάλεια

Το Check Point Research και άλλοι σημείωσαν ότι το ChatGPT ήταν ικανό να γράψειphishingemail καικακόβουλο λογισμικό, ειδικά όταν συνδυάζεται μεOpenAI Codex.Ο Διευθύνων Σύμβουλος της OpenAI έγραψε ότι η ανάπτυξη λογισμικού θα μπορούσε να δημιουργήσει «(για παράδειγμα) τεράστιο κίνδυνο για την ασφάλεια στον κυβερνοχώρο» και επίσης συνέχισε να προβλέπει «θα μπορούσαμε να φτάσουμε σε πραγματικό AGI (τεχνητή γενική νοημοσύνη) την επόμενη δεκαετία, οπότε πρέπει να πάρουμε το ρίσκο αυτού εξαιρετικά σοβαρά».Ο Altman υποστήριξε ότι, ενώ το ChatGPT «προφανώς δεν είναι κοντά στο AGI», θα πρέπει να «εμπιστευθεί κανείςεκθετικός.Επίπεδη κοιτάζοντας προς τα πίσω,κάθετη κοιτάζοντας προς τα εμπρός.»

Στον ακαδημαϊκό χώρο

Το ChatGPT μπορεί να γράψει εισαγωγικές και αφηρημένες ενότητες επιστημονικών άρθρων, γεγονός που εγείρει ηθικά ερωτήματα.Αρκετές δημοσιεύσεις έχουν ήδη αναφέρει το ChatGPT ως συν-συγγραφέα.

ΣεΟ Ατλαντικόςπεριοδικό,Στίβεν Μάρκεσημείωσε ότι η επίδρασή του στον ακαδημαϊκό χώρο και ιδιαίτεραδοκίμια εφαρμογήςδεν έχει γίνει ακόμη κατανοητό.Ο δάσκαλος γυμνασίου της Καλιφόρνια και συγγραφέας Daniel Herman έγραψε ότι το ChatGPT θα εισαγάγει «το τέλος των αγγλικών γυμνασίου».ΣτοΦύσηπεριοδικό, ο Chris Stokel-Walker επεσήμανε ότι οι δάσκαλοι θα πρέπει να ανησυχούν για τους μαθητές που χρησιμοποιούν το ChatGPT για να αναθέσουν σε εξωτερικούς συνεργάτες τη γραφή τους, αλλά ότι οι πάροχοι εκπαίδευσης θα προσαρμοστούν για να ενισχύσουν την κριτική σκέψη ή τον συλλογισμό.Η Έμμα Μπάουμαν μεNPRέγραψε για τον κίνδυνο λογοκλοπής μαθητών μέσω ενός εργαλείου τεχνητής νοημοσύνης που μπορεί να παράγει μεροληπτικό ή ανόητο κείμενο με έναν έγκυρο τόνο: «Υπάρχουν ακόμη πολλές περιπτώσεις που του κάνετε μια ερώτηση και θα σας δώσει μια πολύ εντυπωσιακή απάντηση που είναι απλώς τελείως λάθος».

Η Joanna Stern μεΗ Wall Street Journalπεριέγραψε την εξαπάτηση στα αγγλικά αμερικανικού γυμνασίου με το εργαλείο υποβάλλοντας ένα δοκίμιο που δημιουργήθηκε.Ο καθηγητής Ντάρεν Χικ τουΠανεπιστήμιο Furmanπεριέγραψε ότι παρατήρησε το «στυλ» του ChatGPT σε μια εργασία που υποβλήθηκε από έναν μαθητή.Ένας διαδικτυακός ανιχνευτής GPT ισχυρίστηκε ότι το χαρτί ήταν 99,9 τοις εκατό πιθανό να δημιουργηθεί από υπολογιστή, αλλά ο Χικ δεν είχε σκληρή απόδειξη.Ωστόσο, ο εν λόγω μαθητής ομολόγησε ότι χρησιμοποίησε GPT όταν αντιμετώπισε, και ως συνέπεια απέτυχε στο μάθημα.Ο Hick πρότεινε μια πολιτική να δίνεται μια ad-hoc ατομική προφορική εξέταση για το θέμα του χαρτιού, εάν υπάρχει ισχυρή υποψία ότι ένας μαθητής υποβάλλει μια εργασία που δημιουργήθηκε από AI.Edward Tian, ​​τελειόφοιτος προπτυχιακός φοιτητής στοπανεπιστήμιο Πρίνσετον, δημιούργησε ένα πρόγραμμα, με το όνομα "GPTZero", το οποίο καθορίζει πόσο ένα κείμενο δημιουργείται από την τεχνητή νοημοσύνη, προσφέροντας τη δυνατότητα να χρησιμοποιηθεί για να ανιχνεύσει εάν ένα δοκίμιο είναι ανθρώπινο γραμμένο για καταπολέμησηακαδημαϊκή λογοκλοπή.

Από τις 4 Ιανουαρίου 2023, το Υπουργείο Παιδείας της Νέας Υόρκης έχει περιορίσει την πρόσβαση στο ChatGPT από το διαδίκτυο και τις συσκευές του δημόσιου σχολείου.

Σε ένα τυφλό τεστ, το ChatGPT κρίθηκε ότι πέρασε σε μεταπτυχιακές εξετάσεις στοΠανεπιστήμιο της Μινεσότασε επίπεδο μαθητή Γ+ και σεΣχολή Wharton του Πανεπιστημίου της Πενσυλβάνιαμε βαθμό Β έως Β.(Βικιπαίδεια)

Την επόμενη φορά θα μιλήσουμε για τις ηθικές ανησυχίες του ChatGPT.