Επιπτώσεις του ChatGPT

Στην κυβερνοασφάλεια

Η Check Point Research και άλλοι σημείωσαν ότι το ChatGPT ήταν ικανό να γράφειηλεκτρονικό ψάρεμα (phishing)ηλεκτρονικά μηνύματα καικακόβουλο λογισμικό, ειδικά όταν συνδυάζεται μεΚώδικας OpenAIΟ Διευθύνων Σύμβουλος της OpenAI έγραψε ότι η ανάπτυξη λογισμικού θα μπορούσε να θέσει «(για παράδειγμα) έναν τεράστιο κίνδυνο για την κυβερνοασφάλεια» και συνέχισε επίσης να προβλέπει ότι «θα μπορούσαμε να φτάσουμε σε πραγματική Τεχνητή Νοημοσύνη (AGI)».τεχνητή γενική νοημοσύνη) την επόμενη δεκαετία, οπότε πρέπει να λάβουμε το ρίσκο αυτό εξαιρετικά σοβαρά υπόψη». Ο Άλτμαν υποστήριξε ότι, ενώ το ChatGPT «προφανώς δεν είναι κοντά στην AGI», θα πρέπει κανείς να «εμπιστευτεί τοεκθετικόςΕπίπεδη κοιτάζοντας προς τα πίσω,κάθετη όψη που κοιτάζει προς τα εμπρός.”

Στον ακαδημαϊκό χώρο

Το ChatGPT μπορεί να γράψει εισαγωγικά και περιληπτικά τμήματα επιστημονικών άρθρων, κάτι που εγείρει ηθικά ερωτήματα. Αρκετές δημοσιεύσεις έχουν ήδη αναφέρει το ChatGPT ως συν-συγγραφέα.

ΣεΟ Ατλαντικόςπεριοδικό,Στίβεν Μάρκεσημείωσε την επίδρασή του στον ακαδημαϊκό χώρο και ιδιαίτεραδοκίμια εφαρμογήςδεν έχει ακόμη κατανοηθεί. Ο καθηγητής λυκείου της Καλιφόρνια και συγγραφέας Ντάνιελ Χέρμαν έγραψε ότι το ChatGPT θα σηματοδοτούσε «το τέλος των αγγλικών στο λύκειο».ΦύσηΟ Chris Stokel-Walker, στο περιοδικό The Journal of Science, επεσήμανε ότι οι εκπαιδευτικοί θα πρέπει να ανησυχούν για το ενδεχόμενο οι μαθητές να χρησιμοποιούν το ChatGPT για να αναθέσουν σε εξωτερικούς συνεργάτες τη γραφή τους, αλλά ότι οι πάροχοι εκπαίδευσης θα προσαρμοστούν για να ενισχύσουν την κριτική σκέψη ή τη συλλογιστική. Η Emma Bowman μεΕθνικό Πρακτορείο Ειδήσεων (NPR)έγραψε για τον κίνδυνο λογοκλοπής από φοιτητές μέσω ενός εργαλείου τεχνητής νοημοσύνης που μπορεί να παράγει προκατειλημμένο ή ανόητο κείμενο με έγκυρο τόνο: «Υπάρχουν ακόμα πολλές περιπτώσεις όπου κάνεις μια ερώτηση και σου δίνει μια πολύ εντυπωσιακή απάντηση που είναι απλώς εντελώς λάθος».

Τζοάνα Στερν μεΗ Wall Street Journalπεριέγραψε την εξαπάτηση στα αγγλικά των αμερικανικών λυκείων με το εργαλείο υποβάλλοντας ένα δημιουργημένο δοκίμιο. Ο καθηγητής Ντάρεν Χικ τουΠανεπιστήμιο Φέρμανπεριέγραψε ότι παρατήρησε το «στυλ» του ChatGPT σε μια εργασία που υπέβαλε ένας φοιτητής. Ένας διαδικτυακός ανιχνευτής GPT ισχυρίστηκε ότι η εργασία είχε 99,9% πιθανότητα να δημιουργηθεί από υπολογιστή, αλλά ο Hick δεν είχε αδιάσειστες αποδείξεις. Ωστόσο, ο εν λόγω φοιτητής ομολόγησε ότι χρησιμοποίησε το GPT όταν τον αντιμετώπισαν και, ως εκ τούτου, απέτυχε στο μάθημα. Ο Hick πρότεινε μια πολιτική διεξαγωγής ad hoc ατομικής προφορικής εξέτασης στο θέμα της εργασίας εάν ένας φοιτητής υπάρχει σοβαρή υποψία ότι υπέβαλε μια εργασία που δημιουργήθηκε από τεχνητή νοημοσύνη. Ο Edward Tian, ​​τελειόφοιτος προπτυχιακός φοιτητής στοΠανεπιστήμιο Πρίνστον, δημιούργησε ένα πρόγραμμα, με το όνομα «GPTZero», το οποίο καθορίζει πόσο κείμενο παράγεται από τεχνητή νοημοσύνη, και προσφέρεται για να χρησιμοποιηθεί για την ανίχνευση εάν ένα δοκίμιο είναι γραμμένο από άνθρωπο για την καταπολέμησηακαδημαϊκή λογοκλοπή.

Από τις 4 Ιανουαρίου 2023, το Υπουργείο Παιδείας της Νέας Υόρκης έχει περιορίσει την πρόσβαση στο ChatGPT από το διαδίκτυο και τις συσκευές των δημόσιων σχολείων.

Σε μια τυφλή δοκιμασία, το ChatGPT κρίθηκε ότι είχε περάσει εξετάσεις μεταπτυχιακού επιπέδου στοΠανεπιστήμιο της Μινεσότασε επίπεδο φοιτητή C+ και σεΣχολή Wharton του Πανεπιστημίου της Πενσυλβάνιαμε βαθμό Β έως Β. (Wikipedia)

Την επόμενη φορά θα μιλήσουμε για ηθικά ζητήματα του ChatGPT.