Δεδομένα επισήμανσης
Αποκαλύφθηκε από έρευνα του περιοδικού TIME ότι για να δημιουργήσει ένα σύστημα ασφαλείας έναντι τοξικού περιεχομένου (π.χ. σεξουαλική κακοποίηση, βία, ρατσισμό, σεξισμό κ.λπ.), το OpenAI χρησιμοποίησε εξωτερικούς συνεργάτες της Κένυας που κέρδιζαν λιγότερα από 2 $ την ώρα για την επισήμανση τοξικού περιεχομένου.Αυτές οι ετικέτες χρησιμοποιήθηκαν για την εκπαίδευση ενός μοντέλου για τον εντοπισμό τέτοιου περιεχομένου στο μέλλον.Οι εξωτερικοί εργάτες εκτέθηκαν σε τόσο τοξικό και επικίνδυνο περιεχόμενο που περιέγραψαν την εμπειρία ως «βασανιστήριο».Ο συνεργάτης εξωτερικής ανάθεσης του OpenAI ήταν η Sama, μια εταιρεία εκπαίδευσης δεδομένων με έδρα το Σαν Φρανσίσκο της Καλιφόρνια.
Jailbreaking
Το ChatGPT επιχειρεί να απορρίψει μηνύματα που ενδέχεται να παραβιάζουν την πολιτική περιεχομένου του.Ωστόσο, ορισμένοι χρήστες κατάφεραν να κάνουν jailbreak στο ChatGPT χρησιμοποιώντας διάφορες τεχνικές άμεσης μηχανικής για να παρακάμψουν αυτούς τους περιορισμούς στις αρχές Δεκεμβρίου 2022 και ξεγέλασαν με επιτυχία το ChatGPT για να δώσει οδηγίες για το πώς να δημιουργήσει μια βόμβα μολότοφ ή μια πυρηνική βόμβα ή να δημιουργήσει επιχειρήματα στο στυλ ενός νεοναζί.Ένας ρεπόρτερ του Toronto Star είχε άνιση προσωπική επιτυχία στο να κάνει το ChatGPT να κάνει εμπρηστικές δηλώσεις λίγο μετά την κυκλοφορία του: το ChatGPT εξαπατήθηκε για να υποστηρίξει τη ρωσική εισβολή στην Ουκρανία το 2022, αλλά ακόμα και όταν του ζητήθηκε να παίξει μαζί με ένα φανταστικό σενάριο, το ChatGPT απέφυγε να δημιουργήσει επιχειρήματα για το γιατί ο Καναδός πρωθυπουργός Τζάστιν Τρουντό ήταν ο Καναδός πρωθυπουργός.(wiki)
Ώρα δημοσίευσης: Φεβ-18-2023