Η OpenAI, η εταιρεία έρευνας τεχνητής νοημοσύνης πίσω από το ChatGPT, κυκλοφόρησε ένα νέο εργαλείο - AI Text Classifier - για να βοηθήσει στη διάκριση του κειμένου που δημιουργείται από AI από το κείμενο που δημιουργείται από τον άνθρωπο. Το εργαλείο έχει σχεδιαστεί για να βοηθά στη μείωση των ψευδών ισχυρισμών σχετικά με ανθρώπους που γράφουν περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη (AI). Σύμφωνα με την αναγγελία του OpenAI, μπορεί να περιορίσει τη δυνατότητα αυτόματης εκτέλεσης λάθη σε εκστρατείες πληροφόρησης, χρήση εργαλείων τεχνητής νοημοσύνης για τη διάπραξη ακαδημαϊκής απάτης και χρήση chatbots για πλαστοπροσωπία ανθρώπων. Αν και δεν μπορούσε να ανιχνεύσει κείμενο γραμμένο με τεχνητή νοημοσύνη με 100 τοις εκατό ακρίβεια, όταν δοκιμάστηκε σε ένα σύνολο κειμένων στην αγγλική γλώσσα, το εργαλείο έκρινε σωστά αν το κείμενο γράφτηκε από τεχνητή νοημοσύνη το 26 τοις εκατό των περιπτώσεων. Ωστόσο, πίστευε επίσης εσφαλμένα ότι το κείμενο που γράφτηκε από ανθρώπους γράφτηκε από AI το 9% των περιπτώσεων. Το OpenAI παραδέχεται ότι τα εργαλεία του λειτουργούν καλύτερα με μεγαλύτερο κείμενο· επομένως, απαιτούνται τουλάχιστον 1.000 χαρακτήρες για την εκτέλεση των δοκιμών.
Ο νέος ταξινομητής κειμένου AI του OpenAI είναι ένα ισχυρό εργαλείο, αλλά έχει ορισμένους περιορισμούς. Για παράδειγμα, μπορεί να επισημάνει λανθασμένα κείμενο που δημιουργείται από τεχνητή νοημοσύνη καθώς και κείμενο που έχει γραφτεί από ανθρώπους και οι μικροσκοπικές επεξεργασίες μπορούν να βοηθήσουν το κείμενο που δημιουργείται από την τεχνητή νοημοσύνη να αποφύγει τους ταξινομητές. Επίσης, εκπαιδεύτηκε κυρίως σε αγγλόφωνο περιεχόμενο γραμμένο από ενήλικες και μπορεί να μην είναι τόσο αξιόπιστο για κείμενο γραμμένο από παιδιά ή μη αγγλικές γλώσσες.
Για να δοκιμάσετε μόνοι σας τον ταξινομητή κειμένου OpenAI AI, μεταβείτε στη διεύθυνση platform.openai.com/ai-text-classifier, επικολλήστε το κείμενο που θέλετε να αξιολογήσετε και κάντε κλικ στην Υποβολή. Το εργαλείο θα αξιολογήσει πόσο πιθανό είναι το κείμενο να δημιουργήθηκε από τεχνητή νοημοσύνη, σε μια κλίμακα από πολύ απίθανο έως πιθανό ή ενδεχομένως ασαφές — όλα σε δευτερόλεπτα! Για να δείξω αυτό το σημείο, δοκίμασα την ικανότητα του ChatGPT να δημιουργεί ένα άρθρο σχετικά με το SEO και να το υποβάλλει αυτολεξεί σε έναν ταξινομητή· σκέφτηκε ότι το άρθρο μπορεί να είχε δημιουργηθεί από AI. Το OpenAI έχει αναπτύξει ένα εργαλείο που ονομάζεται AI Text Classifier, το οποίο στοχεύει στη διάκριση μεταξύ ανθρώπινου γραπτού κειμένου και κειμένου που δημιουργείται από AI. Τα αποτελέσματα Ιανουαρίου 2023 (https://platform.openai.com/ai-text-classifier){rel="nofollow"} απεικονίζουν τους περιορισμούς του εργαλείου, καθώς δεν μπορεί να πει με μεγάλη βεβαιότητα ότι το ChatGPT δημιούργησε κείμενο ότι είναι γραμμένο από την τεχνητή νοημοσύνη. Ωστόσο, εφαρμόζοντας τη δευτερεύουσα τροποποίηση που πρότεινε η Grammarly, μείωσα τη βαθμολογία από Ίσως σε Ασαφές. Το OpenAI επισημαίνει σωστά ότι είναι εύκολο να αποφύγει κανείς τον ταξινομητή, αλλά δεν είναι το μόνο στοιχείο που καθορίζει εάν ένα έγγραφο δημιουργήθηκε από AI (https://platform.openai.com/faq#what_is_the_intended_use_of_the_tool){rel=“nofollow” }. Η OpenAI πρόσθεσε ότι το εργαλείο δεν έχει ελεγχθεί διεξοδικά για την ανίχνευση περιεχομένου που περιέχει συνδυασμό τεχνητής νοημοσύνης και ανθρώπινου κειμένου, επομένως συνιστούν να βασίζεστε σε άλλες πηγές όταν προσδιορίζεται εάν ένα έγγραφο γράφτηκε από τεχνητή νοημοσύνη ή ανθρώπους.
Οι ταξινομητές κειμένου AI είναι ισχυρά εργαλεία για τον εντοπισμό πιθανού κειμένου που δημιουργείται από AI. Ωστόσο, είναι σημαντικό να σημειωθεί ότι οι ταξινομητές δεν πρέπει να χρησιμοποιούνται ως αποφασιστικό μέτρο για τη λήψη αποφάσεων. Αντίθετα, μπορεί να παρέχει χρήσιμες πληροφορίες για το πόσο κείμενο μπορεί να έχει παράγει ένα πρόγραμμα AI.