Come capire se uno studente o un dipendente sta utilizzando ChatGPT di OpenAI per completare un compito? Questo articolo ti darà tutti gli strumenti per capirlo!
Il 30 novembre 2022, OpenAI ha rilasciato il sistema AI "ChatGPT" (https://openai.com/blog/chatgpt/), che è un assistente universale alla scrittura che può generare una varietà di risultati, inclusi i compiti scolastici. L'output (ad esempio, saggi, frasi, email, codici, etc... ) fornito da ChatGPT è così buono, che se fossi uno studente, userei ChatGPT per completare la maggior parte dei miei compiti scolastici con piccole revisioni.
Ciò si traduce in un dilemma per i professori e gli insegnati, perchè è molto difficile capire se è lo studente che ha scritto il saggio o se l ha scritto ChatGPT. Avrebbero bisogno di una sorta di strumento per verificarlo.
Ad esempio, se l'insegnante assegna i compiti sull'importanza della Dottrina Monore, uno studente può utilizzare ChatGPT per scrivere un saggio sulla Dottrina Monroe:
OUTPUT CHATGPT
La Dottrina Monroe era una dichiarazione di politica estera rilasciata dal presidente James Monroe nel 1823. Dichiarava che gli Stati Uniti non avrebbero interferito negli affari dei colonizzatori europei e che qualsiasi tentativo da parte delle potenze europee di colonizzare o interferire con stati indipendenti nelle Americhe avrebbe essere visto come una minaccia per gli Stati Uniti.La buona notizia è che OpenAI è consapevole delle preoccupazioni espresse dagli educatori e ha pubblicato Considerazioni per insegnanti su ChatGPT . Inoltre, sono attualmente disponibili strumenti per rilevare se il testo è stato generato dall'intelligenza artificiale.
Classificatore di testo AI OpenAI
Demo del rivelatore di output su OpenAI GPT-2
GPTZeroX di Edward Tian (Università di Princeton)
DetectGPT della Stanford University
Potresti voler utilizzare tutti e quattro gli strumenti per rilevare se il testo è stato generato dall'intelligenza artificiale poiché nessuno di questi strumenti è accurato al 100%.
Ma prima di vedere tutti i siti o software che puoi usare per capire se un testo è stato scritto da un umano o no vediamo cosa può portare fare compiti con l' IA.
Come rilevare testo generato da Intelligenze Artificiali IA?
Ci sono diverse tecniche per rilevare il testo generato da un'IA, come l'utilizzo di software di controllo del plagio IA ( Che vedremo tra poco ) o l'analisi delle proprietà linguistiche del testo. Ad esempio, il software di controllo del plagio può identificare se il testo presenta somiglianze con altre fonti presenti in rete. D'altro canto, l'analisi delle proprietà linguistiche del testo può aiutare a individuare tracce di linguaggio innaturali che sono tipiche della scrittura generata da un'IA. In entrambi i casi, è importante utilizzare queste tecniche con cautela e considerare anche altri fattori, come lo stile unico di scrittura di uno studente, prima di giungere a conclusioni definitive.
Conseguenze per gli studenti che utilizzano l'IA
L'utilizzo di ChatGPT o di qualsiasi altra forma di intelligenza artificiale per completare i compiti scolastici può avere conseguenze negative per gli studenti. In primo luogo, la mancanza di sviluppo delle competenze di scrittura autentiche può rendere gli studenti meno preparati per il mondo del lavoro. In secondo luogo, se gli studenti vengono scoperti a utilizzare l'intelligenza artificiale per completare i compiti, possono essere sanzionati o anche espulsi. Questo può avere un impatto negativo sulla loro carriera scolastica e professionale.
Prevenire l'uso improprio dell'intelligenza artificiale
Gli insegnanti possono prevenire l'uso improprio dell'intelligenza artificiale adottando alcune misure. Ad esempio, possono incoraggiare lo sviluppo di competenze di scrittura autentiche attraverso l'assegnazione di compiti creativi e originali. Inoltre, possono utilizzare tecnologie di rilevamento del plagio per individuare eventuali casi di utilizzo improprio dell'intelligenza artificiale. E noi vi daremo tutti gli strumenti! NON UNO SOLO!
Come rilevare testo generato da IA : tool 1
Classificatore di testo AI OpenAI
OpenAI ha rilasciato AI Text Classifier il 31 gennaio 2023. AI Text Classifier è un modello GPT ottimizzato che prevede quanto è probabile che un pezzo di testo sia stato generato dall'intelligenza artificiale da una varietà di fonti, come ChatGPT.
Puoi accedere a AI Text Classifier navigando su https://platform.openai.com/ai-text-classifier e accedendo al sito Web utilizzando il tuo account OpenAI ChatGPT. Per dimostrare lo strumento, ho copiato e incollato il saggio sopra e un po' di più, poiché richiede più di 1.000 caratteri, come mostrato di seguito:
Lo strumento ha determinato che questo testo è stato probabilmente generato dall'intelligenza artificiale. Anche se sconsigliano d'immettere il testo direttamente in italiano noi ci abbiamo provato e funziona abbastanza bene.
Come rilevare testo generato da IA : tool 2
Demo del rivelatore di output su OpenAI GPT-2
Lo strumento di OpenAI è ospitato su Hugging Face e si chiama GPT-2 Output Detector Demo che è stato sviluppato da OpenAI (vedi i dettagli qui => https://huggingface.co/roberta-base-openai-detector ).
Puoi accedere alla demo del rilevatore di output GPT-2 navigando su https://huggingface.co/openai-detector . Per dimostrare lo strumento, ho copiato e incollato il saggio sopra, come mostrato di seguito:
Lo strumento ha determinato che esiste una probabilità del 99,61% che questo testo sia stato generato utilizzando OpenAI GPT.
Come rilevare testo generato da IA : tool 3
GPTZeroX
Edward Tian (Princeton) ha aggiornato uno strumento a GPTZeroX ( http://gptzero.me/ ) il 29 gennaio 2023; precedentemente rilasciato il 2 gennaio 2023 come GPTZero. Lo strumento cerca sia "perplessità" che "esplosione". La perplessità misura la probabilità che ogni parola venga suggerita da un bot; un essere umano sarebbe più casuale. Burstiness misura i picchi nella perplessità di ogni frase. Un bot avrà probabilmente un grado di perplessità simile da frase a frase, ma è probabile che un essere umano scriva con punte, forse una frase lunga e complessa seguita da una più breve.
Puoi accedere a GPTZeroX navigando su http://gptzero.me/ . Per dimostrare lo strumento, ho copiato e incollato il saggio sopra e un po' di più come mostrato di seguito:
Lo strumento ha determinato che questo testo è stato probabilmente generato dall'intelligenza artificiale. Inoltre, GPTZeroX fornisce sia Perplexity Score che Burstiness Score.
Come rilevare testo generato da IA : tool 4
DetectGPT
La Stanford University ha rilasciato DetectGPT ( https://detectgpt.ericmitchell.ai/ ) il 31 gennaio 2023. DetectGPT è un metodo generico per utilizzare un modello linguistico per rilevare le proprie generazioni; tuttavia, questa prova di concetto rileva solo se una particolare parte di testo proviene da GPT-2 . I rilevamenti su campioni di altri modelli possono essere particolarmente inaffidabili. Potremmo aggiungere modelli più grandi come GPT-J (6B), GPT-NeoX (20B) o GPT-3 (175B) in futuro; eseguiamo valutazioni con questi e altri modelli nel nostro documento per il sito Web DetectGPT.
Puoi accedere a DetectGPT navigando su https://detectgpt.ericmitchell.ai/ . Per dimostrare lo strumento, ho copiato e incollato il saggio sopra e un po' di più come mostrato di seguito:
Tieni presente che ho dovuto mantenere il testo sotto le 200 parole, in modo da non surriscaldare le loro GPU per sito web.
Lo strumento ha determinato che è probabile che questo testo provenga da GPT-2. Inoltre, DetectGPT fornisce testi perturbati.
Altri strumenti per rilevare l'output di chat gpt
Esistono altri due strumenti per rilevare se il testo è stato generato dall'intelligenza artificiale, che non ho provato:
Vai a provare tutti e quattro gli strumenti!
Si prega di notare che questi strumenti, come tutto in AI, hanno un'alta probabilità di rilevare l'output di testo generato dall'IA, ma non al 100% come attribuito da George EP Box "Tutti i modelli sono sbagliati, ma alcuni sono utili".
Risorse per rilevare l'output di testi generati dall' IA compresa CHAT GPT
Di seguito è riportato un elenco delle risorse utilizzate o a cui si fa riferimento in questo tutorial:
.png)
