L'origine principale dello scetticismo verso questi strumenti deriva dalla stupefacente qualità dei testi che riescono a generare. Questi testi vengono composti senza una reale intenzione, attraverso il calcolo delle probabilità condizionali di sequenze di parole basate sul contesto dato, ma raggiungono un livello di qualità talmente elevato da renderli praticamente indistinguibili da quelli scritti da esseri umani. L'analisi si concentra sulle potenzialità e sfide poste dagli strumenti generativi di testo, mettendo da parte la dicotomia tra visioni apocalittiche e ottimistiche. Il nucleo della questione riguarda la loro abilità nel produrre testi di qualità elevata senza intenzione cosciente, basati su calcoli di probabilità. Questa capacità di generare contenuti linguisticamente validi solleva interrogativi sull'integrazione di tali tecnologie nel contesto sociale e culturale, sottolineando in particolare le implicazioni per l'educazione e la pedagogia.