Είμαι υπέρ της ΤΝ στην εκπαίδευση.
Υπέρ, υπό όρους.

Το επόμενο πρόβλημα

Μόλις πούμε «ναι», πρέπει να αποφασίσουμε ποιος πλαισιώνει τη φωνή της μηχανής.

Ένα παιδί ακούει μια στρωτή, ευγενική απάντηση και έχει κάθε λόγο να πιστέψει ότι απέναντί του υπάρχει γνώση. Η φωνή ακούγεται σίγουρη. Η σιγουριά όμως ανήκει στη μορφή της απάντησης, όχι στην αλήθεια της.

Η ερώτηση αυτή προέκυψε από μια μικρή οικογενειακή στιγμή. Ρώτησα ένα σύστημα για τον Νίκο Καζαντζάκη μπροστά στην οκτάχρονη κόρη μου. Η απάντηση ήταν ομαλή και βαθιά παραπλανητική. Εκείνη η στιγμή δεν με έκανε να φοβηθώ την ΤΝ. Μου θύμισε τι απαιτεί η εκπαίδευση: παρουσία, πλαίσιο και έναν άνθρωπο που βοηθά το παιδί να σταθεί απέναντι στη φωνή της μηχανής.

Το παιδί χρειάζεται να μάθει να ρωτά ποιος μιλά, από πού προκύπτει ένας ισχυρισμός, τι λείπει και πότε πρέπει να σταματήσει. Το σχολείο χρειάζεται να εξασφαλίζει ότι η έξοδος δεν εμφανίζεται με δανεική αυθεντία.

Ο AI Act μεταφέρει αυτή τη συζήτηση από την καλή πρόθεση στη θεσμική ευθύνη.

Ο ευρωπαϊκός κανονισμός ακολουθεί προσέγγιση βάσει κινδύνου. Ορισμένες χρήσεις στην εκπαίδευση, όπως η αξιολόγηση μαθησιακών αποτελεσμάτων ή αποφάσεις που επηρεάζουν την πρόσβαση και την εκπαιδευτική πορεία, μπορούν να ανήκουν στην κατηγορία υψηλού κινδύνου. Εκεί η ανθρώπινη εποπτεία, η τεκμηρίωση, η ιχνηλασιμότητα και η δυνατότητα παρέμβασης αποκτούν συγκεκριμένο βάρος. Παράλληλα, η υποχρέωση για AI literacy αφορά όσους λειτουργούν και χρησιμοποιούν τέτοια συστήματα μέσα στους οργανισμούς.

Το να υπάρχει ένας άνθρωπος κάπου στη διαδικασία δεν αρκεί. Πρέπει να γνωρίζει τι συνέβη, να έχει χρόνο να κρίνει και εξουσία να αλλάξει το αποτέλεσμα πριν αυτό επηρεάσει το παιδί.

Η ανθρώπινη έγκριση λύνει ένα μέρος του προβλήματος. Ανοίγει όμως ένα άλλο. Αν ολόκληρη η ροή ανήκει σε έναν πάροχο, πόσο πραγματικός είναι ο έλεγχος του σχολείου;

Το πρόβλημα που μένει κρυμμένο

Και αν η ΤΝ δεν φαίνεται καθόλου;

Ένας μαθητής μπορεί να μην ανοίξει ποτέ ένα chatbot και παρ’ όλα αυτά η εκπαιδευτική του εμπειρία να έχει διαμορφωθεί από ΤΝ.

Ένα σύστημα μπορεί να προτείνει το υλικό που θα δει, να συντάξει το feedback που θα λάβει, να ταξινομήσει μια εργασία ή να επηρεάσει μια απόφαση για υποστήριξη και πρόσβαση. Η συμμετοχή της ΤΝ συμβαίνει στο παρασκήνιο. Η συνέπειά της παραμένει πραγματική.

Εδώ χρειάζεται να εξετάσουμε δύο πράγματα μαζί. Πόσο αναγνωρίσιμη είναι η συμμετοχή της ΤΝ και πόση θεσμική ισχύ διατηρεί το αποτέλεσμά της. Η πιο ανησυχητική περίπτωση εμφανίζεται όταν η συμμετοχή είναι δύσκολο να φανεί αλλά το αποτέλεσμα επηρεάζει ουσιαστικά το παιδί.

Σε αυτή την περίπτωση, η ενημέρωση μετά το γεγονός έρχεται αργά. Χρειάζεται να γνωρίζουμε την αλυσίδα πριν η έξοδος γίνει απόφαση.

Έχουμε πλέον τον σκοπό, την ανθρώπινη κρίση, την ανεξαρτησία από τον πάροχο και την ορατότητα της επιρροής. Τώρα μπορούμε να δούμε πώς όλα αυτά γίνονται μία συγκεκριμένη παιδαγωγική ροή.

Το πρόβλημα στο οποίο επικεντρώνομαι τώρα

Η επόμενη δυσκολία εμφανίζεται όταν πρέπει να αξιολογήσουμε τη μάθηση.

Εκεί μετακινείται τώρα η έρευνά μου. Το ερώτημα που με ενδιαφέρει δεν είναι αν μια μηχανή άγγιξε το τελικό κείμενο. Με ενδιαφέρει τι έμαθε ο άνθρωπος, τι έλεγξε και τι μπορεί να υπερασπιστεί.

Η ανίχνευση ΤΝ δεν αποδεικνύει κατανόηση και δεν αποδεικνύει από μόνη της παραβίαση. Ένα τελικό κείμενο μπορεί να είναι άψογο και να μην περιέχει σχεδόν κανένα ίχνος μαθησιακής διαδικασίας. Γι’ αυτό το AI-RAW μεταφέρει το βάρος από το προϊόν στα τεκμήρια.

Μια εργασία συνδέει τον μαθησιακό στόχο με συγκεκριμένες αποδείξεις. Πηγές, επιλογές, prompts, έξοδοι, λάθη, διορθώσεις, αιτιολόγηση και προφορική μεταφορά γνώσης. Η χρήση της ΤΝ δηλώνεται μέσα στη ροή της εργασίας και όχι σε μια γενική σημείωση στο τέλος.

Η συμμετοχή της ΤΝ γίνεται σαφής πριν αρχίσει η εργασία.

Η διαδρομή επιστρέφει τελικά εκεί όπου ξεκίνησε. Στην πραγματική τάξη, στον εκπαιδευτικό και στα παιδιά που πρέπει να κάνουν κάτι ουσιαστικό με όσα παράγει η μηχανή.