Τεχνητή νοημοσύνη στα σχολεία: Τι επιτρέπεται και τι απαγορεύεται

Σαφές πλαίσιο για τη χρήση της τεχνητής νοημοσύνης στα σχολεία θέτει το νέο ΦΕΚ, το οποίο καθορίζει τους όρους, τις προϋποθέσεις, αλλά και τις απαγορεύσεις που ισχύουν στην εκπαιδευτική διαδικασία.

Η απόφαση δεν απαγορεύει συνολικά τη χρήση εργαλείων τεχνητής νοημοσύνης από μαθητές και εκπαιδευτικούς. Αντίθετα, επιτρέπει την αξιοποίησή τους, αλλά μόνο ως βοηθητικό μέσο μάθησης και διδασκαλίας, με ανθρώπινη εποπτεία, διαφάνεια και αυστηρή προστασία των προσωπικών δεδομένων.

Το νέο πλαίσιο αφορά τα σχολεία της δευτεροβάθμιας εκπαίδευσης και καλύπτει δράσεις που γίνονται στο πλαίσιο του προγράμματος σπουδών, είτε μέσα στη σχολική μονάδα είτε στο πλαίσιο της εξ αποστάσεως εκπαίδευσης. Η συμμόρφωση είναι υποχρεωτική για εκπαιδευτικούς, μαθητές, γονείς και παρόχους συστημάτων τεχνητής νοημοσύνης.

Τεχνητή νοημοσύνη στα σχολεία: Πότε επιτρέπεται η χρήση της

Η χρήση συστημάτων τεχνητής νοημοσύνης επιτρέπεται μόνο όταν έχει ως στόχο την υποστήριξη του έργου των εκπαιδευτικών και την ενίσχυση της εκπαιδευτικής διαδικασίας. Το ΦΕΚ αναφέρει ότι η τεχνητή νοημοσύνη μπορεί να συμβάλει στην αναβάθμιση των ψηφιακών δεξιοτήτων, στην εξοικείωση με τις νέες τεχνολογίες και στη δημιουργική και κριτική αξιοποίησή τους.

Τεχνητή νοημοσύνη στα σχολεία: Τι προβλέπει το νέο ΦΕΚ

Η αξιοποίηση των εργαλείων αυτών πρέπει να γίνεται με τρόπο που να μην υποκαθιστά τον μαθητή ή τον εκπαιδευτικό. Ο μαθητής παραμένει ενεργός δημιουργός της γνώσης, ενώ ο εκπαιδευτικός έχει την ευθύνη της καθοδήγησης, της εποπτείας και της αξιολόγησης του τρόπου με τον οποίο χρησιμοποιείται η τεχνητή νοημοσύνη.

Η συμμετοχή μαθητών και εκπαιδευτικών στη χρήση τέτοιων συστημάτων γίνεται αποκλειστικά σε εθελοντική βάση, μετά από σχετική ενημέρωση και εκπαίδευση. Ρητά προβλέπεται ότι τυχόν άρνηση συμμετοχής δεν επηρεάζει τη μαθητική ή υπηρεσιακή κατάσταση και την αξιολόγηση μαθητών και εκπαιδευτικών.

Τεχνητή νοημοσύνη στα σχολεία: Τι ισχύει για εξετάσεις και εργασίες

Ιδιαίτερη σημασία έχει το πλαίσιο που τίθεται για τις γραπτές εξετάσεις, τα τεστ και τα διαγωνίσματα. Η χρήση οποιουδήποτε συστήματος τεχνητής νοημοσύνης απαγορεύεται κατά τη διάρκεια αυτών των διαδικασιών, εκτός εάν ο εκπαιδευτικός έχει ορίσει ρητά ότι επιτρέπεται η ελεγχόμενη χρήση του ως μέρος της εκπαιδευτικής διαδικασίας.

Ακόμη και σε αυτή την περίπτωση, πρέπει να εξασφαλίζεται η ισοτιμία για όλους τους μαθητές. Αυτό σημαίνει ότι δεν μπορεί να επιτρέπεται η χρήση τεχνητής νοημοσύνης με τρόπο που να δίνει πλεονέκτημα σε ορισμένους μαθητές ή να αλλοιώνει τον χαρακτήρα της αξιολόγησης.

Υπουργείο Παιδείας: Η Ελλάδα πρωτοπορεί με την Τεχνητή Νοημοσύνη στα σχολεία

Για τις μαθητικές εργασίες και τα παραδοτέα, το ΦΕΚ προβλέπει ότι η χρήση τεχνητής νοημοσύνης πρέπει να ακολουθεί τις οδηγίες του εκπαιδευτικού. Δεν επιτρέπεται η παράδοση εργασιών που έχουν δημιουργηθεί εξ ολοκλήρου ή σε σημαντικό βαθμό από σύστημα τεχνητής νοημοσύνης.

Οι εργασίες πρέπει να αποτελούν αποτέλεσμα προσωπικής προσπάθειας του μαθητή, να εκφράζουν τη δική του κατανόηση και να είναι προϊόν δικής του δημιουργίας. Αν εκπαιδευτικός διαπιστώσει παραβίαση των κανόνων, μπορεί να το λάβει υπόψη στην αξιολόγηση της επίδοσης.

Τεχνητή νοημοσύνη στα σχολεία: Οι βασικές απαγορεύσεις

Το ΦΕΚ περιλαμβάνει ρητές απαγορεύσεις για τη χρήση της τεχνητής νοημοσύνης στην εκπαιδευτική διαδικασία. Απαγορεύεται απολύτως η χρήση συστημάτων τεχνητής νοημοσύνης για πράξεις που αντίκεινται στο εθνικό ή ενωσιακό δίκαιο.

Απαγορεύεται επίσης η παραγωγή ή διάδοση deepfake περιεχομένου, δηλαδή παραποιημένων εικόνων, ήχων ή βίντεο προσώπων, χωρίς ρητή συγκατάθεση. Η πρόβλεψη αυτή έχει ιδιαίτερη σημασία για την προστασία μαθητών και εκπαιδευτικών από φαινόμενα παραπλάνησης, προσβολής προσωπικότητας ή ενδοσχολικής βίας.

Στις απαγορεύσεις περιλαμβάνεται και η δημιουργία ψευδών ή ανύπαρκτων βιβλιογραφικών αναφορών, πηγών, δεδομένων ή παραπομπών. Με τον τρόπο αυτό επιχειρείται να αντιμετωπιστεί ένα από τα πιο συχνά προβλήματα της παραγωγικής τεχνητής νοημοσύνης, δηλαδή η παραγωγή πληροφοριών που εμφανίζονται ως αληθείς, χωρίς να είναι.

Παράλληλα, δεν επιτρέπεται η χωρίς άδεια ανάπτυξη, μεταβολή ή διάθεση συστημάτων τεχνητής νοημοσύνης στο πλαίσιο της εκπαιδευτικής διαδικασίας. Η χρήση τους πρέπει να γίνεται μόνο υπό τις προϋποθέσεις που ορίζονται από το ισχύον πλαίσιο.

Τεχνητή νοημοσύνη στα σχολεία: Όχι σε αυτοματοποιημένη αξιολόγηση και profiling

Ένα από τα πιο κρίσιμα σημεία του ΦΕΚ είναι η απαγόρευση της πλήρως αυτοματοποιημένης λήψης αποφάσεων για την αξιολόγηση μαθητών ή εκπαιδευτικών. Η τεχνητή νοημοσύνη δεν μπορεί να χρησιμοποιηθεί ως μηχανισμός που αποφασίζει αυτόνομα για επιδόσεις, δικαιώματα ή συνέπειες.

Η ανθρώπινη ευθύνη παραμένει κεντρική. Τα αποτελέσματα που παράγονται από συστήματα τεχνητής νοημοσύνης πρέπει να εποπτεύονται, να ελέγχονται και να αξιολογούνται από εκπαιδευτικό προσωπικό που έχει εκπαιδευτεί στη χρήση τους.

Το ΦΕΚ απαγορεύει επίσης τη δημιουργία ατομικών προφίλ μαθητών ή εκπαιδευτικών. Δεν επιτρέπεται η αξιοποίηση δεδομένων που αφορούν ή προκύπτουν από τη χρήση τεχνητής νοημοσύνης για αποφάσεις σχετικά με στοιχεία της προσωπικότητας, τη συμπεριφορά ή τα δικαιώματα των προσώπων αυτών.

Η πρόβλεψη αυτή λειτουργεί ως δικλίδα ασφαλείας απέναντι στον κίνδυνο να χρησιμοποιηθούν τα ψηφιακά ίχνη μαθητών και εκπαιδευτικών για κατηγοριοποίηση, πρόβλεψη συμπεριφορών ή λήψη αποφάσεων χωρίς ανθρώπινη κρίση.

Τεχνητή νοημοσύνη στα σχολεία: Προσωπικά δεδομένα και όρια χρήσης

Το ΦΕΚ δίνει ιδιαίτερη βαρύτητα στην προστασία των προσωπικών δεδομένων. Κατά τη χρήση συστημάτων τεχνητής νοημοσύνης από μαθητές και εκπαιδευτικούς δεν επιτρέπεται η εισαγωγή στοιχείων όπως ονοματεπώνυμο, φωτογραφίες, βίντεο, φωνητικά δείγματα, στοιχεία επικοινωνίας, αριθμοί μητρώου και βαθμολογίες.

Απαγορεύεται επίσης η εισαγωγή εκθέσεων προόδου, πειθαρχικών δεδομένων, δεδομένων υγείας, πληροφοριών για ειδικές εκπαιδευτικές ανάγκες ή πληροφοριών τρίτων χωρίς νόμιμη βάση. Επιτρέπεται μόνο η χρήση ουδέτερων, μη ταυτοποιητικών περιγραφών και συνθετικών ή ανωνυμοποιημένων δεδομένων.

Προβλέπεται ακόμη ότι τα δεδομένα που καταχωρίζονται και συλλέγονται μέσω συστήματος τεχνητής νοημοσύνης τηρούνται μόνο για όσο διάστημα είναι απολύτως αναγκαίο. Σε κάθε περίπτωση, πρέπει να διαγράφονται με ασφαλή τρόπο μετά την πάροδο τριών ετών.

Παράλληλα, οι μαθητές, οι γονείς και οι εκπαιδευτικοί πρέπει να ενημερώνονται με σαφή και κατανοητό τρόπο για τη λειτουργία του συστήματος, τα δεδομένα που επεξεργάζεται, τους σκοπούς της επεξεργασίας, τους αποδέκτες των δεδομένων, τον χρόνο διατήρησης και τα δικαιώματά τους.

Τεχνητή νοημοσύνη στα σχολεία: Το βασικό μήνυμα του νέου πλαισίου

Το νέο πλαίσιο επιχειρεί να βάλει κανόνες σε μια τεχνολογία που ήδη επηρεάζει την εκπαιδευτική πραγματικότητα. Η τεχνητή νοημοσύνη μπορεί να αξιοποιηθεί στο σχολείο, αλλά όχι ανεξέλεγκτα και όχι ως υποκατάστατο της μάθησης, της σκέψης και της προσωπικής προσπάθειας.

Το ΦΕΚ κινείται στη λογική της ελεγχόμενης και υπεύθυνης χρήσης. Δίνει χώρο στην αξιοποίηση νέων εργαλείων, αλλά θέτει όρια στις εξετάσεις, στις εργασίες, στην αξιολόγηση, στα προσωπικά δεδομένα και στη δημιουργία παραπλανητικού περιεχομένου.

Στην πράξη, το μήνυμα είναι ότι η τεχνητή νοημοσύνη μπορεί να μπει στο σχολείο μόνο ως εργαλείο υποστήριξης και όχι ως μηχανισμός αντικατάστασης του μαθητή ή του εκπαιδευτικού. Η τελική ευθύνη παραμένει στον άνθρωπο, ενώ η προστασία των μαθητών και η διαφάνεια αποτελούν βασικές προϋποθέσεις για κάθε χρήση.