Τεχνητή νοημοσύνη στα σχολεία: Τι προβλέπει το νέο ΦΕΚ

Η τεχνητή νοημοσύνη μπαίνει σε νέο θεσμικό πλαίσιο για τη δευτεροβάθμια εκπαίδευση, με απόφαση των υπουργείων Παιδείας, Θρησκευμάτων και Αθλητισμού και Ψηφιακής Διακυβέρνησης. Το ΦΕΚ καθορίζει τους όρους χρήσης συστημάτων ΤΝ στην εκπαιδευτική διαδικασία, με έμφαση στην ασφάλεια, τη διαφάνεια, την προστασία προσωπικών δεδομένων και τη δεοντολογική αξιοποίηση των εργαλείων.

Η απόφαση εφαρμόζεται σε όλα τα σχολεία δευτεροβάθμιας εκπαίδευσης της χώρας και αφορά δράσεις ή προγράμματα που υλοποιούνται στο πλαίσιο του προγράμματος σπουδών, είτε μέσα στη σχολική μονάδα είτε στην εξ αποστάσεως εκπαίδευση. Η χρήση των συστημάτων ΤΝ γίνεται αποκλειστικά σε εθελοντική βάση, μετά από ειδική εκπαίδευση και ενημέρωση.

Ο σκοπός του νέου πλαισίου

Το νέο πλαίσιο έχει ως βασικό στόχο την ασφαλή, διαφανή και υπεύθυνη χρήση της τεχνητής νοημοσύνης από εκπαιδευτικούς και μαθητές. Η χρήση της προβλέπεται ως εργαλείο που υποβοηθά το έργο των εκπαιδευτικών και ενισχύει την εκπαιδευτική διαδικασία.

Παράλληλα, δίνεται ιδιαίτερη βαρύτητα στην προστασία των δεδομένων προσωπικού χαρακτήρα, στην πρόληψη κινδύνων παραπληροφόρησης, αλγοριθμικής μεροληψίας και διάχυσης επιβλαβούς περιεχομένου. Στόχος είναι επίσης η αποτροπή της αθέμιτης υποκατάστασης της προσωπικής προσπάθειας των μαθητών.

Σήμα κινδύνου για σχολεία: Ερώτηση στη Βουλή για τα κτηριακά προβλήματα

Η χρήση της ΤΝ σε εξετάσεις και εργασίες

Η χρήση οποιουδήποτε συστήματος τεχνητής νοημοσύνης απαγορεύεται κατά τη διάρκεια γραπτών εξετάσεων, δοκιμασιών αξιολόγησης και διαγωνισμάτων. Εξαίρεση μπορεί να υπάρξει μόνο αν ο εκπαιδευτικός ορίσει ρητά ότι επιτρέπεται ελεγχόμενη χρήση της ΤΝ ως μέρος της εκπαιδευτικής διαδικασίας.

Στις μαθητικές εργασίες, η χρήση συστημάτων ΤΝ πρέπει να ακολουθεί τις οδηγίες του εκπαιδευτικού. Δεν επιτρέπεται η παραγωγή εργασιών ή άλλων παραδοτέων που έχουν δημιουργηθεί εξ ολοκλήρου ή σε σημαντικό βαθμό από σύστημα τεχνητής νοημοσύνης.

Το ΦΕΚ προβλέπει ότι οι εργασίες πρέπει να αποτελούν αποτέλεσμα της προσωπικής προσπάθειας του μαθητή, να είναι δική του δημιουργία και να εκφράζουν τη δική του κατανόηση. Αν εκπαιδευτικός διαπιστώσει χρήση ΤΝ κατά παράβαση των κανόνων, το λαμβάνει υπόψη στην αξιολόγηση της επίδοσης.

Ανακοινώθηκαν τα αποτελέσματα για Πρότυπα Σχολεία, τα Δημόσια Ωνάσεια Σχολεία, τα Πρότυπα Εκκλησιαστικά Σχολεία

Τι απαγορεύεται ρητά

Η απόφαση απαγορεύει τη χρήση συστημάτων τεχνητής νοημοσύνης για πράξεις που αντίκεινται στο εθνικό ή ενωσιακό δίκαιο. Μια τέτοια χρήση θεωρείται μη σύννομη και συνεπάγεται τις προβλεπόμενες κυρώσεις.

Απαγορεύεται επίσης η παραγωγή ή διάδοση εικόνων, ήχων ή βίντεο προσώπων με τεχνικές παραποίησης ή κατασκευής περιεχομένου που μπορεί να παραπλανήσει, χωρίς ρητή συγκατάθεση. Στις απαγορεύσεις περιλαμβάνεται και η δημιουργία ψευδών ή ανύπαρκτων βιβλιογραφικών αναφορών, πηγών, δεδομένων ή παραπομπών.

Επιπλέον, δεν επιτρέπεται η άνευ αδείας ανάπτυξη, μεταβολή ή διάθεση συστημάτων τεχνητής νοημοσύνης. Με αυτόν τον τρόπο επιχειρείται να τεθεί σαφές όριο ανάμεσα στη νόμιμη εκπαιδευτική χρήση και σε πρακτικές που μπορούν να δημιουργήσουν κινδύνους.

Προστασία προσωπικών δεδομένων

Η απόφαση προβλέπει ότι τα δεδομένα προσωπικού χαρακτήρα που υποβάλλονται σε επεξεργασία πρέπει να περιορίζονται στα απολύτως απαραίτητα. Αφορούν μαθητές δημοσίων σχολείων δευτεροβάθμιας εκπαίδευσης που εκδηλώνουν ενδιαφέρον συμμετοχής, γονείς ή κηδεμόνες και εκπαιδευτικούς που συμμετέχουν.

Οι κατηγορίες δεδομένων περιλαμβάνουν όνομα, επώνυμο, διεύθυνση ηλεκτρονικού ταχυδρομείου που έχει καταχωριστεί στο Πανελλήνιο Σχολικό Δίκτυο, καθώς και πιθανά δεδομένα ή μεταδεδομένα που προκύπτουν κατά την αυθεντικοποίηση και τη χρήση του συστήματος.

Κατά τη χρήση συστημάτων ΤΝ δεν επιτρέπεται η εισαγωγή ονοματεπωνύμου, φωτογραφίας, βίντεο, φωνητικών δειγμάτων, στοιχείων επικοινωνίας, αριθμών μητρώου, βαθμολογιών, εκθέσεων προόδου, πειθαρχικών δεδομένων, δεδομένων υγείας ή ειδικών εκπαιδευτικών αναγκών. Επιτρέπονται μόνο ουδέτερες, μη ταυτοποιητικές περιγραφές και ανωνυμοποιημένα ή συνθετικά δεδομένα.

Πώς θα γίνεται η πρόσβαση στα συστήματα

Η είσοδος και χρήση εφαρμογών τεχνητής νοημοσύνης από εκπαιδευτικούς και μαθητές θα γίνεται, όπου αυτό υποστηρίζεται, μέσω αυθεντικοποίησης από το Πανελλήνιο Σχολικό Δίκτυο. Η πρόσβαση αφορά μαθητές και εκπαιδευτικούς δημοσίων σχολικών μονάδων δευτεροβάθμιας εκπαίδευσης που συμμετέχουν στο εκάστοτε πρόγραμμα.

Σε κάθε σχολική μονάδα όπου αξιοποιείται σύστημα ΤΝ ορίζεται εκπαιδευτικός ως υπεύθυνος για τον συντονισμό και την παρακολούθηση της εφαρμογής. Ο ορισμός γίνεται με απόφαση του διευθυντή ή του προϊσταμένου, ή του αρμόδιου οργάνου στις περιπτώσεις Πρότυπων, Πειραματικών και Δημόσιων Ωνάσειων Σχολείων.

Ενημέρωση και επιμόρφωση της σχολικής κοινότητας

Οι μαθητές, οι γονείς ή κηδεμόνες και οι εκπαιδευτικοί πρέπει να ενημερώνονται με σαφή και κατανοητό τρόπο για τη λειτουργία των συστημάτων ΤΝ. Η ενημέρωση περιλαμβάνει τον σκοπό και τη νομική βάση της επεξεργασίας, τα δεδομένα που χρησιμοποιούνται, τους αποδέκτες, τον χρόνο διατήρησης και τα δικαιώματα των υποκειμένων.

Κάθε σχολική μονάδα οργανώνει τουλάχιστον μία δράση ενημέρωσης μαθητών ή και γονέων ανά σχολικό έτος. Προβλέπεται επίσης επιμόρφωση εκπαιδευτικών ανά γνωστικό αντικείμενο, με αντικείμενο τη χρήση συστημάτων τεχνητής νοημοσύνης.

Η επιμόρφωση καλύπτει βασικές αρχές λειτουργίας της ΤΝ και της παραγωγικής ΤΝ, κινδύνους και τρόπους αποτροπής τους, περιορισμούς, αλγοριθμικές μεροληψίες, τεχνικές προτροπής και επαλήθευσης, κανόνες προστασίας ανηλίκων και διαδικασία αναφοράς περιστατικών.

Ασφάλεια, περιστατικά και διαγραφή δεδομένων

Η χρήση συστημάτων τεχνητής νοημοσύνης πρέπει να οργανώνεται με τρόπο που δεν βλάπτει την ψυχική υγεία, την ασφάλεια ή την κοινωνική ένταξη των μαθητών. Στο ΦΕΚ συνιστάται η αποφυγή υπέρμετρης εξάρτησης από αυτοματοποιημένη βοήθεια.

Σε περίπτωση ακούσιας ή μη εξουσιοδοτημένης κοινοποίησης δεδομένων ή έκθεσης σε επιβλαβές περιεχόμενο, προβλέπεται άμεση διαδικασία διαχείρισης περιστατικού. Αυτή περιλαμβάνει ενημέρωση εκπαιδευτικού και διευθυντή, καταγραφή βασικών στοιχείων, αξιολόγηση κινδύνου, ενημέρωση γονέων ή κηδεμόνων, ενημέρωση της αρμόδιας Διεύθυνσης Εκπαίδευσης και, όπου απαιτείται, ενημέρωση των αρμόδιων αρχών εντός 72 ωρών.

Τα δεδομένα που καταχωρίζονται και συλλέγονται μέσω συστημάτων ΤΝ διατηρούνται μόνο για όσο διάστημα είναι απολύτως αναγκαίο. Σε κάθε περίπτωση, διαγράφονται με ασφαλή τρόπο μετά την πάροδο τριών ετών, ενώ η επεξεργασία μεταδεδομένων επιτρέπεται αποκλειστικά για ερευνητικούς ή στατιστικούς σκοπούς και μόνο με πλήρη ανωνυμοποίηση.