54.500 δημόσιοι υπάλληλοι χαρακτηρίστηκαν αρχικά «υψηλής απόδοσης» και μετά μπήκαν στο «κόσκινο» της Τεχνητής Νοημοσύνης – Λιγότεροι από 4.500 παρέμειναν στην κατηγορία – Σοβαρά ερωτήματα για τη νομιμότητα, τη διαφάνεια και τα δικαιώματα των εργαζομένων
Μια υπόθεση που ανοίγει πολύ μεγαλύτερη συζήτηση από αυτήν της ίδιας της αξιολόγησης των δημοσίων υπαλλήλων βρίσκεται πλέον ενώπιον της Εθνικής Αρχής Διαφάνειας.
Το ερώτημα που τίθεται είναι απλό αλλά εξαιρετικά σοβαρό:
Μπορεί η Τεχνητή Νοημοσύνη να λειτουργεί ως φίλτρο που επηρεάζει την αξιολόγηση ενός δημοσίου υπαλλήλου και, αν ναι, με ποιους κανόνες, ποιες εγγυήσεις και ποια δικαιώματα ενημέρωσης και αμφισβήτησης;
Η Homo Digitalis, το Ινστιτούτο Έρευνας Ρυθμιστικών Πολιτικών (ΙΝΕΡΠ) και δημόσια υπάλληλος προσέφυγαν στην Εθνική Αρχή Διαφάνειας ζητώντας να διερευνηθεί αν το υπουργείο Εσωτερικών τήρησε τις προβλεπόμενες νομικές υποχρεώσεις κατά τη χρήση συστήματος Τεχνητής Νοημοσύνης στην αξιολόγηση δημοσίων υπαλλήλων.
Και εδώ αρχίζουν τα δύσκολα.
Από 54.500 «υψηλής απόδοσης» σε λιγότερους από 4.500
Σύμφωνα με τα στοιχεία που έχουν δημοσιοποιηθεί, κατά την αξιολόγηση του 2023 περίπου 54.500 δημόσιοι υπάλληλοι είχαν αρχικά χαρακτηριστεί από τους προϊσταμένους τους ως «υψηλής απόδοσης».
Στη συνέχεια, όμως, τα δεδομένα αυτής της αξιολόγησης εξετάστηκαν με τη χρήση εργαλείου Τεχνητής Νοημοσύνης.
Το αποτέλεσμα ήταν εντυπωσιακό.
Ο αριθμός των υπαλλήλων που τελικά τεκμηρίωναν την κατηγορία «υψηλής απόδοσης» περιορίστηκε σε λιγότερους από 4.500, ενώ περίπου 1.329 υπάλληλοι κατατάχθηκαν ως χαμηλής απόδοσης, σύμφωνα με την καταγγελία.
Δηλαδή, ένα τεράστιο ποσοστό όσων είχαν αρχικά λάβει θετική αξιολόγηση δεν παρέμεινε στην αντίστοιχη κατηγορία μετά τον έλεγχο.
Και κάπου εδώ η συζήτηση παύει να είναι τεχνολογική.
Γίνεται θεσμική.
Ποιος αξιολογεί τελικά τον δημόσιο υπάλληλο;
Για χρόνια η αξιολόγηση στο Δημόσιο ήταν υπόθεση ανθρώπων.
Προϊστάμενοι, αξιολογητές, υπηρεσιακά όργανα και συγκεκριμένα κριτήρια.
Τώρα μπαίνει στο κάδρο και η Τεχνητή Νοημοσύνη.
Το πρόβλημα δεν είναι ότι χρησιμοποιείται τεχνολογία.
Η τεχνολογία μπορεί να βοηθήσει στον εντοπισμό ασυνεπειών, στην επεξεργασία μεγάλου όγκου δεδομένων και στην υποστήριξη της διοίκησης.
Το κρίσιμο ερώτημα είναι άλλο:
Όταν ένας αλγόριθμος αλλάζει το αποτέλεσμα μιας αξιολόγησης εργαζομένου, ποιος αναλαμβάνει την ευθύνη για το τελικό αποτέλεσμα;
Και ακόμη:
Μπορεί ο εργαζόμενος να γνωρίζει γιατί «κόπηκε»;
Μπορεί να αμφισβητήσει την απόφαση;
Μπορεί να ελέγξει τα δεδομένα που χρησιμοποιήθηκαν;
Μπορεί να γνωρίζει ποια ακριβώς κριτήρια εφαρμόστηκαν;
Αυτά είναι τα ερωτήματα που η καταγγελία ζητά να απαντηθούν.
Το νομικό ζήτημα που βάζουν οι καταγγέλλοντες
Η καταγγελία επικαλείται τον Ν. 4961/2022, ο οποίος περιλαμβάνει πλαίσιο για τη χρήση συστημάτων Τεχνητής Νοημοσύνης.
Σύμφωνα με τους καταγγέλλοντες, όταν συστήματα ΤΝ χρησιμοποιούνται από το Δημόσιο για αποφάσεις που επηρεάζουν δικαιώματα πολιτών ή εργαζομένων, απαιτούνται συγκεκριμένες νομικές προϋποθέσεις και εγγυήσεις.
Το βασικό επιχείρημά τους είναι ότι δεν υπάρχει ειδική νομοθετική πρόβλεψη που να επιτρέπει τη συγκεκριμένη χρήση του συστήματος στην αξιολόγηση των δημοσίων υπαλλήλων, όπως υποστηρίζουν.
Παράλληλα, υποστηρίζουν ότι δεν φαίνεται να έχουν δημοσιευθεί οι απαιτούμενες πληροφορίες διαφάνειας και η προβλεπόμενη αξιολόγηση αντικτύπου.
Αν αυτά επιβεβαιωθούν από την έρευνα των αρμόδιων αρχών, τότε δεν θα μιλάμε απλώς για ένα «καινούργιο εργαλείο αξιολόγησης».
Θα μιλάμε για σοβαρό ζήτημα νομιμότητας της ίδιας της διαδικασίας.
Το πιο κρίσιμο ερώτημα: Ενημερώθηκαν οι εργαζόμενοι;
Εδώ βρίσκεται ίσως το πιο ευαίσθητο σημείο.
Ένας δημόσιος υπάλληλος που αξιολογείται δεν είναι παράλογο να ζητά να γνωρίζει με ποια διαδικασία αξιολογήθηκε.
Εάν ένας αλγόριθμος επηρεάζει την τελική κρίση, τότε η ενημέρωση δεν μπορεί να είναι μια γενικόλογη αναφορά ότι «χρησιμοποιήθηκε Τεχνητή Νοημοσύνη».
Χρειάζεται να είναι σαφές:
- ποια δεδομένα χρησιμοποιήθηκαν,
- ποια κριτήρια εφαρμόστηκαν,
- ποιος ήταν ο ρόλος του συστήματος,
- αν η απόφαση ήταν αποκλειστικά ανθρώπινη ή υποβοηθήθηκε από αλγόριθμο,
- ποιος είχε την τελική ευθύνη,
- πώς μπορεί ο εργαζόμενος να αμφισβητήσει το αποτέλεσμα.
Οι καταγγέλλοντες υποστηρίζουν ότι δεν είναι γνωστό αν οι δημόσιοι υπάλληλοι ενημερώθηκαν με σαφή τρόπο για το πώς το σύστημα ΤΝ επηρέασε την αξιολόγησή τους.
Και όλα αυτά την ώρα που η αξιολόγηση αποκτά μεγαλύτερη σημασία
Η χρονική συγκυρία κάνει την υπόθεση ακόμη πιο ενδιαφέρουσα.
Η αξιολόγηση των δημοσίων υπαλλήλων δεν αποτελεί πλέον μια τυπική διαδικασία που απλώς καταγράφεται σε έναν υπηρεσιακό φάκελο.
Το υπουργείο Εσωτερικών προωθεί αλλαγές που συνδέουν περισσότερο την αξιολόγηση με την υπηρεσιακή εξέλιξη και την επιλογή προϊσταμένων.
Επομένως, το ποιος θα χαρακτηριστεί «υψηλής απόδοσης» μπορεί να αποκτήσει πολύ μεγαλύτερη σημασία.
Και εδώ προκύπτει ένα παράδοξο:
Αν η κατηγορία «υψηλής απόδοσης» αποτελεί προϋπόθεση για την περαιτέρω υπηρεσιακή εξέλιξη, τότε το πώς δημιουργείται αυτή η κατηγορία δεν είναι τεχνική λεπτομέρεια.
Είναι ζήτημα επαγγελματικής πορείας.
Από την αξιολόγηση στον «αλγοριθμικό προϊστάμενο»;
Το υπουργείο έχει ήδη παρουσιάσει την Τεχνητή Νοημοσύνη ως εργαλείο υποστήριξης της διοίκησης.
Η ίδια η υφυπουργός Εσωτερικών Βιβή Χαραλαμπογιάννη έχει αναφερθεί στη χρήση ψηφιακού βοηθού στην αξιολόγηση και στη στοχοθεσία, υποστηρίζοντας ότι η αξιοποίηση της AI μπορεί να συμβάλει στην αντικειμενικότερη αποτίμηση της απόδοσης.
Όμως υπάρχει μια λεπτή γραμμή.
Άλλο «η Τεχνητή Νοημοσύνη βοηθά τον προϊστάμενο».
Και άλλο:
«η Τεχνητή Νοημοσύνη κρίνει ότι η αξιολόγηση του προϊσταμένου δεν είναι επαρκώς τεκμηριωμένη».
Στη δεύτερη περίπτωση, η τεχνολογία αποκτά πολύ μεγαλύτερη επιρροή στην υπηρεσιακή ζωή του εργαζομένου.
Η AI μπορεί να εντοπίζει λάθη. Δεν μπορεί όμως να γίνει «μαύρο κουτί»
Κανείς δεν υποστηρίζει σοβαρά ότι το Δημόσιο πρέπει να μείνει έξω από την τεχνολογική εξέλιξη.
Το αντίθετο.
Η αξιοποίηση της Τεχνητής Νοημοσύνης μπορεί να βοηθήσει τη δημόσια διοίκηση να λειτουργήσει αποτελεσματικότερα.
Όμως, όταν η τεχνολογία χρησιμοποιείται για να κρίνει την απόδοση ενός εργαζομένου, απαιτείται πολύ μεγαλύτερη διαφάνεια.
Γιατί ο δημόσιος υπάλληλος δεν μπορεί να βρίσκεται απέναντι σε ένα ψηφιακό «μαύρο κουτί» που του λέει:
«Δεν είσαι υψηλής απόδοσης».
Και όταν ρωτά:
«Γιατί;»
να μην μπορεί να πάρει μια συγκεκριμένη, ελέγξιμη απάντηση.
Τώρα τον λόγο έχει η Εθνική Αρχή Διαφάνειας
Η καταγγελία βρίσκεται πλέον ενώπιον της Εθνικής Αρχής Διαφάνειας, η οποία καλείται να εξετάσει αν τηρήθηκε το ισχύον θεσμικό πλαίσιο.
Και η έρευνα αυτή έχει σημασία πολύ πέρα από τους περίπου 54.500 υπαλλήλους που βρέθηκαν στο συγκεκριμένο φίλτρο.
Γιατί αν η Τεχνητή Νοημοσύνη πρόκειται να αποκτήσει ολοένα και μεγαλύτερο ρόλο στο Δημόσιο, τότε πρέπει να ξεκαθαριστούν από τώρα οι κανόνες.
Ποιος αποφασίζει;
Ποιος ελέγχει τον αλγόριθμο;
Ποιος ελέγχει τα δεδομένα;
Ποιος ενημερώνει τον εργαζόμενο;
Ποιος διορθώνει το λάθος;
Και κυρίως:
Ποιος έχει την τελική ευθύνη όταν η «έξυπνη» μηχανή κάνει λάθος;
Γιατί η ψηφιοποίηση του Δημοσίου μπορεί να είναι πραγματική μεταρρύθμιση.
Η αντικατάσταση όμως της ανθρώπινης κρίσης από έναν αλγόριθμο χωρίς διαφάνεια και δυνατότητα ελέγχου θα ήταν κάτι εντελώς διαφορετικό.
Και αυτό ακριβώς είναι που πλέον καλούνται να ξεκαθαρίσουν οι αρμόδιες αρχές.
