GovTech: τα δεδομένα, ο έλεγχος που λείπει πριν από την τεχνητή νοημοσύνη στο Δημόσιο

Σε άρθρο γνώμης στο αμερικανικό Government Technology («The AI Readiness Gap Almost No One's Auditing», 4 Νοεμβρίου 2026), ο Sumanth Kumar Gadde, στέλεχος με εμπειρία σε έργα μετασχηματισμού στον δημόσιο και τον ιδιωτικό τομέα, επισημαίνει ένα κενό στην προετοιμασία των δημόσιων φορέων για την τεχνητή νοημοσύνη. Πριν από την έναρξη ενός συστήματος ελέγχονται συνήθως ο προμηθευτής, η ασφάλεια και η εκπαίδευση του προσωπικού, σπάνια όμως τα δεδομένα από τα οποία θα «μάθει». Δεδομένα επαρκή για τη συνήθη λειτουργία μιας υπηρεσίας μπορεί να μην επαρκούν για ένα μοντέλο που παίρνει χιλιάδες αυτοματοποιημένες αποφάσεις την ημέρα, καθώς η αυτοματοποίηση πολλαπλασιάζει τα λάθη.

Ως παράδειγμα αναφέρει το αυτοματοποιημένο σύστημα εντοπισμού απάτης στα επιδόματα ανεργίας του Μίσιγκαν: εσωτερική εξέταση πάνω από 20.000 αποφάσεων βρήκε ποσοστό λάθους 93%. Όπως σημειώνει, δεν επρόκειτο για σύγχρονη τεχνητή νοημοσύνη, το δίδαγμα όμως ισχύει.

Ο αρθρογράφος προτείνει τρεις ελέγχους πριν από τη λειτουργία:

• έλεγχο πηγών: ποιος έχει την ευθύνη κάθε συνόλου δεδομένων, από πού προέρχεται, πότε επαληθεύτηκε τελευταία και πώς επιλύονται οι αντιφάσεις μεταξύ συστημάτων,
• έλεγχο στόχου: αν αυτό που προβλέπει το μοντέλο μετρά πράγματι τον σκοπό της υπηρεσίας, αν τα σφάλματα διαφέρουν ανά πληθυσμιακή ομάδα και αν υπάρχουν έμμεσοι δείκτες προστατευόμενων χαρακτηριστικών, όπως ο ταχυδρομικός κώδικας,
• έλεγχο δικλίδων: ουσιαστικό ανθρώπινο έλεγχο με πραγματική αρμοδιότητα σε αποφάσεις όπως οι απορρίψεις επιδομάτων, δυνατότητα αμφισβήτησης από τους πολίτες και υπεύθυνο για την παρακολούθηση της απόδοσης.

Προτείνει ο έλεγχος δεδομένων να γίνει τυπική προϋπόθεση κάθε έργου τεχνητής νοημοσύνης, όπως ο έλεγχος ασφαλείας, ξεκινώντας από τις εφαρμογές όπου ένα λάθος βλάπτει περισσότερο τους πολίτες.