Επιστροφή χρημάτων από τη Deloitte μετά τη χρήση Τεχνητής Νοημοσύνης σε έκθεση αξίας 440.000 δολαρίων

Η Deloitte θα επιστρέψει μέρος των χρημάτων στην κυβέρνηση της Αυστραλίας για μια έκθεση αξίας 440.000 δολαρίων που περιείχε αρκετά λάθη, αφού παραδέχτηκε ότι χρησιμοποίησε γενετική τεχνητή νοημοσύνη για την εκπόνησή της.

Το Υπουργείο Απασχόλησης και Εργασιακών Σχέσεων (DEWR) επιβεβαίωσε ότι η Deloitte θα επιστρέψει την τελευταία δόση των χρημάτων βάσει της σύμβασης, η οποία θα δημοσιοποιηθεί μετά την ολοκλήρωση της συναλλαγής, καθώς ένας γερουσιαστής κατηγόρησε την συμβουλευτική εταιρεία ότι έχει «πρόβλημα ανθρώπινης νοημοσύνης».

Πιο συγκεκριμένα, τον Δεκέμβριο του 2024 είχε ανατεθεί στη συμβουλευτική εταιρεία Deloitte να επανεξετάσει το στοχευμένο πλαίσιο συμμόρφωσης και το σύστημα πληροφορικής που χρησιμοποιείται για την αυτοματοποίηση των κυρώσεων στο σύστημα κοινωνικής πρόνοιας σε περίπτωση μη τήρησης των αμοιβαίων υποχρεώσεων από τους αναζητούντες εργασία. Η έκθεση που ακολούθησε εντόπισε εκτεταμένα προβλήματα, μεταξύ των οποίων η έλλειψη «ανιχνευσιμότητας» μεταξύ των κανόνων του πλαισίου και της νομοθεσίας που το διέπει, καθώς και «ελαττώματα του συστήματος». Αναφερόταν ότι το σύστημα πληροφορικής «λειτουργούσε με βάση τιμωρητικές υποθέσεις μη συμμόρφωσης των συμμετεχόντων».

Η έκθεση δημοσιεύθηκε για πρώτη φορά στις 4 Ιουλίου 2025 και αναρτήθηκε εκ νέου στον ιστότοπο του υπουργείου, μετά από αναφορά της Australian Financial Review ότι είχαν εντοπιστεί πολλαπλά σφάλματα, συμπεριλαμβανομένων ανύπαρκτων αναφορών και παραπομπών.

Ο ακαδημαϊκός του Πανεπιστημίου του Σίδνεϊ, Δρ. Christopher Rudge, ο οποίος πρώτος επισήμανε τα λάθη, δήλωσε ότι η έκθεση περιείχε «ψευδαισθήσεις» όπου τα μοντέλα τεχνητής νοημοσύνης ενδέχεται να συμπληρώνουν κενά, να παρερμηνεύουν δεδομένα ή να προσπαθούν να μαντέψουν απαντήσεις. Συγκεκριμένα, δήλωσε πως «αντί να αντικαταστήσουν μια ψευδή αναφορά με μια νέα «πραγματική» αναφορά, αντικατέστησαν τις ψευδείς αναφορές και στη νέα έκδοση υπάρχουν πέντε, έξι, επτά ή οκτώ στη θέση τους. Το γεγονός αυτό υποδηλώνει ότι ο αρχικός ισχυρισμός που διατυπώθηκε στο σώμα της έκθεσης δεν βασίστηκε σε καμία συγκεκριμένη πηγή αποδεικτικών στοιχείων».

Στην ενημερωμένη έκδοση της έκθεσης, η Deloitte πρόσθεσε αναφορά στη χρήση γενετικής τεχνητής νοημοσύνης στο παράρτημά της. Αναφέρει ότι ένα μέρος της έκθεσης «περιλάμβανε τη χρήση μιας αλυσίδας εργαλείων βασισμένης σε ένα μεγάλο γλωσσικό μοντέλο γενετικής τεχνητής νοημοσύνης (Azure OpenAI GPT – 4o) με άδεια χρήσης από το DEWR και φιλοξενημένη στο Azure του DEWR».

Η συμβουλευτική εταιρεία, ωστόσο, δεν ανέφερε ότι η τεχνητή νοημοσύνη ήταν η αιτία των σφαλμάτων στην αρχική της έκθεση. Επιβεβαίωσε τα αρχικά ευρήματα της αναθεώρησης, δηλώνοντας ότι οι ενημερώσεις που έγιναν δεν επηρεάζουν σε καμία περίπτωση το ουσιαστικό περιεχόμενο, τα ευρήματα και τις συστάσεις της έκθεσης.