On evaluating counterfactual explanations for Machine Learning Models

Αυτή η εργασία εξετάζει την κρίσιμη ανάγκη ερμηνείας των αποτελεσμάτων των μοντέλων Μηχανικής Μάθησης (Machine Learning – ML) μέσω αντιπαραθετικών εξηγήσεων (counterfactual explanations – CF), οι οποίες περιλαμβάνουν την πραγματοποίηση μικρών μεταβολών στα δεδομένα εισόδου προκειμένου να διερευνηθούν εναλλακτικά αποτελέσματα. Αναγνωρίζοντας τη διαρκώς αυξανόμενη σημασία της αξιολόγησης της απόδοσης τέτοιων εξηγήσεων, ιδιαίτερα όταν τα μοντέλα εκπαιδεύονται σε κατανεμημένα περιβάλλοντα, η παρούσα εργασία προτείνει νέες μετρικές εμπνευσμένες από διαδραστικά συστήματα, με στόχο να διασφαλιστεί ότι τα αντιπαραθετικά παραδείγματα είναι τόσο ενημερωτικά όσο και χρήσιμα για την αμερόληπτη εκπαίδευση των μοντέλων. Για την επίτευξη αυτού του στόχου χρησιμοποιούμε δύο σύνολα δεδομένων: το αρχικό σύνολο δεδομένων και μία αντιπαραθετική εκδοχή του. Εφαρμόζουμε διάφορες μετρικές αξιολόγησης, όπως οι Inverse Propensity Scoring (IPS), Capped Inverse Propensity Scoring (CIPS), Self-Normalized Inverse Propensity Scoring (SNIPS) και ο εκτιμητής Doubly Robust. Επιπλέον, χρησιμοποιούμε τεχνικές επαναδειγματοληψίας (resampling) και δημιουργούμε συνθετικά δεδομένα προκειμένου να κατασκευάσουμε πιο ισορροπημένα σύνολα δεδομένων, διασφαλίζοντας έτσι την αξιοπιστία των μετρικών μας. Η μεθοδολογία περιλαμβάνει τη συστηματική δημιουργία αντιπαραθετικών παραδειγμάτων, την εφαρμογή των προτεινόμενων μετρικών και την ανάλυση των αποτελεσμάτων τόσο στο αρχικό όσο και στα εξισορροπημένα σύνολα δεδομένων. Τα προκαταρκτικά αποτελέσματα καταδεικνύουν την αποτελεσματικότητα της προσέγγισής μας, αναδεικνύοντας τη σημασία των συγκεκριμένων μετρικών για τη βελτίωση της ερμηνευσιμότητας και της αξιοπιστίας των μοντέλων Μηχανικής Μάθησης που εκπαιδεύονται σε κατανεμημένα περιβάλλοντα. Τα ευρήματά μας δείχνουν ότι η προσέγγιση αυτή έχει τη δυνατότητα να ενισχύσει την απόδοση των μοντέλων και να παρέχει πιο αξιόπιστες εξηγήσεις.

Authors dc:creator

• Δούκα Ελισάβετ-Άννα
• Douka Elisavet-Anna

• Τεχνολογία – Πληροφορική
• Technology - Computer science

Language dc:language

English

Identifier

uoadl:5362157

OAI identifier oai:identifier

oai:lib.uoa.gr:uoadl:5362157