{"id":{"repo_id":"athens","oai_identifier":"oai:lib.uoa.gr:uoadl:5362157"},"canonical_url":"https://search.dev.ndltd.org/etd/athens/oai:lib.uoa.gr:uoadl:5362157","repository":{"repo_id":"athens","name":"National and Kapodistrian University of Athens","base_url":"https://pergamos.lib.uoa.gr/uoa/dl/frontend/oaipmh"},"display":{"title":"On evaluating counterfactual explanations for Machine Learning Models","abstract":"Αυτή η εργασία εξετάζει την κρίσιμη ανάγκη ερμηνείας των αποτελεσμάτων των μοντέλων Μηχανικής Μάθησης (Machine Learning – ML) μέσω αντιπαραθετικών εξηγήσεων (counterfactual explanations – CF), οι οποίες περιλαμβάνουν την πραγματοποίηση μικρών μεταβολών στα δεδομένα εισόδου προκειμένου να διερευνηθούν εναλλακτικά αποτελέσματα. Αναγνωρίζοντας τη διαρκώς αυξανόμενη σημασία της αξιολόγησης της απόδοσης τέτοιων εξηγήσεων, ιδιαίτερα όταν τα μοντέλα εκπαιδεύονται σε κατανεμημένα περιβάλλοντα, η παρούσα εργασία προτείνει νέες μετρικές εμπνευσμένες από διαδραστικά συστήματα, με στόχο να διασφαλιστεί ότι τα αντιπαραθετικά παραδείγματα είναι τόσο ενημερωτικά όσο και χρήσιμα για την αμερόληπτη εκπαίδευση των μοντέλων. Για την επίτευξη αυτού του στόχου χρησιμοποιούμε δύο σύνολα δεδομένων: το αρχικό σύνολο δεδομένων και μία αντιπαραθετική εκδοχή του. Εφαρμόζουμε διάφορες μετρικές αξιολόγησης, όπως οι Inverse Propensity Scoring (IPS), Capped Inverse Propensity Scoring (CIPS), Self-Normalized Inverse Propensity Scoring (SNIPS) και ο εκτιμητής Doubly Robust. Επιπλέον, χρησιμοποιούμε τεχνικές επαναδειγματοληψίας (resampling) και δημιουργούμε συνθετικά δεδομένα προκειμένου να κατασκευάσουμε πιο ισορροπημένα σύνολα δεδομένων, διασφαλίζοντας έτσι την αξιοπιστία των μετρικών μας. Η μεθοδολογία περιλαμβάνει τη συστηματική δημιουργία αντιπαραθετικών παραδειγμάτων, την εφαρμογή των προτεινόμενων μετρικών και την ανάλυση των αποτελεσμάτων τόσο στο αρχικό όσο και στα εξισορροπημένα σύνολα δεδομένων. Τα προκαταρκτικά αποτελέσματα καταδεικνύουν την αποτελεσματικότητα της προσέγγισής μας, αναδεικνύοντας τη σημασία των συγκεκριμένων μετρικών για τη βελτίωση της ερμηνευσιμότητας και της αξιοπιστίας των μοντέλων Μηχανικής Μάθησης που εκπαιδεύονται σε κατανεμημένα περιβάλλοντα. Τα ευρήματά μας δείχνουν ότι η προσέγγιση αυτή έχει τη δυνατότητα να ενισχύσει την απόδοση των μοντέλων και να παρέχει πιο αξιόπιστες εξηγήσεις.","abstract_html":"Αυτή η εργασία εξετάζει την κρίσιμη ανάγκη ερμηνείας των αποτελεσμάτων των μοντέλων Μηχανικής Μάθησης (Machine Learning – ML) μέσω αντιπαραθετικών εξηγήσεων (counterfactual explanations – CF), οι οποίες περιλαμβάνουν την πραγματοποίηση μικρών μεταβολών στα δεδομένα εισόδου προκειμένου να διερευνηθούν εναλλακτικά αποτελέσματα. Αναγνωρίζοντας τη διαρκώς αυξανόμενη σημασία της αξιολόγησης της απόδοσης τέτοιων εξηγήσεων, ιδιαίτερα όταν τα μοντέλα εκπαιδεύονται σε κατανεμημένα περιβάλλοντα, η παρούσα εργασία προτείνει νέες μετρικές εμπνευσμένες από διαδραστικά συστήματα, με στόχο να διασφαλιστεί ότι τα αντιπαραθετικά παραδείγματα είναι τόσο ενημερωτικά όσο και χρήσιμα για την αμερόληπτη εκπαίδευση των μοντέλων. Για την επίτευξη αυτού του στόχου χρησιμοποιούμε δύο σύνολα δεδομένων: το αρχικό σύνολο δεδομένων και μία αντιπαραθετική εκδοχή του. Εφαρμόζουμε διάφορες μετρικές αξιολόγησης, όπως οι Inverse Propensity Scoring (IPS), Capped Inverse Propensity Scoring (CIPS), Self-Normalized Inverse Propensity Scoring (SNIPS) και ο εκτιμητής Doubly Robust. Επιπλέον, χρησιμοποιούμε τεχνικές επαναδειγματοληψίας (resampling) και δημιουργούμε συνθετικά δεδομένα προκειμένου να κατασκευάσουμε πιο ισορροπημένα σύνολα δεδομένων, διασφαλίζοντας έτσι την αξιοπιστία των μετρικών μας. Η μεθοδολογία περιλαμβάνει τη συστηματική δημιουργία αντιπαραθετικών παραδειγμάτων, την εφαρμογή των προτεινόμενων μετρικών και την ανάλυση των αποτελεσμάτων τόσο στο αρχικό όσο και στα εξισορροπημένα σύνολα δεδομένων. Τα προκαταρκτικά αποτελέσματα καταδεικνύουν την αποτελεσματικότητα της προσέγγισής μας, αναδεικνύοντας τη σημασία των συγκεκριμένων μετρικών για τη βελτίωση της ερμηνευσιμότητας και της αξιοπιστίας των μοντέλων Μηχανικής Μάθησης που εκπαιδεύονται σε κατανεμημένα περιβάλλοντα. Τα ευρήματά μας δείχνουν ότι η προσέγγιση αυτή έχει τη δυνατότητα να ενισχύσει την απόδοση των μοντέλων και να παρέχει πιο αξιόπιστες εξηγήσεις.","abstract_has_math":false,"creators":["Δούκα Ελισάβετ-Άννα","Douka Elisavet-Anna"],"institution":null,"degree_name":null,"degree_level":null,"degree_discipline":null,"degree_department":null,"school":null,"contributors":[],"advisors":[],"committee_chairs":[],"committee_members":[],"year":2026,"date_issued":"2026","date_published":"2026","updated_at":"2026-07-24T01:01:58Z","subjects":["Τεχνολογία – Πληροφορική","Technology - Computer science"],"languages":["English"],"rights":[],"rights_urls":[],"identifier_entries":[{"key":"dc:identifier","label":"Identifier","values":["uoadl:5362157"],"render_values":[{"text":"uoadl:5362157","href":null,"code":true}]}]},"links":{"outbound_url":"https://pergamos.lib.uoa.gr/uoa/dl/object/5362157","outbound_label":"Repository record","outbound_source":"dc:identifier"},"metadata_groups":[{"id":"people","label":"People","entries":[{"key":"dc:creator","label":"Author","values":["Δούκα Ελισάβετ-Άννα","Douka Elisavet-Anna"]}]},{"id":"academic_context","label":"Academic Context","entries":[{"key":"dc:date","label":"Dc Date","values":["2026"]},{"key":"dc:type","label":"Dc Type","values":["born_digital_postgraduate_thesis","Διπλωματική Εργασία","Postgraduate Thesis"]}]},{"id":"subjects_keywords","label":"Subjects and Keywords","entries":[{"key":"dc:subject","label":"Dc Subject","values":["Τεχνολογία – Πληροφορική","Technology - Computer science"]}]},{"id":"language_rights","label":"Language and Rights","entries":[{"key":"dc:language","label":"Dc Language","values":["English"]}]},{"id":"identifiers","label":"Identifiers","entries":[{"key":"dc:identifier","label":"Identifier","values":["uoadl:5362157","https://pergamos.lib.uoa.gr/uoa/dl/object/5362157"]}]},{"id":"additional","label":"Additional Metadata","entries":[{"key":"dc:description","label":"Description","values":["Αυτή η εργασία εξετάζει την κρίσιμη ανάγκη ερμηνείας των αποτελεσμάτων των μοντέλων Μηχανικής Μάθησης (Machine Learning – ML) μέσω αντιπαραθετικών εξηγήσεων (counterfactual explanations – CF), οι οποίες περιλαμβάνουν την πραγματοποίηση μικρών μεταβολών στα δεδομένα εισόδου προκειμένου να διερευνηθούν εναλλακτικά αποτελέσματα. Αναγνωρίζοντας τη διαρκώς αυξανόμενη σημασία της αξιολόγησης της απόδοσης τέτοιων εξηγήσεων, ιδιαίτερα όταν τα μοντέλα εκπαιδεύονται σε κατανεμημένα περιβάλλοντα, η παρούσα εργασία προτείνει νέες μετρικές εμπνευσμένες από διαδραστικά συστήματα, με στόχο να διασφαλιστεί ότι τα αντιπαραθετικά παραδείγματα είναι τόσο ενημερωτικά όσο και χρήσιμα για την αμερόληπτη εκπαίδευση των μοντέλων. Για την επίτευξη αυτού του στόχου χρησιμοποιούμε δύο σύνολα δεδομένων: το αρχικό σύνολο δεδομένων και μία αντιπαραθετική εκδοχή του. Εφαρμόζουμε διάφορες μετρικές αξιολόγησης, όπως οι Inverse Propensity Scoring (IPS), Capped Inverse Propensity Scoring (CIPS), Self-Normalized Inverse Propensity Scoring (SNIPS) και ο εκτιμητής Doubly Robust. Επιπλέον, χρησιμοποιούμε τεχνικές επαναδειγματοληψίας (resampling) και δημιουργούμε συνθετικά δεδομένα προκειμένου να κατασκευάσουμε πιο ισορροπημένα σύνολα δεδομένων, διασφαλίζοντας έτσι την αξιοπιστία των μετρικών μας. Η μεθοδολογία περιλαμβάνει τη συστηματική δημιουργία αντιπαραθετικών παραδειγμάτων, την εφαρμογή των προτεινόμενων μετρικών και την ανάλυση των αποτελεσμάτων τόσο στο αρχικό όσο και στα εξισορροπημένα σύνολα δεδομένων. Τα προκαταρκτικά αποτελέσματα καταδεικνύουν την αποτελεσματικότητα της προσέγγισής μας, αναδεικνύοντας τη σημασία των συγκεκριμένων μετρικών για τη βελτίωση της ερμηνευσιμότητας και της αξιοπιστίας των μοντέλων Μηχανικής Μάθησης που εκπαιδεύονται σε κατανεμημένα περιβάλλοντα. Τα ευρήματά μας δείχνουν ότι η προσέγγιση αυτή έχει τη δυνατότητα να ενισχύσει την απόδοση των μοντέλων και να παρέχει πιο αξιόπιστες εξηγήσεις.","This paper addresses the critical need to interpret the output of Machine Learning (ML) models through counterfactual (CF) explanations, which involve making small perturbations to the input data to explore alternative outcomes. Recognizing the growing importance of evaluating the performance of such explanations, especially when models are trained in a distributed setting, this work proposes new metrics inspired by interactive systems to ensure CF examples are both informative and useful for unbiased model training. To achieve this, we utilize two datasets: the original dataset and a counterfactual version. We apply various evaluation metrics, including Inverse Propensity Scoring (IPS), Capped Inverse Propensity Scoring (CIPS), Self-Normalized Inverse Propensity Scoring (SNIPS), and the Doubly Robust estimator. Additionally, we employ resampling techniques and generate synthetic data to create more balanced datasets, ensuring the robustness of our metrics. The methodology involves systematically generating counterfactuals, applying the proposed metrics, and analyzing the results in both the original and balanced datasets. Preliminary results illustrate the effectiveness of our approach, highlighting the significance of these metrics in improving the interpretability and reliability of ML models trained in distributed environments. Our findings demonstrate the potential of this approach to enhance model performance and provide more trustworthy explanations."]},{"key":"dc:title","label":"Title","values":["On evaluating counterfactual explanations for Machine Learning Models"]}]}],"canonical_facts":{"dc:creator":["Δούκα Ελισάβετ-Άννα","Douka Elisavet-Anna"],"dc:date":["2026"],"dc:description":["Αυτή η εργασία εξετάζει την κρίσιμη ανάγκη ερμηνείας των αποτελεσμάτων των μοντέλων Μηχανικής Μάθησης (Machine Learning – ML) μέσω αντιπαραθετικών εξηγήσεων (counterfactual explanations – CF), οι οποίες περιλαμβάνουν την πραγματοποίηση μικρών μεταβολών στα δεδομένα εισόδου προκειμένου να διερευνηθούν εναλλακτικά αποτελέσματα. Αναγνωρίζοντας τη διαρκώς αυξανόμενη σημασία της αξιολόγησης της απόδοσης τέτοιων εξηγήσεων, ιδιαίτερα όταν τα μοντέλα εκπαιδεύονται σε κατανεμημένα περιβάλλοντα, η παρούσα εργασία προτείνει νέες μετρικές εμπνευσμένες από διαδραστικά συστήματα, με στόχο να διασφαλιστεί ότι τα αντιπαραθετικά παραδείγματα είναι τόσο ενημερωτικά όσο και χρήσιμα για την αμερόληπτη εκπαίδευση των μοντέλων. Για την επίτευξη αυτού του στόχου χρησιμοποιούμε δύο σύνολα δεδομένων: το αρχικό σύνολο δεδομένων και μία αντιπαραθετική εκδοχή του. Εφαρμόζουμε διάφορες μετρικές αξιολόγησης, όπως οι Inverse Propensity Scoring (IPS), Capped Inverse Propensity Scoring (CIPS), Self-Normalized Inverse Propensity Scoring (SNIPS) και ο εκτιμητής Doubly Robust. Επιπλέον, χρησιμοποιούμε τεχνικές επαναδειγματοληψίας (resampling) και δημιουργούμε συνθετικά δεδομένα προκειμένου να κατασκευάσουμε πιο ισορροπημένα σύνολα δεδομένων, διασφαλίζοντας έτσι την αξιοπιστία των μετρικών μας. Η μεθοδολογία περιλαμβάνει τη συστηματική δημιουργία αντιπαραθετικών παραδειγμάτων, την εφαρμογή των προτεινόμενων μετρικών και την ανάλυση των αποτελεσμάτων τόσο στο αρχικό όσο και στα εξισορροπημένα σύνολα δεδομένων. Τα προκαταρκτικά αποτελέσματα καταδεικνύουν την αποτελεσματικότητα της προσέγγισής μας, αναδεικνύοντας τη σημασία των συγκεκριμένων μετρικών για τη βελτίωση της ερμηνευσιμότητας και της αξιοπιστίας των μοντέλων Μηχανικής Μάθησης που εκπαιδεύονται σε κατανεμημένα περιβάλλοντα. Τα ευρήματά μας δείχνουν ότι η προσέγγιση αυτή έχει τη δυνατότητα να ενισχύσει την απόδοση των μοντέλων και να παρέχει πιο αξιόπιστες εξηγήσεις.","This paper addresses the critical need to interpret the output of Machine Learning (ML) models through counterfactual (CF) explanations, which involve making small perturbations to the input data to explore alternative outcomes. Recognizing the growing importance of evaluating the performance of such explanations, especially when models are trained in a distributed setting, this work proposes new metrics inspired by interactive systems to ensure CF examples are both informative and useful for unbiased model training. To achieve this, we utilize two datasets: the original dataset and a counterfactual version. We apply various evaluation metrics, including Inverse Propensity Scoring (IPS), Capped Inverse Propensity Scoring (CIPS), Self-Normalized Inverse Propensity Scoring (SNIPS), and the Doubly Robust estimator. Additionally, we employ resampling techniques and generate synthetic data to create more balanced datasets, ensuring the robustness of our metrics. The methodology involves systematically generating counterfactuals, applying the proposed metrics, and analyzing the results in both the original and balanced datasets. Preliminary results illustrate the effectiveness of our approach, highlighting the significance of these metrics in improving the interpretability and reliability of ML models trained in distributed environments. Our findings demonstrate the potential of this approach to enhance model performance and provide more trustworthy explanations."],"dc:identifier":["uoadl:5362157","https://pergamos.lib.uoa.gr/uoa/dl/object/5362157"],"dc:language":["English"],"dc:subject":["Τεχνολογία – Πληροφορική","Technology - Computer science"],"dc:title":["On evaluating counterfactual explanations for Machine Learning Models"],"dc:type":["born_digital_postgraduate_thesis","Διπλωματική Εργασία","Postgraduate Thesis"]},"updated_at":"2026-07-24T01:01:58Z"}