National and Kapodistrian University of Athens
Evaluation and Performance Optimization of Virtual Memory Support for GPUs
Abstract
dc:descriptionΟι σύγχρονες Μονάδες Επεξεργασίας Γραφικών (GPUs) βασίζονται στην υποστήριξη εικονικής μνήμης και τη σελιδοποίηση για τη διαχείριση της μνήμης τους. Ωστόσο, η επιβάρυνση της μετάφρασης εικονικών διευθύνσεων σε πραγματικές παραμένει ένα κρίσιμο σημείο συμφόρησης της απόδοσης εφαρμογών, που επιδεινώνεται από τις υψηλές επιπτώσεις των αστοχιών στην Κρυφή Μνήμη Μεταφράσεων (TLB). Ενώ οι σύγχρονες GPUs της NVIDIA υποστηρίζουν πολλαπλά μεγέθη σελίδων στο υλικό για να μετριάσουν αυτό το φαινόμενο, μέσω της εξισορρόπησης της εμβέλειας του TLB και του εσωτερικού κατακερματισμού, αυτή η δυνατότητα είναι κρυφή από τους προγραμματιστές. Προηγούμενες προσπάθειες για την αποκάλυψη ποικίλων μεγεθών σελίδων είτε βασίζονται σε προσομοιωμένα περιβάλλοντα, είτε θυσιάζουν τη συμβατότητα με τις καθιερωμένες διεπαφές προγραμματισμού (API) της CUDA. Η παρούσα διπλωματική εργασία παρουσιάζει τον σχεδιασμό, την υλοποίηση και την αξιολόγηση ενός συστήματος που εκθέτει τα εγγενή μεγέθη σελίδων υλικού με διαφάνεια προς τις εφαρμογές. Τροποποιώντας το πρόγραμμα οδήγησης πυρήνα που αφορά την ενοποιημένη διαχείριση μνήμης (UVM), εισάγουμε μια διεπαφή δυναμικής επιλογής του μεγέθους σελίδας σε επίπεδο συστήματος, χωρίς να αλλάξουμε το μοντέλο προγραμματισμού. Για την υποστήριξη εφαρμογών που βασίζονται σε ρητή διαχείριση μνήμης, αναπτύσσουμε μια δυναμική βιβλιοθήκη που τροποποιεί τις ρητές δεσμεύσεις μνήμης σε ελεγχόμενες από το σύστημα ενοποιημένης διαχείρησης μνήμης, χωρίς να απαιτείται επαναμεταγλώττιση αυτών. Αξιολογούμε τις επιπτώσεις της επιλογής μεγέθους σελίδας στην απόδοση μιας σουίτας εφαρμογών από ποικίλους επιστημονικούς κλάδους. Χρησιμοποιώντας μικροαρχιτεκτονικές μετρικές και αναλύοντας την ευαισθησία των εφαρμογών στα μεγέθη εισόδου διαφαίνεται ότι το βέλτιστο μέγεθος σελίδας εξαρτάται σε μεγάλο βαθμό από το μοτίβο πρόσβασης στη μνήμη και το φόρτο εργασίας. Αυτά τα ευρήματα παρέχουν χρήσιμες πληροφορίες για τη βελτίωση της διαχείρισης της εικονικής μνήμης σε GPUs, υποδηλώνοντας ότι η χρήση ευέλικτων μεγεθών σελίδας προάγει την αποδοτικότερη χρήση της μνήμης και εγγυάται προβλεψιμότητα σε περιβάλλοντα διαμοιρασμού μονάδων επεξεργασίας γραφικών μεταξύ πολλαπλών χρηστών.
Author and committee
dc:creator, dc:contributor.*- Authors dc:creator
-
- Τσαγκαρόπουλος Αλέξανδρος
- Tsagkaropoulos Alexandros
Subjects
dc:subject × 2Rights
- Language dc:language
- Ελληνικά, English, Greek
Identifiers
dc:identifier.*- Identifier
- uoadl:5370592
- OAI identifier oai:identifier
- oai:lib.uoa.gr:uoadl:5370592