A Spatial Attention Mechanism for Motion Prediction in Autonomous Driving

Η ακριβής και αποδοτική πρόβλεψη κίνησης αποτελεί βασικό στοιχείο για την ασφαλή λειτουργία αυτόνομων οχημάτων, τα οποία πρέπει να προβλέπουν τις μελλοντικές τροχιές των γύρω χρηστών του δρόμου σε σύνθετα αστικά περιβάλλοντα. Πρόσφατες αρχιτεκτονικές μετασχηματιστών, όπως το HPTR, προσφέρουν ένα ισχυρό και αποδοτικό αλγόριθμο για πρόβλεψη τροχιών, συνδυάζοντας πληροφορία από τον περιβάλλοντα χώρο και τους έτερους χρήστες (πράκτορες). Στην παρούσα διπλωματική βασιζόμαστε στο HPTR και μελετάμε πώς μπορεί να ενισχυθεί ο μηχανισμός προσοχής του μέσω ενός Νευρωνικού Δικτύου που προβλέπει ένα Μοντέλο Μίγματος Γκαουσιανών. Κύρια συνεισφορά μας αποτελεί ο Μηχανισμός Χωρικής Πυκνότητας (Spatial Density Module, SDM), ο οποίος μοντελοποιεί τον χώρο αλληλεπιδράσεων με ένα Μοντέλο Μίγματος Γκαουσιανών και χρησιμοποιεί την κανονικοποιημένη πυκνότητά του ως φίλτρο πάνω στους χάρτες προσοχής. Η προκύπτουσα παραλλαγή, Spatial Density Transformer (SDT), διατηρεί την αρχιτεκτονική κωδικοποιητή-αποκωδικοποιητή, τις παραμέτρους και τη διαδικασία εκπαίδευσης του HPTR και αλλάζει μόνο τον τρόπο με τον οποίο κατανέμεται η προσοχή στις πιθανές περιοχές αλληλεπίδρασης. Πραγματοποιούμε πειράματα στο σύνολο δεδομένων Waymo Open Motion και εστιάζουμε στην ανάλυση της συμπεριφοράς του Μηχανισμού Χωρικής Πυκνότητας. Μελετώντας τον αριθμό των συνιστωσών του μίγματος και τις υπερπαραμέτρους του SDM με τη χρήση απλών διαγνωστικών μετρικών για τα μίγματα (component utilization, χωρική διασπορά και εντροπία), παρατηρούμε ότι η εκτιμώμενη πυκνότητα τείνει να συγκεντρώνεται σε περιοχές όπου υπάρχουν άλλα οχήματα αντί για κενές περιοχές. Αυτό υποδηλώνει ότι το SDM κωδικοποιεί με ουσιαστικό τρόπο την πυκνότητα των αλληλεπιδράσεων. Ως προς τις μετρικές πρόβλεψης του WOMD, το SDT παρουσιάζει ικανοποιητική απόδοση, αλλά δεν πραγματοποιούμε πλήρη σύγκριση με το HPTR υπό ακριβώς ίδιες συνθήκες εκπαίδευσης, επομένως δεν μπορούν να εξαχθούν ασφαλή συμπεράσματα για τυχόν βελτίωση της ευστοχίας του. Η κύρια συνεισφορά της εργασίας είναι η σχεδίαση και η ανάλυση του πυκνωτικά καθοδηγούμενου μηχανισμού προσοχής και των διαγνωστικών του, και όχι η επίτευξη βελτίωσης σε επίπεδο benchmark. Τα πειραματικά αποτελέσματα δείχνουν ότι η προσθήκη ενός εκμαθημένου, πυκνωτικού φίλτρου προσοχής σε συνδυασμό με μια αποδοτική αρχιτεκτονική μετασχηματιστή αποτελεί μια ενδιαφέρουσα κατεύθυνση που μπορεί να μελετηθεί περαιτέρω σε μελλοντική έρευνα, η οποία θα περιλαμβάνει παραλλαγές όπου τα μίγματα περιορίζονται ώστε να συμπεριφέρονται σαν περιοχές k nearest neighbor όπως στο HPTR ώστε να κατανοηθεί καλύτερα πόσο χρήσιμη είναι στην πράξη η προσοχή βασισμένη σε χωρική πυκνότητα.

Authors dc:creator

• Χρήστου Νεκτάριος
• Christou Nektarios

• Θετικές Επιστήμες
• Science

Language dc:language

English

Identifier

uoadl:5360173

OAI identifier oai:identifier

oai:lib.uoa.gr:uoadl:5360173