Το Μουσείο είναι κτισμένο σε οικόπεδο 15.439 τ.μ. Το κτίριο καλύπτει επιφάνεια 5.371,27 τ.μ. Η συνολική επιφάνεια των χώρων του είναι 11.500 τ.μ. Από αυτά, 2.726,52 τ.μ. καταλαμβάνει η μόνιμη έκθεση (χωρίς τους διαδρόμους) και τα υπόλοιπα οι αποθήκες, τα εργαστήρια, τα γραφεία διοίκησης και άλλοι βοηθητικοί χώροι. Το Μουσείο διαθέτει ανεξάρτητη πτέρυγα περιοδικών εκθέσεων 4211,44 τ.μ., αίθουσα εκπαιδευτικών προγραμμάτων, αμφιθέατρο 62 θέσεων και καφέ-εστιατόριο, ενώ στο κτίριο Διοίκησης διαθέτει αμφιθέατρο 167 θέσεων.

Ως κτίριο το Μουσείο Βυζαντινού Πολιτισμού θεωρείται ένα από τα καλύτερα έργα δημόσιας αρχιτεκτονικής που δημιουργήθηκαν τις τελευταίες δεκαετίες στην Ελλάδα. Απέσπασε «εκτός διαγωνισμού», μετά το θάνατο του Κρόκου, ειδική διάκριση από διεθνή επιτροπή στο διαγωνισμό «Βραβεία 2000» του Ελληνικού Ινστιτούτου Αρχιτεκτονικής, ως «υποδειγματικό στο είδος του και άξιο παράδειγμα μεγάλου δημοσίου κτιρίου, στην κατηγορία Έργα του Δημοσίου», ενώ το 2001 κηρύχθηκε από το Υπουργείο Πολιτισμού (ΥΠΠΟ/ΔΙΛΑΠ/Γ/3142/55420/19-10-2001, ΦΕΚ 1458/Β΄/22-10-2001) ιστορικό διατηρητέο μνημείο και έργο τέχνης.

Κύρια χαρακτηριστικά του Μουσείου είναι το μεγάλο αίθριο με την περιμετρική στοά μετά την εξωτερική είσοδο που ανοίγεται στην τοιχοποιία, η οποία υψώνεται προς βορρά για να το απομονώσει από την ένταση της Λεωφόρου Στρατού. Πρόθεση του αρχιτέκτονα ήταν «ο χώρος αυτός να λειτουργήσει αποκαλυπτικά, προκαλώντας τη μνήμη». Όπως εκμυστηρεύεται ο Κρόκος: «Ήθελα έναν χώρο που η κίνηση μέσα σ’ αυτόν να δίνει ένα αίσθημα ελευθερίας, ανακινώντας τις αισθήσεις, και όπου το έκθεμα θα ήταν η έκπληξη μέσα στην κίνηση».[….] «Η μορφή του κτιρίου χωρίς προφανείς αναφορές σε μια άλλη εποχή, με κύρια υλικά το μπετόν και το τούβλο – είναι μια εικόνα που έχω απ’ τις πολυκατοικίες πριν σοβαντιστούν, όταν δείχνουν τη μικρή τους αλήθεια.» Πράγματι στο Μουσείο Βυζαντινού Πολιτισμού, μετά την ολοκλήρωση και των μόνιμων εκθέσεων το 2004, ο επισκέπτης έχει την «έντονη αίσθηση ότι ταξιδεύει στο παρελθόν», το Μουσείο «ξαφνιάζει, ακόμη και συγκινεί κάποιες φορές», όπως χαρακτηριστικά επισημαίνει η Aleid Rensen, μέλος της κριτικής επιτροπής του Ευρωπαϊκού Φόρουμ Μουσείων (E.M.F.).

Το Μουσείο διαθέτει αίθουσα πολλαπλών χρήσεων, η οποία τα τελευταία τρία χρόνια αξιοποιείται ως εκθεσιακός χώρος («Ευτυχίας Κουρκουτίδου – Νικολαΐδου», 58 τ. μ.), λόγω του πλούσιου εκθεσιακού προγράμματος του μουσείου, κύρια πτέρυγα περιοδικών εκθέσεων που φέρει το όνομα του δημιουργού του κτιρίου, Κυριάκου Κρόκου, (411,44 τ. μ.), αίθριο, δύο αμφιθέατρα, ένα μικρότερο στο κεντρικό κτίριο του Μουσείου, το «Μελίνα Μερκούρη» (χωρητικότητας 60-70 ατόμων) και ένα μεγαλύτερο στο κτίριο Διοίκησης το «Στέφανος Δραγούμης» (χωρητικότητας 160 ατόμων), όπου διεξάγονται εκπαιδευτικές και πολιτιστικές δραστηριότητες και εκδηλώσεις λόγου και τέχνης, προβολές, διαλέξεις, ημερίδες, συνέδρια, σεμινάρια, εκπαιδευτικά προγράμματα.