Το κτήριο του Βαρβακείου που σχεδίασε ο αρχιτέκτονας Παναγιώτης Κάλκος ήταν νεοκλασικού ρυθμού, με ωραίο, ιωνικού ρυθμού, πρόπυλο προς Ανατολάς, είχε δύο ορόφους υψηλούς με πολλά μεγάλα παράθυρα κι ένα ισόγειο, στο οποίο κατέβαινε κάποιος με δύο κλίμακες από την κυρία είσοδο ή έμπαινε από μια θύρα στα νότια, από την οδό Αριστογείτονος.
Η δαπάνη για την ανέγερση έφτασε τις 440.500 δραχμές. Με τα υπόλοιπα χρήματα αγοράστηκαν διάφορες μετοχές και ομολογίες, οι οποίες έμειναν κατατεθειμένες στην Εθνική Τράπεζα της Ελλάδος, με τους τόκους δε καλύπτονταν για πολλά χρόνια αρκετές εκπαιδευτικές ανάγκες του κράτους. Ο προ του κτηρίου χώρος έμεινε απερίφρακτος μέχρι την οδό Αθηνάς, έλαβε δε την ονομασία «Πλατεία Βαρβάκη».
Στο διδακτήριο άρχισε να λειτουργεί ευθύς αμέσως μετά την αποπεράτωσή του, Γυμνάσιον (κλασσικόν, καθώς άλλου τύπου σχολεία δεν λειτουργούσαν τότε) με τέσσερις τάξεις και Ελληνικόν Σχολείον (κατώτερο προπαρασκευαστικό για το Γυμνάσιο σχολείο) με τρεις τάξεις. Αυτά ονομάζονταν Βαρβάκεια. Επειδή το μέρος ήταν κεντρικό και εγγράφονταν πολλοί μαθητές και τα δύο σχολεία διαιρέθηκαν σε τμήματα.