Δεκαπέντε χιλιόμετρα από το Κιλκίς βρίσκεται το χωριό Παλαιό Γυναικόκαστρο γνωστό κυρίως από τα πέτρινα απομεινάρια του κάστρου του. Το κάστρο ονομάστηκε έτσι γιατί ήταν τόσο καλά οχυρωμένο ώστε θα μπορούσαν να το υπερασπιστούν ακόμη και γυναίκες. Άλλη παράδοση λέει ότι κατά την πολιορκία των Τούρκων το 1383 διοικητής των Βυζαντινών ήταν η Μαρουλία, γι’ αυτό και ονομάστηκε από τους Τούρκους Αβρέτ Χισάρ, δηλαδή Γυναικόκαστρο. Από την ίδρυσή του λειτουργούσε ως προμαχώνας της Θεσσαλονίκης προκειμένου να ενισχύει την άμυνά της από τις επιδρομές των Σέρβων, Τατάρων και Βουλγάρων από το βορρά. Απέχει μόλις 45 χλμ. από την Θεσσαλονίκη και είχε την εποπτεία της περιοχής ανάμεσα στους ποταμούς Γαλλικό και Αξιό. Ο λόφος στον οποίο υψώνεται το κάστρο έχει ύψος 200 μέτρα και συνολική έκταση 25 στρεμμάτων που το περικλείουν λιθόκτιστα τείχη. Στην κορυφή του κάστρου υπάρχει πύργος και δυτικά ένα πηγάδι με διάμετρο 2 και βάθος 28 μέτρα. Πολλές ιστορίες λέγονται γι’ αυτό. Λένε ότι το βάθος του φτάνει τα 70 μέτρα, ότι το 1922 υπήρχε ξύλινο πάτωμα στον πάτο του ή ότι στο βυθό του υπήρχε στοά εξόδου για περίπτωση ανάγκης. Το κάστρο ιδρύθηκε από τον Αυτοκράτορα Ανδρόνικο τον Γ’, τον Παλαιολόγο, το 1328-1341 για την άμυνα και προστασία των οικισμών της περιοχής από τις βαρβαρικές επιδρομές. Ήταν ένα ισχυρό φρούριο με βυζαντινούς αξιωματούχους. Το καλοκαίρι του 1342 στο κάστρο πήγε ο Διοικητής της Θεσσαλονίκης, Πρωτοστράτωρ Θεόδωρος Συναδηνός, με χίλιους αριστοκράτες, όταν κινδύνεψαν από λαϊκή εξέγερση, όπως και ο Κατακουζηνός με τους στρατιώτες του. Το 1384 ο Γαζή Εβρενός, κυρίευσε το Γυναικόκαστρο το οποίο και κατέστρεψε.