Πολέμησε στις τάξεις του ΕΛΑΣ εναντίον των Γερμανών και τραυματίστηκε το 1944. Σπούδασε Οδοντιατρική στο Πανεπιστήμιο Αθηνών το 1946 και το 1952-1954. Διέκοψε για κάποιο διάστημα τις σπουδές του επειδή εξορίστηκε στη Μακρόνησο. Εργάστηκε ως οδοντίατρος. Το 1953 εμφανίστηκε στη λογοτεχνία με την ποιητική συλλογή Πρελούντια, την οποία όμως αποκήρυξε αργότερα. Συνεργάστηκε με τα περιοδικά Επιθεώρηση Τέχνης, Αντί, Λέξη, Μανδραγόρας. Ήταν ένα από τα ιδρυτικά μέλη της Εταιρείας Συγγραφέων.
Ανήκει στην πρώτη μεταπολεμική γενιά. Η ποίησή του χαρακτηρίζεται «ποίηση της ήττας» (όπως και η ποίηση των Μανόλη Αναγνωστάκη, Τάσου Λειβαδίτη και άλλων ποιητών της γενιάς αυτής). Ο όρος «ποίηση της ήττας» εισήχθη από τον Βύρωνα Λεοντάρη, σ' ένα κείμενό του, του 1963, με θέμα τα ποιήματα «Ο γυρισμός» του Θ. Κωσταβάρα και «Μαθητεία» του Τίτου Πατρίκιου. Στο κείμενο αυτό έχουν τεθεί ως μότο στίχοι του Κωσταβάρα Προσοχή: ο Λεοντάρης επισημαίνει ότι ως «ποίηση της ήττας» εννοείται η ήττα της ανθρωπότητας και του πολιτισμού και όχι η στρατιωτικοπολιτική ήττα της Αριστεράς. Η συγκεκριμένη ποίηση δεν παραπέμπει σε ηττοπάθεια ή συνθηκολόγηση.
Αυτό ισχύει ιδιαίτερα για τον Κωσταβάρα. Γράφει ο Σάββας Μιχαήλ σε αφιέρωμα του περιοδικού «Μανδραγόρας»: «Η πορεία της ποίησης του Κωσταβάρα μέσα από την ιστορική απόγνωση, είναι μαθητεία αξιοπρέπειας (...) Ο Κωσταβάρας είναι ταπεινός, συχνά ταπεινωμένος, αλλά συγκλονιστικά αξιοπρεπής».
Σε όλο του το έργο ως τη συλλογή «Οι μεταμορφώσεις των κήπων» υπάρχει το συναίσθημα του φόβου το οποίο εκφράζεται σταθερά σ’ όλο του το έργο ως τη συλλογή Οι μεταμορφώσεις των κήπων του 2003: Γράφει:
«Με τον φόβο πάντα πορεύθηκα
με τον φόβο συνεχίζω να διασχίζω τον κόσμο».
Έργα του έχουν μεταφραστεί στα αγγλικά, πολωνικά, γαλλικά, γερμανικά.