Hermann Joseph wurde um das Jahr 1150 in Köln als Sohn verarmter Bürger geboren. Mit zwölf Jahren kam er in das Prämonstratenserkloster Steinfeld in der Eifel. Sein religiöser Eifer, den er schon als Kind entwickelt hatte, wurde beim Anblick der Trägheit mancher Mitbrüder schwer enttäuscht. Was ihn trug war seine tiefe Verehrung der Muttergottes. Sie soll ihm folgenden Satz zum Trost gegeben haben:
„Wisse, dass du mir nichts Angenehmeres tun kannst, als deinen Brüdern in aller Liebe zu dienen.“
Dieser Satz trug ihn auch durch schwere Zeiten, als er von seinen Diensten im Kloster so beansprucht war, dass er kaum mehr Zeit für Gebet und Betrachtung fand. Als er nach einiger Zeit den Dienst des Sakristans übernahm, konnte er dem Herrn wieder näher sein, da sich seine Arbeiten auf den Raum der Kirche konzentrierten.
Seine innige Verehrung der Muttergottes blieb für ihn kennzeichnend. Diese ging sogar so weit, dass er sich auf mystische Weise mit Maria vermählte. Sein zweiter Name Josef sollte auf diese Nähe zu Maria hinweisen. Die mystische Vermählung Hermann Josefs mit der Gottesmutter hat später Antonius van Dyck (1599-1641) in einem Gemälde dargestellt.
Nach seiner Priesterweihe zeichnete sich Hermann Josef als eifriger Seelsorger aus, der ein Herz für seine Mitmenschen hatte und sich für ihre leiblichen und seelischen Nöte einsetzte. Er war ein begehrter Beichtvater und Seelenführer der Ordensfrauen in verschiedenen Klöstern.
Von seiner tiefen mystischen Frömmigkeit geben mehrere Hymnen und Gebete Ausdruck, die bis in unsere Zeit erhalten geblieben sind, darunter der große Marienhymnus „Gaude, plaude, clara Rosa“, der Hymnus auf das heiligste Herz Jesu „Summi Regis cor, aveto“, ein Jubellied auf die heilige Ursula und ihre Gefährtinnen „O vernantes Christi rosae“ und die zwölf Dankgebete zum Erlöser. Eine tiefe eucharistische Frömmigkeit bringt der Hymnus „Jesu, dulcis et decore“ zum Ausdruck.
Hermann Josef starb in hohem Alter im Kloster der Zisterzienserinnen in Hoven bei Zülpich, denen er während der Fastenzeit einen Besuch abstattete. Seine Mitbrüder drängten jedoch auf eine Überführung des Leichnams ins Kloster Steinfeld, wo er bis heute seine letzte Ruhestätte gefunden hat. Obwohl er vor allem von der Bevölkerung der Eifel aber auch weit darüber hinaus schon seit seinem Tod verehrt wurde, erfolgte seine offizielle Heiligsprechung erst im Jahr 1960.