В течение последующих лет Герман фон Зальца находился в Европе практически безотлучно. Правда и то, что после Яффаского договора в Святой земле воцарился более-менее прочный мир между мусульманами и христианами; символ Иерусалима, города, где проходили одновременно христианские и мусульманские богослужения, выражал ту реальную веротерпимость, которую Запад, а именно папство, не понимали и еще меньше принимали. Герман фон Зальца теперь руководил военными операциями ордена против пруссов и не жалел сил на привлечение рыцарей к борьбе с язычниками.

С момента заключения соглашения между папой и императором Герман фон Зальца не ослаблял бдительности, так как знал, настолько хрупким было примирение между папой и императором. Однако по крайней мерс до 1236 г. отношения между папством и империей протекали под знаком мира. Григорий IX понимал, что популярность Фридриха II, связанная с той ролыо, которую он сыграл в бескровном возвращении Иерусалима, была огромна не только в Германии, по и на всем Западе. Поэтому он, не колеблясь, вознес хвалу императору и Тевтонскому ордену, когда 1 июня 1235 г. опубликовал буллу, канонизирующую Елизавету Венгерскую, вдову ландграфа Людвига Тюрингского, умершую в 1231 г. Св. Елизавета, родственница императора по своему браку с ландграфом, была всю жизнь преданной и щедрой заступницей ордена. Новый ландграф, брат Людвига, Конрад Тюрингский (1227-1240) тоже стал верным покровителем ордена. В 1234 г. при поддержке императора и Германа фон Зальца Конрад заручился согласием паны передать госпиталь францисканцев в Марбурге Тевтонскому ордену; госпитальная часовня, которая была построена заботами Фридриха И, тоже была передана тевтонским рыцарям. Влияние, которое орден имел на Конрада, было настолько значительным, что он вступил в него 18 ноября 1234 г. вместе с тюрингскими рыцарями Германом фон Хелдрупгеном и Дитрихом фон Грю-иингеном. Эмоциональные узы, которые объединяли Фридриха II с Тевтонским орденом и германскими князьями, особенно с ландграфами Тюрингии, сделали орден крупной морально-политической силой в Священной Римской империи. 1 мая 1236 г. останки Св. Елизаветы Венгерской были эксгумированы, помещены в золотую раку и переданы в часовню марбурского госпиталя. С тех пор Си. Елизавета считается покровительницей ордена тевтонских рыцарей.

Отныне Герман фон Зальца большую часть времени проводил с Фридрихом II, оставаясь самым верным советчиком, к которому охотно прислушивался император. В 1235 г. во время вооруженного противостояния императора с сыном, «королем римлян» Генрихом VII, которому в 1231 г. было доверено отвечать за германские дела, великий магистр получил свое последнее важное дипломатическое поручение. Молодой принц вскоре рассорился с отцом и но наущению паны заключил союз с ломбардскими городами. Но подавляющее большинство германских принцев не последовало за ним по пути измены и осталось верным освободителю Иерусалима. Герман фон Зальца, который сопровождал Фридриха с момента его отъезда из Италии в Южную Германию, был направлен к мятежному молодому принцу и принял его капитуляцию 2 июля 1235 г. Безусловно, именно благодаря умиротворяющему влиянию великого магистра на императора молодой Генрих VII избежал высшей кары.