Согласно Райнфельденскому договору[нем.], заключённому 1 июня 1283 года в городе Райнфельден, Рудольф II отказывался от австрийского престола в пользу своего старшего брата Альбрехта I, за что ему была обещана территориальная компенсация.
Скончался, оставив после себя двух сыновей (Фридриха IV и Леопольда II[нем.]), являвшихся до своей смерти в 1344 году титулярными герцогами Австрии.