Setelah pemilihan ayahnya sebagai Raja Romawi, Rudolf ditempatkan sebagai wakil pemimpin dengan wilayah warisan Austria dan Stiria Wangsa Habsburg. Pada tanggal 25 Mei 1300, Raja Albrecht I mengatur pernikahannya dengan Blanche, putri Raja Philippe III dari Prancis dan istri keduanya Marie dari Brabant, Ratu Prancis. Ikatan yang dimaksudkan dengan Wangsa Kapetia Prancis gagal karena putri tunggal pasangan tersebut meninggal dan Blanche sendiri meninggal pada tahun 1305.
Kesempatan lain untuk Habsburg di dalam mendapatkan kekuasaan terbuka ketika pada tahun 1306 penguasa Bohemia yang terakhir dari Wangsa Přemyslid, Raja Václav III terbunuh dan Albrecht I sebagai rex Romanorum dapat menyita Bohemia sebagai kerajaan yang feodal. Rudolf dipersembahkan sebagai seorang penuntut atas tahta Bohemia, tetapi ditentang oleh pamannya Jindřich Korutanský, Adipati Kärnten dan suami saudari Václav Anna Přemyslovna. Untuk mensahkan lebih lanjut tuntutan Habsburg atas tahta Bohemia dan Polandia, Albrecht menikahkan Rudolf dengan Ryksa Elżbieta dari Polandia dari Wangsa Piast, janda Raja sebelumnya Václav II dari Bohemia. Pada tahun 1306 ia menduduki Praha dan mengusir Jindřich Korutanský untuk menempatkan putranya ke atas tahta Bohemia.
Diledek sebagai král kaše ("raja bubur"), Rudolf ditolak oleh beberapa bangsawan Bohemia, yang terus bertahan untuk Jindřich. Raja itu mengepung benteng pemberontak di Horažďovice di Bohemia, tetapi ia terkena penyakit disentri dan wafat disana pada tahun 1307, tanpa keturunan.