Austria pertama kali mengikuti Piala Davis pada tahun 1905.
Prestasi terbaik tim ini dicatat pada tahun 1990, di mana Austria hampir saja melaju ke babak final. Pada saat itu, tim yang beranggotakan Thomas Muster, Horst Skoff, dan Alex Antonitsch berhadapan dengan Amerika Serikat di Wina. Setelah Muster memenangkan pertandingan melawan Andre Agassi, kedudukan 2-2. Selangkah lagi Austria dapat melaju ke babak final. Akan tetapi, pertandingan kelima ditunda karena kondisi gelap (23 September 1990). Dan pada akhirnya, Michael Chang mengalahkan Skoff di pertandingan terakhir dan Austria tidak melaju ke babak final.