Der RSV wurde am 26. Februar 1901 durch die Brüder Heinrich und Josef Klomser sowie Ferdinand Lausch und Alois Marischka gegründet. 1904 wurden durch Ergänzung der Statuten die Vereinsfarben auf schwarz-weiß festgelegt

In der Spielsaison 1910/1911 gewann der Rennweger SV die – inoffizielle – Meisterschaft der 2. Klasse und war damit berechtigt, an der ersten offiziellen Wiener bzw. österreichischen Meisterschaft von 1911/1912 als Gründungsverein teilzunehmen. Nach Protesten der anderen Mannschaften, wurden jedoch alle Heimspiele des Klubs mit 0:3 strafverifiziert und der RSV an die letzte Stelle der Liga gereiht. Grund des Protestes war die um einen Meter zu kurze Länge des Spielfeldes. Der Meistertitel der zweiten Liga wurde dem ASV Hertha Wien zugesprochen, während der Rennweger SV 1901 in Relegationsspielen um seinen Platz in der zweiten Spielklasse kämpfen musste.