Bereits 1933 kam es unter Kanzler Engelbert Dollfuss zur Ausschaltung des Parlaments durch das Kriegswirtschaftliche Ermächtigungsgesetz. Die Lage innerhalb Österreichs spitzte sich zwischen den Parteien weiter zu, bis es 1934 zu den Februarkämpfen kam, die anschließend als Grund herangezogen wurden, um die Sozialistische Partei zu verbieten. Zahlreiche FunktionärInnen wurden ab diesem Zeitpunkt verhaftet. Damit begann die Arbeit der Sozialisten im Untergrund (RS).

Zum Verhängnis wurde der Organisation der Verrat durch den ehemaligen Sportredakteur der „Arbeiterzeitung“ Hans Pav. Nach Kriegsausbruch im Jahr 1939 zerfiel der sozialistische Widerstand immer mehr aufgrund der Verfolgungen und der verloren gegangenen Verbindungen ins Exil.

Das gemeinsame Ziel der sozialistischen Widerstandsgruppen und der Exilorganisationen war es ein sozialistisches Deutschland unter Einschluss Österreichs zu errichten. Erst während der Kriegszeit kam man immer mehr von dieser Idee und entwickelte ein eigenes, österreichisches Bewusstsein.

Nach dem Scheitern des Hitler-Putsches am 20. Juli 1944  wurden viele sozialdemokratische Funktionäre verhaftet, darunter Adolf Schärf, Theodor Körner, Johann Böhm und Karl Seitz.