Während der gesamten Zeit der Hitlerdiktatur gab es in Mülheim Versuche, die KPD illegal wiederaufzubauen. Hieran beteiligt waren ehemalige Mitglieder aus Mülheim und Instrukteure von außerhalb.
Die Haupttätigkeit bestand im Verbreiten illegaler Flugblätter und Parolen, im Verbreiten und Studieren aus dem Ausland eingeschmuggelter kritischer Texte und Schriften, aber auch in der gegenseitigen Hilfe z.B. für die Hinterbliebenen von Verhafteten.
In den ersten Jahren nach der Machtübertragung fanden die meisten Reorganisationsversuche statt, die aber alle durch Nachforschungen der GESTAPO bzw. durch eingeschleuste Spitzel zunichte gemacht wurden.
Die Beteiligten erhielten in Massenprozessen langjährige Gefängnisstrafen bzw. wurden in die ersten Konzentrationslager verschleppt.
Der erfolgreichste Reorganisationsversuch fand 1934 unter der Leitung von Günter Daus und Johann Adelhütte statt, hier konnten in fast allen Stadtteilen illegale Gruppen aufgebaut werden, in Styrum sogar mehrere mit eigener Stadtteilleitung.
Regelmäßig kam illegale Literatur über Oberhausen nach Mülheim, zum Teil in Form von Tarnschriften. Ausgehend von der Stadtteilgruppe Heißen, wo es eine Unvorsichtigkeit beim Schriftenverteilen gab, konnte die GESTAPO die gesamte Organisation aufrollen mit Hilfe von Prügeleien und Folter, wobei der Umstand, dass sich die Mitglieder größtenteils untereinander mit Namen kannten, der GESTAPO die Arbeit erleichterte.
1942 nahm der Instrukteur Seng auf Geheiß des Amsterdamer KPD-Sekretariatsleiters Knächel Kontakte zu früheren Kommunisten auf. Mehrmals fanden Treffen mit Otto Gaudig, dem früheren Mülheimer KPD-Stadtverordneten, statt.
Als 1943 die GESTAPO die illegale Organisation im Rahmen einer Großaktion aufrollte, wurden aus Mülheim Otto und Johanna Gaudig, die Tochter Berta und ihr Mann Johann Gemüth, Fritz Küpper und Fritz Strothmann verhaftet. Während die leitenden Funktionäre wie Knächel und Seng zum Tode verurteilt worden sind, überlebten die Mülheimer mit Ausnahme von Otto Gaudig, der kurz vor Kriegsende von der SS in der Wenzelsbergschlucht erschossen wurde.

Johann Jürgens

Der Mülheimer Johann Jürgens war Mitglied der Bezirksleitung der illegalen KPD.
1934 wurde er von Holland aus nach Düsseldorf geschickt, um dort die Partei zu reorganisieren. Bis zu seiner Verhaftung unterhielt er auch Kontakte zu Mülheimer Parteimitgliedern und fertigte illegale Berichte über die Stimmung in Mülheimer Betrieben. Da Johann Jürgens aus dem Ausland beauftragt war und von der Partei finanziell unterstützt wurde, verurteilten ihn die Nazi-Richter zu neun Jahren Zuchthaus und Aberkennung der bürgerlichen Ehrenrechte.

Während der Inhaftierung von Johann Jürgens gezeichnete Skizzen zur Erinnerung an seine Familie.

„So habe ich an Euch gedacht. Unsere Küche, klein aber rein und sauber.“

Reorganisationsversuch des Rotfrontkämpferbundes (RFB);
Illegaler Wiederaufbau des KJVD (Kommunistischer Jugendverband);
Erste Kontakte Mülheimer Kommunisten untereinander nach Entlassung aus der Schutzhaft

Aufbau des KPD-Unter-bezirks Oberhausen / Mülheim

Reorganisationsversuch der KPD Oberhausen/Mülheim; Aufbau der „Roten Hilfe“

Letzter Reorganisationsversuch der Gruppe Seng-Knächel

Da sämtliche öffentlichen Medien, wie Zeitungen und Rundfunk, von den Nazis kontrolliert und zensiert waren, entwickelten die illegal tätigen Parteiorganisationen und Gruppen ein eigenes Verteilernetz, mittels dessen illegale Schriften verteilt und verkauft wurden.
Meist im Ausland gedruckt und mit harmlos aussehenden Deckeln versehen wurden diese Schriften unter Lebensgefahr über die Grenzen geschmuggelt und mittels Kurieren an die illegalen Gruppen und Organisationen und deren Mitglieder weitergegeben.
Innerhalb der illegalen Mülheimer KPD-Gruppen wurden zwischen 1933 und 1935 nachweislich zahlreiche solcher Schriften verbreitet; von den Erlösen wurden Reisen illegaler Funktionäre, die Schriften selbst sowie die Bereitstellung von Fluchtmöglichkeiten für gefährdete Mitglieder finanziert.
Ehemalige SPD-Mitglieder aus Mülheim schlossen sich zu „Lesezirkeln“ zusammen, in denen illegale Publikationen gemeinsam gelesen und diskutiert wurden.