Seine ersten großen Erfolge erzielt Grümmer mit der Gestaltung von Wandbildern (z.B. Europa-Mosaik im Kölner Rathaus) und Kirchenfenstern. Das war es, was er als Student zunächst auch in seiner Werkschulklasse für „Monumentale Wandmalerei“ gelernt hatte, so Grümmer später zu seinen künstlerischen Anfängen. Während seines Rom-Stipendiums sieht er dann mit eigenen Augen die Mosaiklegekunst der antiken Künstler, ist beeindruckt, läßt sich inspirieren und entdeckt für sich die Möglichkeit, Wandbilder auch auf den Boden zu legen. Damit beginnt seine Beschäftigung mit Fußbodengestaltungen.

Waren es zuvor insbesondere Zink und Gußmetall und Restmaterialien aus der väterlichen Klischeewerkstatt, mit denen er seine Skulpturen gestaltet, so fasziniert ihn in den frühen 1960er Jahren der Werkstoff Beton. Er nutzt die große Plastizität des Betons insbesondere für seine Arbeiten auf dem Kölner Universitätsgelände (im Team von Rolf Gutbrod) und für den Brunnen vor der Kölner Oper. Dabei entwickelt er eine Technik, den flüssigen Beton in mit Folien ausgelegte Verschalungen so einzubringen, dass das Material faltenähnliche, textile, skulpturale Strukturen und skulpturale Formen bekommt.

Später wird der Mayener und Mendiger Basalt zu seinem bevorzugten Arbeitsmaterial zur Gestaltung von Brunnen und Außenanlagen, aber auch im Bereich der Bildenden Kunst. Grümmer arbeitet ab Mitte der 1960er Jahre direkt vor Ort in den Eifeler Steinbrüchen.