Parallel zu der lautlichen Dimension von Sprache schenkt Gerhard Rühm immer auch ihren visuellen Ausdrucksqualitäten Aufmerksamkeit. Seit 1955 experimentiert er durch »reduktion des gedichts auf die totalität des einzelnen begriffs« mit Formen »punktueller dichtung«, etwa in den »ein-wort-tafeln«. Schon ein Jahr zuvor entstehen konstellationen und ideogramme, die - zum Teil ganz im Sinne Eugen Gomringers und anderer konkreter Dichter, aber unter Verzicht auf vordergründige Effekte - eine Spannung von maximaler Ökonomie der Mittel und polyvalenter Semantik intendieren.
Der Reiz des charakteristischen typovisuellen Gedichts der konkreten Poesie und der Technik der Konstellationen ist für Rühm allerdings rasch verbraucht, und so geht er bald von der Arbeit mit isoliertem Wortmaterial über zu komplexeren Gestaltungsformen, zu »Lesetexten« wie etwa in den Beispielen "die frösche" oder "strümpfe fliegen", in denen die eingespielten Mechanismen von Sprach-, Denk- und erzählliterarischen Vermittlungsformen aufgebrochen werden, bis hin zu einem umfassenden Konzept visueller Poesie, das auch nichtsprachliche (wie etwa rein graphische) Elemente integriert.
Die bis in die Gegenwart fortgeführte Linie textbildnerischer Arbeiten umfasst dabei »textbilder« (1955-1964), »textgrafik« (mit handschriftlichen Zusätzen zu typographischem Text) und »schriftzeichnungen«, die auf spontanem schriftlichen Ausdruck beruhen und psychische Gestimmtheiten graphisch fixieren; daneben entstehen in fortschreitender Erweiterung der Palette von Materialkomponenten neben Textcollagen auch »schriftfilme«, ein »farbengedicht«, »plastische texte«, »mobile texte«, »hauttexte«, »haptische texte« sowie objektkünstlerische Ansätze wie »einmachtexte« und Projekte wie eine »kondensstreifenpoesie«, mit denen Rühm in Bereiche der concept art vorstößt
Der Avantgarde-Charakter seiner poetischen Praxis manifestiert sich bereits früh in künstlerischen Setzungshandlungen (Rühm signiert schriftliche Anschläge, gebraucht Löschpapiere und rückt sie auf diese Weise in den Kunstzusammenhang) und nicht zuletzt auch in der Tendenz, das Kunstwerk selbst durch den kunsttheoretischen Diskurs oder Kommentar zu ersetzen Dazu gehört auch, dass Gerhard Rühm in einer Reihe von theoretisch-programmatischen Aufsätzen und Bemerkungen immer wieder Einblick in seine Arbeitsweise und seine damit zusammenhängenden ästhetischen Grundsatzüberlegungen gibt.