Der Sage nach ist er ein launiger Riese und mag sich selbst nicht Rübezahl nennen hören, die Kräutersucher nennen ihn deshalb auch "Herr Johannes". Die ganze Vorstellung stammt aus heidnischer Zeit. Er ist der (wunderliche) Wetterherr des Riesengebirges und berührt sich so mit dem Wilden Jäger. Unerwartet (neckisch) sendet er Blitz und Donner, Nebel, Regen und Schnee vom Berg nieder, während eben noch alles im Sonnenglanz lag. Er nimmt die verschiedensten Gestalten an, besonders zeigt er sich als Mönch in aschgrauer Kutte (Wodan im Wolkenmantel) auf dem Berg und hält ein Saitenspiel in der Hand (die Sturmesharfe), das er so heftig schlägt, dass die Erde davon erzittert, und dergleichen mehr. Am Gehänge der Schwarzen Koppe wird eine Felsgruppe mit Rübezahls Lustgarten bezeichnet, auch sonst werden eigentümliche Steinbildungen nach ihm benannt. Gegen gute Menschen ist er freundlich, lehrt sie Heilmittel und beschenkt sie; wenn man ihn aber verspottet, rächt er sich schwer.

Gesammelt und aufgeschrieben wurden die Rübezahl-Sagen erstmals von Johannes Praetorius in dessen "Daemonologia Rubinzalii Silesii" (l662). Später erschienen Johann Karl August Musäus' "Legenden vom Rübezahl". Otfried Preußlers "Mein Rübezahl Buch" ist ebenfalls erwähnenswert.