De naam Horeb komt voor het eerst voor in Exodus 3:1, met het verhaal van Mozes en de brandende braamstruik. Volgens Exodus 3:5 werd de grond van de berg als heilig beschouwd, en Mozes kreeg van God het bevel zijn sandalen uit te trekken.
Exodus 17:6 beschrijft het incident toen de Israëlieten zonder water in de wildernis waren. Toen Mozes “op de rots te Horeb” was, sloeg hij op de rots en verkreeg drinkwater uit de rots. Exodus 17:7 zegt verder dat Mozes “de naam van de plaats Massa en Meriba noemde, vanwege de twist der kinderen Israëls, en omdat zij de Here in verzoeking brachten, zeggende: Is de Here onder ons of niet?””
Het enige andere gebruik van de naam in Exodus is in Exodus 33:6, waar Horeb de plaats is waar de Israëlieten zich van hun versierselen ontdeden. Deze passage (d.w.z. Exodus 33:1-6) suggereert dat Horeb de plaats was van waaruit de Israëlieten op weg gingen naar Kanaän toen zij hun Exodus reis hervatten.
In Deuteronomium wordt Horeb verscheidene malen genoemd in het verslag van de omzwervingen van de Israëlieten in de woestijn: Deuteronomium 1:2, 1:6, en 1:19. Mozes herinnert zich in Deuteronomium 1:6 dat God tot de Israëlieten in Horeb had gezegd: “Gij hebt lang genoeg op deze berg gewoond; keert u om en gaat op reis”, waarmee bevestigd werd dat Horeb de plaats was vanwaar zij op weg gingen naar Kanaän.
Het verslag van de overlevering aan Mozes van de Tien Geboden, en verwijzingen daarnaar, bevatten vermeldingen van Horeb in Deuteronomium 4:10, 4:15, 5:2,9:8, 18:16 en 28:69. Er zijn soortgelijke verwijzingen in Psalmen 106:19 en Maleachi 4:4. Deuteronomium 5:2 wekt de indruk dat de huidige generatie tot wie Mozes sprak aanwezig was op de berg Horeb toen Mozes afdaalde met de geboden, hoewel “de individuen die aanwezig waren allen waren omgekomen met uitzondering van Mozes, Jozua en Kaleb. natie overleefde, en aangezien het met de natie als een organisch geheel was dat het verbond was gemaakt. Men zou met recht kunnen zeggen dat het was gesloten met hen tot wie Mozes zich op dit moment richtte, omdat zij de natie vormden.”
1 Koningen 8:9 en 2 Kronieken 5:10 stellen dat de Ark van het Verbond alleen de tafelen bevatte die aan Mozes in Horeb waren overhandigd. In 1 Koningen 19:8 bezoekt Elia “Horeb, de berg Gods”.
Volgens de documentaire hypothese wordt de naam Sinaï in de Torah alleen gebruikt door de Jahwist en de Priesterlijke Bron, terwijl Horeb alleen wordt gebruikt door de Elohist en de Deuteronomist.
Er zijn geen verwijzingen naar Horeb in het Nieuwe Testament. In Galaten 4:24-25 wordt de berg Sinaï genoemd:”… Een verbond is van de berg Sinaï en baart kinderen die slaven moeten worden: Dit is Hagar. Nu staat Hagar voor de berg Sinaï in Arabië en komt overeen met de huidige stad Jeruzalem, want zij is in slavernij met haar kinderen.” Op de berg Sinaï/Horeb wordt gezinspeeld in Hebreeën 12:18-21.