Daugelio nekasdienių dalykų atsiradimą gaubia legendos ir hipotezes. Kaip atsirado tabakas, pypkė ar kaljanas? Egzistuoja net kelios kaljano atsiradimą aiškinančios hipotezės- anot „indiškos kaljano atsiradimo hipotezės“, pirmieji kaljanai pasirodė Indijoje ir buvo labai primityvūs – vietiniai gyventojai rūkymui naudojo tuščią kokoso kevalą. Kiekviename krašte kaljanas būdavo vis kitoks, bėgant metams jis tobulėjo, smarkiai plito Arabų šalyse.
Nepaisant „indiškos“ kaljano kilmės, vandens pypkės rūkymas – viena seniausių Turkijos tradicijų. Iki šiol kaljanas ten yra labai populiarus, nors daugelis subtilių praeities dalykų, siekiant supaprastinti rūkymo procesą, pamažu prisimiršo. Turkijoje kaljanas įgavo savo dabartinę išvaizdą ir stilių, nekintančius jau šimtmečius. Atskiras kaljano dalis gamindavo specialūs meistrai, kurie net vadindavosi pagal gaminamų kaljano dalių pavadinimus. Ir šiandien vietovės, kuriose gyveno kaljano meistrai, tebevadinamos senaisiais vardais.
Murato IV valdymo metais (1623-1640) kaljanas Turkijoje tapo toks populiarus, kad sultonas, grasindamas mirties bausme, uždraudė ji rūkyti, nes suabejojo, ką žmonės mėgsta labiau – jį ar kaljaną. Kaljano rūkymas – gana ilgas, nuo vienos iki dviejų valandų trunkantis, procesas. Kaljanas dera tik su tyla ir ramiomis mintimis. Rūkydami žmonės daugiau nieko neveikdavo, tik tyliai, ramiai gulėdavo, rūkydavo ir mąstydavo.. Bet kam sultonui reikalingi pavaldiniai, kurie nieko nedirba?
Tačiau prisiekusių kaljano rūkytojų negąsdino net mirties bausmė. Po 14-os draudimo metų supratęs, kad taip gali išžudyti visus savo pavaldinius, sultonas atšaukė draudimą rūkyti kaljaną. Pasiūlymas parūkyti kaljaną Turkijoje reiškė pasitikėjimo ir palankumo parodymą. Atsisakymas galėjo būti suprastas kaip rimtas įžeidimas. Apie tai buvo žinoma ir kitose šalyse. 1841 metais tarp Prancūzijos ir Turkijos įvyko diplomatinė krizė, nes sultonas prancūzų diplomatui nepasiūlė parūkyti kaljano.
Europoje kaljanas išpopuliarėjo tarp aukštuomenės damų XX amžiaus pradžioje. Ypač buvo madinga fotografuotis rūkant kaljaną.
Nuomonė, kad kaljanui naudojami narkotikai – klaidinga. Senovinė vandens pypkė šimtmečiais buvo skirta dienos stresui „išrūkyti“, atsipalaiduoti su draugais ir giminaičiais. Nors, kaip sakoma Turkijoje, „nesvarbu, ką Jūs dedate į kaljaną, svarbu, su kuo Jūs jį rūkote“. Jei arabų kaljano bare Jums pasiūlys „šišos“, neišsigąskite – tai kaljanas paruoštas su tamsaus Irano tabako ir cukraus sirupo mišiniu. Artėjant vakarui tūkstančiai Artimųjų Rytų miestų gyventojų juda link barų, kur galima rūkyti kaljaną. Dažniausiai tai pagyvenę vyrai. Susėdę šalia neaukštų staliukų jie bendrauja įvairiausiomis temomis. Pokalbiai prasideda politika, o baigiasi seksu – tema, aktualia iki mirties. Retkarčiais jiems patiekiama kavos ar stiprios arbatos. Nuolatiniai šių barų lankytojai sako: Kaljanas – tai filosofija, ištisas pasaulis. Jį perprasti galima tik geroje draugijoje, kurios pagrindas vyriška brolybė ir žmogiškasis orumas“.