Chuck Ragan, George Rebelo, Jason Black (tre diciannovenni) e Chris Wollard (diciottenne) sono quattro ragazzi che vivono a Sarasota, in Florida, tutti impegnati a suonare in varie band locali: nel 1994 tutti i gruppi di cui fanno parte decidono di trasferirsi nella vicina città di Gainesville, che nonostante non sia una città molto grande ha una scena musicale molto attiva, essendo piena di ragazzi dato che vi ha sede l'Università della Florida. Nell'agosto dello stesso anno dunque si trasferiscono tutti nello stesso complesso condominiale, ma nel giro di un mese tutte le bands si sciolgono: gli unici che vogliono continuare a suonare sono Chuck, Chris, George e Jason, casualmente due chitarristi, un batterista ed un bassista, la formazione ideale per un gruppo rock. I quattro decidono quindi di dare vita ad una band insieme, in cui Chris e Chuck suonano la chitarra e cantano, Jason suona il basso e George la batteria, e quand'è settembre hanno già composto qualche pezzo proprio. I quattro decidono di chiamare la loro band Hot Water Music, prendendo l'idea da un libro di Charles Bukowski (di cui tutti quattro sono fans), "Hot Water Music" appunto, che Chris sta leggendo in quel periodo. La band organizza così il suo primo show in un Irish pub di Gainesville, il Dirty Nellies, ma dopo qualche canzone il proprietario li fa fermare perché vuole che la gente balli, mettendo su musica da discoteca: la band non si abbatte, e si accorda per un secondo gig, che ha luogo nel bar della Ringling School Of Art di Sarasota, iniziando poi a suonare ovunque si presenti la possibilità, spesso un paio di volte a settimana all'Hardback Café di Gainesville, un locale che di frequente permette a gruppi emergenti di esibirsi. Gli Hot Water Music continuano intanto a comporre nuove canzoni, decidendo in breve di registrare un primo demo, "Push For Coin", che consente loro di trovare un'etichetta disposta a produrli: escono così agli inizi del 1995 per la Toybox Records l'EP "Eating The Filler" (contenente due canzoni), ed uno split con i Swivelstick per la Tuesday Morning Records, entrambi registrati il gennaio dello stesso anno in un solo giorno e stampati inizialmente in 500 copie. A fine maggio tornano in studio per registrare nuovi brani, mentre allo stesso tempo si accordano con la Happy Days Records per la ristampa su CD di "Push For Coin", che esce sempre nel '95. Prima che l'anno volga al termine vede la luce, grazie alla cooperazione tra No Idea Records (una label di Gainesville) e Toybox, anche il primo full-length della band, "Finding The Rhytms", una raccolta di canzoni inedite (quelle registrate in maggio) e quelle incluse in "Eating The Filler" e nello split coi Swivelstick (quelle registrate in gennaio). All'interno del libretto (la cui grafica è curata da Scott Sinclair, un artista di Sarasota che la band conosce dai tempi dell'high school) viene però erroneamente indicato che alcuni dei brani inseriti appaiono anche in varie compilations che dovrebbero uscire a breve, ma che infine non vengono rilasciate. Anche il successivo full-length, "Fuel For The Hate Game", che esce nel '96, viene rilasciato in collaborazione tra No Idea e Toybox, mentre in seguito le nuove ristampe dei due albums vengono curate esclusivamente dalla No Idea. Nel '97 viene rilasciato un EP di due pezzi, "You Can Take The Boy Out Of Bradenton" per la Schematics Records, ed uno split con i Tomorrow per la No Idea, contenente per la parte riguardante gli Hot Water Music tutti ed esclusivamente i brani di "Push For Coin". Nel frattempo gli Hot Water Music cambiano etichetta, passando alla Doghouse Records, ma poco dopo la major label Elektra Entertainment, sottocasa della Warner Music, li contatta per comunicargli di cambiare il loro nome perché stanno per firmare con un altro gruppo chiamato Hot Water Music, e non possono rilasciare nulla con questo nome finché la band di Gainesville si chiamerà allo stesso modo. La Elektra pretende di avere il solo possesso di tale nome, e minaccia una battaglia legale se non lo otterrà spontaneamente: ma i quattro non vogliono cedere a questo sopruso, dato anche che tutti tranne Wollard hanno tatuato sui loro corpi il logo della band: dell'acqua, del fuoco e la scritta "music". Ma la materia dei diritti di nome è piuttosto confusa, e l'avvocato della Doghouse si dimostra poco ferrato in tale campo, e perciò il gruppo è costretto a scrivere il proprio nome sul nuovo full-length in uscita per la nuova etichetta come The Hot Water Music Band. L'album, "Forever And Counting", esce nell'ottobre del '97 per la Doghouse, mentre intanto esce anche uno split per la No Idea con i Clairmel nel quale viene inclusa la canzone "Elektra", scritta dal gruppo proprio per le recenti vicende. La band parte così per vari tours che la vedono suonare anche in Europa, dove però il gruppo si accorge che lo stare a stretto contatto per lungo tempo sta creando dissidi che rischiano di rovinare la loro amicizia, e perciò i quattro nell'estate del '98 decidono di sciogliersi. Ma non vogliono farlo lontano da casa, e pertanto si accordano per un ultimo concerto all'Hardback, il locale che li ha lanciati, per suonare davanti al pubblico di casa. I quattro, che intanto sono riusciti a tornare in possesso del loro nome come band, nell'attesa dell'ultimo show comunque continuano ad uscire insieme, senza parlare o pensare agli Hot Water Music, ma quando si avvicina il momento dell'ultima esibizione, tornano a provare e finiscono per scrivere quattro canzoni, il che li spinge a pensare di tornare ad essere un gruppo attivo a tutti gli effetti. L'8 agosto del '98 suonano comunque all'Hardback quello che inizialmente sarebbe dovuto essere il loro ultimo concerto, che in realtà risulta invece essere il concerto che festeggia il loro ritorno. Dopo questa breve pausa la band riprende comunque da dove aveva lasciato rilasciando subito, sempre nel '98, una grande quantità di materiale, quali uno split con i Rydell per la Scene Police Records in Germania (disponibile però anche negli Stati Uniti come importazione) e l'EP "Alachua", ad opera della Allied Recordings. Ma il gruppo non si è trovato molto bene con la Doghouse, e perciò va alla ricerca di una nuova casa: spediscono così a varie etichette una sessione di registrazione che avevano fatto qualche tempo addietro come demo per dei nuovi brani, e la Some Records di New York si dimostra interessata a loro, concedendo alla band un contratto. Il gruppo chiede subito alla sua nuova label cosa ne pensa di rilasciare subito uno split con una band loro amica, i Six Going On Seven, e questa si dimostra favorevole: prima che il '98 volga al termine esce così uno split tra le due bands per la Some, mentre poco dopo gli Hot Water Music entrano in studio per registrare dei brani per un nuovo full-length, con alla produzione Walter Schreifels dei Quicksand. Tempo pochi giorni e la band ha però già pronte altre cinque canzoni, che vanno così a registrare nel giro di un mese dal termine delle incisioni per l'album, mentre intanto nel marzo del '99 la No Idea rilascia il concerto registrato l'8 agosto all'Hardback sottoforma di un album dal vivo intitolato "Live At The Hardback", che contiene anche qualche inedito. I cinque brani registrati subito dopo la sessione di registrazione per il nuovo full-length vengono poi rilasciati in aprile in uno split con i Leatherface uscito per la B.Y.O. (Better Youth Organization) Records (il primo volume di una serie di split tra varie bands previsti dalla casa), mentre sempre lo stesso mese escono in contemporanea per la No Idea due EP da due brani ciascuno registrati nella primavera del '98, "Where We Belong" e "Moments Pass" (entrambe le title-track erano già state incluse nel live, mentre le due b-side sono nuovi pezzi), che in luglio vengono riuniti in un EP unico da quattro brani intitolato "Moonpies For Misfits", edito sempre dalla No Idea (che include l'intera artwork dei due EP, come sempre curata da Sinclair). In agosto esce invece il nuovo full-length, "No Division", il primo edito dalla Some, che nelle prime due settimane di uscita arriva a vendere 2.000 copie. In seguito, sempre in agosto, la New American Dream rilascia uno split con i Discount, mentre nel frattempo "Alachua" viene ristampato dalla No Idea, dato che la Allied ha cessato di esistere. La band continua comunque a comporre canzoni e ad effettuare concerti in promozione del full-length che li vede anche suonare in posti in cui non sono mai stati come Giappone ed Hawaii (ormai in tutti gli Stati Uniti ad ogni concerto ci sono un migliaio di fans). Nell'estate del 2000 partecipano per sette settimane al Vans Warped Tour, nella cui data di San Francisco conoscono un ragazzo, Charlie, che lavora alla Epitaph, una delle principali case punk-hardcore mondiali, il quale chiede loro se hanno un demo da dargli per proporlo alla dirigenza della casa (capeggiata da Brett Gurewitz, ex chitarrista dei Bad Religion). Dopo un imprevisto (il demo che gli avevano dato era completamente vuoto) a cui Chris ha posto presto rimedio (inviando il suo), la Epitaph tra le tante case interessate alla band si dimostra quella maggiormente coinvolta, ed ottiene così un contratto per tre albums con il gruppo. La band si prende poi qualche mese di pausa (anche se parecchi nuovi brani sono già pronti), anche perché Jason ha pianificato di convolare a nozze l'aprile successivo e Chris si è sposato da poco (quest'ultimo ha anche un figlio di cinque anni), mentre Chuck è sposato già da qualche tempo con Samatha, con la quale, tra l'altro, suona in un gruppo chiamato Rumbleseat al quale partecipa anche Wollard. Intanto comunque la fama della band si sta allargando sempre più, e questo consente già da qualche tempo ai quattro di vivere con i proventi degli Hot Water Music, seppure quasi a stento, e questo li spinge tutti a continuare a fare di tanto in tanto qualche lavoretto (Chuck ad esempio lavora come carpentiere quando può). Il 2000, che ha visto il gruppo suonare più di 200 concerti, si chiude con il rilascio in dicembre da parte della No Idea di "Never Ender", una raccolta di vecchi brani inclusi in EP e splits, disponibile anche in una versione in doppio LP con l'altro disco contente versioni demo inedite in vendita però solo ai concerti della band e tramite la casa discografica per via postale. Il primo full-length per la Epitaph, "A Flight And A Crash", esce nel maggio del 2001 in Europa ed il mese successivo nel resto del mondo (la versione in vinile viene stampata con un brano in più, "So Many Days", dalla No Idea, che è sempre rimasta in buoni contatti con gli Hot Water Music), mentre dopo la solita serie di tours nel gennaio del 2002 viene rilasciato dalla Jade Tree Records uno split con gli Alkaline Trio, nel quale gli Hot Water Music offrono quattro brani, due inediti e due covers. Esce poi per la Some uno split con i Casket Lottery, in cui ciascuna band propone una cover dei Government Issue, mentre intanto il gruppo entra in studio con Brian McTernan (già produttore di Texas Is The Reason, The Promise Ring e Snapcase, tra gli altri) per registrare il seguito di "A Flight And A Crash", "Caution", che esce edito dalla Epitaph nell'ottobre del 2002, con grafica come sempre curata da Scott Sinclair.