Un giorno Kris Roe, un ragazzo diciannovenne che vive in una piccola cittadina dell'Indiana, Anderson, va ad un concerto di Vandals e Offspring a Indianapolis e dà al chitarrista dei Vandals, Warren Fitzgerald, un demo-tape contenente quattro brani registrati insieme ad un amico in cui canta e suona la chitarra. Qualche settimana dopo, sul finire del '96, Kris viene contattato da Joe Escalante, bassista dei Vandals e proprietario della casa discografica Kung Fu Records, che gli chiede di mettere su una band e registrare un album per la sua label. Kris si unisce all'ex batterista dei Lagwagon Derrick Plourde ed al bassista Jasin Thomason, dando in questo modo vita agli Ataris, prendendo idea per il nome dalla sua passione per i giochi Atari. La band subito, nel gennaio del '97, registra all'f9 Music, con Warren Fitzgerald come produttore, il primo album "...Anywhere But Here", che esce in aprile per la Kung Fu, ma dopo sei mesi di tour, Kris e Derrick decidono di porre la base del gruppo a Santa Barbara (paese dove vive lo stesso Derrick), in California, mentre Jasin, che si trova nel mezzo di una relazione importante, decide di non spostarsi, essendo così costretto a lasciare il gruppo. Un amico di Kris, Marko Desantis, che suona con il nome di Marko 72, entra a fare parte degli Ataris come bassista per un breve tour con Vandals e Mxpx ed uno con Lagwagon e No Use For A Name. Ma al termine di questi la band è sul punto di sciogliersi, e pertanto i tre decidono di separarsi: Kris vuole continuare con gli Ataris, e va così alla ricerca di nuovi componenti, che presto trova in Michael Davenport come bassista, Chris "Kid" Knapp come batterista e Marco Peña come chitarrista, il quale però presto si tira fuori perché non vuole partire in tour. Entra così nel gruppo Patrick Riley, con il quale la band poco dopo, nel giugno del 1998, registra con Joey Cape dei Lagwagon come produttore all'Orange Whip Studios di Santa Barbara dei nuovi pezzi per un nuovo album. Ma prima che questo veda la luce la band incide altri brani al Blasting Room di Fort Collins, in Colorado, studio di proprietà di Karl Alvarez, Bill Stevenson e Stephen Egerton degli All: questi pezzi, prodotti dagli stessi Stevenson ed Egerton, vengono inseriti insieme a due canzoni che verranno incluse nel full-length in uscita in un EP intitolato "Looking Forward To Failure" che viene rilasciato in novembre dalla Fat Wreck Chords, etichetta di Fat Mike dei NOFX. In seguito, dopo sette mesi dal suo ingresso, Pat lascia gli Ataris perché vuole concentrarsi maggiormente sulla scuola, mentre il nuovo album, "Blue Skies, Broken Hearts... Next 12 Exits", viene rilasciato nell'aprile del '99 dalla Kung Fu, vendendo nei primi tempi della sua uscita una media di 600 copie alla settimana in tutto il mondo: ma intanto Marco è tornato nella band, per coprire il ruolo vacante di chitarrista lasciato libero da Pat. La band può così continuare i tours, partecipando anche al U.S. Fat Tour ed al Vans Warped Tour, prima di registrare nuovamente all'Orange Whip "Let It Burn", cd split con il gruppo israeliano Useless I.D., conosciuto proprio durante il tour, che viene rilasciato nell'aprile del 2000, sempre per la casa di Escalante. In giugno la band entra, ancora con Joey Cape alla produzione, al Blasting Room per registrare (con altre incisioni all'Orange Whip ed al Crank Lab di Santa Barbara, in California) il terzo full-length, "End Is Forever", che esce sempre per la Kung Fu nel febbraio del 2001 in contemporanea all'apertura a Santa Barbara di un negozio di dischi di proprietà della band chiamato "Down On Haley". Seguono vari tours, tra i quali la partecipazione al Warped, durante il quale, il 30 giugno 2001, Marco lascia il gruppo a causa di varie differenze con gli altri componenti: il tour viene concluso dal loro tecnico delle chitarre John Collura, che diviene in seguito membro a tempo pieno del gruppo. I tours continuano, gli Ataris suonano a vari festival europei con band come Green Day, Vandals e Less Than Jake, e persino davanti a 65.000 persone ad un festival a cui partecipano anche Marilyn Manson ed Eminem. Nell'agosto dello stesso anno la band, sull'onda delle 100.000 copie vendute negli U.S.A. dell'ultimo album,  firma un contratto con la Columbia Records, sottocasa della Sony Music, la quale comunque lascia loro la possibilità di continuare a rilasciare EP con la Kung Fu. A fine estate gli Kris Roe inizia il remix di "...Anywhere But Here", che viene rilasciato dalla Kung Fu nel febbraio del 2002. La band inizia nel frattempo a lavorare al nuovo album, che inizialmente si dovrebbe chiamare "Don't Ever Compromise What You Believe", ma il cui nome viene poi cambiato in "So Long, Astoria". In estate la band partecipa al Warped Tour, mentre per l'autunno il nuovo lavoro, prodotto da Lou Giordano (che ha già lavorato con Goo Goo Dolls, Samiam e Sunny Day Real Estate, tra gli altri) è stato completamente registrato (all'Orange Whip, all'Ocean Studios di Burbank ed al Grandmaster di Hollywood, tutti in California), e gli Ataris possono così tornare ad effettuare concerti in giro per il mondo a pieno regime: in occasione di un tour in Australia la Kung Fu, in collaborazione con la Shock Records, nel dicembre del 2002 rilascia solo per il mercato australiano un EP contenente due nuovi brani (che verranno inclusi in "So Long, Astoria") ed altri già editi ma in versioni alternative (demo, acustiche), oltre al video di "Make It Last" girato in occasione del remix di "...Anywhere But Here", album di cui la canzone fa parte. "So Long, Astoria" esce infine per la Columbia nel marzo del 2003.