Когда Джоэл отправился на гастроли в поддержку первого альбома, в свой репертуар он включил новую композицию, "Captain Jack". Именно с помощью этой песни Билли обратил на себя внимание представителей "Columbia Records". "Колумбийцы" вскоре избавили музыканта от кабальных обязательств, и теперь он мог работать в нормальных условиях. В 1973-м вышел альбом "Piano man", заглавный трек с которого принес Билли первое попадание в Топ 20. Сама пластинка продавалась вяло и еле-еле дотянула до золотой отметки (хотя впоследствии ее тираж перевалил за 4 миллиона). Третий альбом ждала худшая участь, и удрученный невезением Джоэл вернулся в Нью-Йорк, где самолично подобрал себе сопровождающий состав. Хотя "Turnstiles" не принес Билли ожидаемых результатов, это альбом все же содержал неплохой материал вроде "New York State of Mind" и "Say Goodbye To Hollywood". Настоящий же прорыв случился в 1977 году, когда музыкант вместе с продюсером Филом Рамоне записал "The Stranger". Эта пластинка оставалась самым продаваемым "колумбийским" релизом до тех пор, пока не появился джексоновский "Thriller".
После "The Stranger" карьера Джоэла пошла на подъем: он стал обладателем премий "Грэмми", а две следующие студийные работы артиста заняли первые места в национальном хит-параде. В 1981 году Билли выпустил свой первый концертник. И хотя материал, представленный на нем, был написан музыкантом еще в начале творческого пути, диск с легкостью преодолел платиновый рубеж. В процессе подготовки очередного лонгплея Джоэлу пришлось перенести мотоциклетную аварию и развод, однако это не помешало артисту закончить сессии и занять с "The nylon curtain" 7-ю строчку в "Billboard". В 1985 году Билли выпустил два сборника "Greatest Hits", а в 1987-м стал первым американским музыкантом, посетившим Советский Союз. На основе этих гастролей был издан "живой" двойник с русским названием "Концерт".
Последней студийной работой Джоэла стал альбом 1993 года "River of dreams", дебютировавший в чартах "Billboard" под номером один. В дальнейшем артист прекратил выпускать новые диски, причем одной из причин такого поворота дел стал "зеленый змий". Тем не менее, концертную деятельность Билли совсем не забросил и время от времени проводил туры как соло, так и в компании с Элтоном Джоном. В 1999 году имя Билли Джоэла было занесено в Зал Славы Рок-н-Ролла.
