В 2003 году в возрасте 14 лет, вокалистка Paramore - Хейли Николь Уильямс, переехала из своего родного города Меридиан во Франклин(США), где она познакомилась с братьями, Джошем и Заком Фарро. Вскоре после своего переезда, она стала брать уроки вокала у Бретта Маннинга. До Paramore, Хейли и Джереми играли в funk-группе, под названием «The Factory», в то время как братья Фарро, играли в своём гараже после школы. Группа была официально сформирована в 2004 году: Josh Farro (гитара/бэк-вокал), Zac Farro (ударные), Jeremy Davis (бас) и Hayley Williams (вокал), чуть позднее к ним присоединился сосед Хейли, Jason Bynum (ритм-гитара). Они взяли имя Paramore, которое вытекает из девичьей фамилии матери Джейсона. Когда группа поняла значение омонима слова «paramour» (любовник), они решили что это отличное название для группы. Но все же остановились на «Paramore». Первую песню «Conspiracy» они написали все вместе, позднее она вошла в их дебютный альбом. В течение последующих лет, Paramore выступали в Нэшвилее и близлежащих городах, в том числе на таких фестивалях, как Purple Door и Warped Tour. Там их заметил John Janick, основатель музыкального лейбла «Fueled by Ramen». Janick отправился во Флориду, для того чтобы встретится с ребятами. Не долго думая, в апреле 2005, Paramore подписали контракт и отправились в Орландо для записи своего дебютного альбома «All we know is falling», однако вскоре после прибытия Джереми решил покинуть группу, ссылаясь на личные причины. Остальные четыре участника группы продолжили запись альбома. Обложка первого альбома отразила все тяготы, с которыми пришлось столкнуться ребятам. Хэйли: «Пустой диван (на обложке AWIF) с изображением тени уходящего человека, говорит о Джереми, оставляющего нас с чувством опустошённости.» Так же в альбом вошла песня «Brighter», её они посвятили подруге Хейли - Lanie Kealhofer, которая утонула в реке. Альбом был записан буквально за три недели. Ещё до гастролей состав группы несколько изменился. Место Джереми занял John Hembree(бас). В течение всего лета, они выступали на «the Shira Girl Stage of the 2005 Warped Tour». После пяти месяцев, Джон уходит, и Paramore просят вернутся Дэвиса. «All We Know Is Falling» был выпущен 24 июля, 2005 года и достиг 30-ой позиции в «Billboard Heatseekers Chart». Вскоре paramore сняли клип на песню «Pressure», режиссёром которого стал Шейн Дрейк. Клип провалился в чартах. Но в дальнейшем песня вошла в саундтрек к видео-игре «Sims 2» для Playstation 2 и Xbox. В июле группа, выпускает свой второй клип «Emergency». Шейн Дрейк снова занял почетное место режиссёра. В клипе Paramore предстают в совершенно ином образе. На сей раз мы видим смесь крови и красивых нарядов. В этом видео впервые дебютировал Hunter Lamb, который заменил Джейсона на гитаре. Третьим синглом стала песня «All We Know», видео было выпущено с эфирным ограничением. Оно состоит из коллекции живых выступлений группы и съёмками за сценой. В 2006 группа перепевает песню «Foo Fighters - My Hero» для фильма «Супермэн», который вышел 26 июня. Летом того же года, Paramore играют на таких фестивалях как Warped Tour, Volcom и Hurley Stage. Так же в 2006 они были номинированы на звание «Лучшая новая группа», и Уильямс стала 2-ой в списке «Сексуальных женщин», в популярном британском журнале «Kerrang!» Paramore начали запись своего второго альбома «Riot!» в январе 2007 года. В начале года Хантер Лэмб женился и покинул группу, поэтому Джошу пришлось записывать на альбоме, две гитарные дорожки. Лэмб был заменен гитаристом Тайлером Йорком, который был участником в группе братьев Фарро, до их знакомства с Хейли. Тайлер не входит в официальный состав группы, он был приглашён в качестве временного участника на период гастролей. Правда поговаривают, что в скором времени Йорк будет постоянным членом группы, хотя ему еще предстоит сделать выбор, остаться или пойти по стопам Хантера и покинуть группу ради женитьбы.
Группа решила записать «Riot!» в Нью-Джерси, продюсером альбома стал Дэвид Бэндед. Релиз альбома состоялся 12 июня, 2007. «Riot!» сразу стартовал в «Billboard 200» на 20-ом месте, в «UK chart» на 24-ом. В первую же неделю в Соединённых Штатах было продано 44000 копий альбома. Название Riot! было выбрана потому, что оно означает «Внезапный взрыв неконтролируемых эмоций». Первый сингл с альбома, песня «Misery Business», был выпущен 21 июня 2007 года. «Misery Business - это самая честная песня, которую я написала,» - рассказала Уильямс, - » и парни как нельзя лучше подобрали музыкальное настроение.» Летом 2007 года, Paramore приняли 3-ий раз участие в Warped Tour и поделились своим опытом с молодыми группами, написав пост в «yourhereblog» для MTV. Второй сингл с Riot!, «Hallelujah», был выпущен 30 июля 2007 года и в настоящее время доступен только в Интернете и на телевидении Великобритании. Это видео, так же, как «All We Know», включило в себя съемки за сценой, и живые выступления. В августе Paramore приняли участие в съёмках клипа группы New Found Glory на песню «Kiss Me». 11 октября 2007 г., клип «Crushcrushcrush» дебютировал в США, как следующий сингл с Riot!. Задумка клипа - группа играет посреди пустыни, за ними наблюдают шпионы, которые в конце клипа разбивают все их оборудование. 31 декабря в канун Нового 2007 года, Paramore выступают в программе на MTV, которую можно было наблюдать с 11:30 часов до 1:00. В феврале Paramore попали на обложку журнала «Alternative Press». Так же группа была номинирована на «Лучший новый артист» на 50-ой Ежегодной премии «Грэмми», 10 февраля 2008, но они проиграли Amy Winehouse. В начале февраля парамор отправляются в тур по Европе, но 21-го числа того же месяца, они объявляют о том, что отменяют шесть выступлений из-за личных проблем. Хейли написала в своём блоге на жж: «Перерыв даст нам шанс, уйти, и разобраться в себе». После этого в интернете поползли слухи о распаде группы. Однако группа вернулась в свой родной город Нэшвиль, чтобы снять клип на песню «That’s What You Get», который был выпущен 24 марта, 2008. 19 мая Paramore объявили на своем официальном веб-сайте, что они снова уезжают в тур и дали ему название «The Final RIOT!». Который длился с 25 июля по 1 сентября. Paramore записывают новую песню «Decode», которая была написана специально для фильма «Сумерки». Другая песня «»I Caught Myself» стала саундтреком к фильму. Группа приступила к съёмкам клипа «Decode», 13 октября. Премьера видео состоялась 3 ноября, 2008. Группа выпустила Лайв-альбом с названием «The final Riot!», 25 ноября, 2008. Альбом включает в себя DVD с полным концертом в Чикаго, а также документальное видео «40 дней бунта!».
В ноябре, Джош Фарро объявил, что группа работает над их 3-йм альбомом: «Песни еще не закончены, но у нас есть несколько идей, приблизительно от 8 до 10 аранжировок. Скорее всего, мы уже близки к записи. Я думаю, следующий альбом будет более динамичен, чем предыдущий. Мы хотим поэкспериментировать с музыкой, но при этом остаться Paramore. Это сложно, но у нас есть действительно классные песни, как например, акустическая песня которую мы написали с Тайлером и она не похожа на что-либо, что мы делали раньше.»