Группа образовалась в Уокинге (графство Суррей) в начале 1975 года; состав ее постоянно менялся, но постепенно выкристаллизовалось ядро: поющий гитарист Пол Уэллер, басист Брюс Фокстон, ударник Рик Батлер. Получив в 1977 году контракт с Polydor Records, группа выпустила в апреле сингл «In the City» (37-е место в Британии), а в мае — альбом того же названия. Пластинка, записанная всего за 11 дней, стилистически напоминала одновременно — The Clash и The Who. Каверы «Slow Down» Ларри Уильямса и бэтменовской темы явно указывали на связь группы с музыкой 60-х. The Jam возглавили движение mod revival, заставив прессу заговорить о «новых The Small Faces».
Тексты Пола Уэллера продолжали традиции песни протеста (о полицейской жестокости — «In the City»; о застройках и гибели городских пейзажей — «Bricks And Mortar»; о падении лейбористской партии — «Time For Truth»). Критика политики лейбористов, использование Юнион-джека в имидже и заявление о Уэллера намерении голосовать за консерваторов привело к тому, что группу ошибочно отнесли к правому политическому крылу «новой волны». В действительности Уэллер (один из основателей музыкально-политического движения «The Red Wedge») всегда придерживался левых взглядов и выражал их с неожиданной для поп-звезды основательностью.
Второй сингл «All Around the World» остановился на подступах к первой «десятке» и группа начала британское турне, в ходе которого был написан материал второго альбома «This Is The Modern World». Он вышел в ноябре 1977 года и поднялся в Британии до 22-го места. В целом альбом был встречен прессой не слишком благосклонно: в частности, подвергся критике творческий вклад Брюса Фокстона (после чего тот оставил попытки писать для группы). Едва ли не единственным, кто мгновенно оценил пластинку, стал Джон Пил: он в своей программе проиграл ее полностью, трек за треком. Впрочем, критика вновь повернулась к группе лицом после выхода сингла «Down in the Tube Station at Midnight», тема которого, насилие скинхэдов, быа крайне актуальна для Лондона того времени.
Короткие гастроли по США оказались неудачными и оставили у участников группы самые неприятные впечатления. Последовавшее затем британское турне трио было прервано из-за жестокой драки с некими регбистами в лидском отеле. Уэллер (с многочисленными переломами) предстал перед судом, но Лидский королевский суд снял с него все обвинения.
В марте 1978 года The Jam вылетели на вторые американские гастроли, где выступили, как ни странно, «разгоревщиками» Blue Oyster Cult, но славы за океаном себе вновь не снискали. Тем временем в Британии их популярность продолжала расти. На Редингском рок-фестивале в августе 1978 года выступили сразу несколько групп, полностью скопировавших их mod-имидж.
Альбом «All Mod Cons», выпущенный в конце 1979 года, стал поворотным пунтом в карьере группы. Пола Уэллера, ставшего в своих композициях искуснее и мелодичнее, а в текстах острее, стали сравнивать уже с Рэем Дэвисом (The Kinks), а не с Питом Тауншендом (The Who). Выпущенный весной 1980 года «Setting Sons» (4-е место в Британии) стал первым, попавшим в списки «Биллборда» (137-е место). К этому времени The Jam стали группой номер один в Британии. Сингл «Going Underground» стал ее первым чарт-топпером. Успех этот повторил «Start», включенный в альбом «Sound Affects», стилистически самый разнообразный и амбициозный в карьере группы. Уэллер увлекся музыкой соул и r’n’b — что отразилось в таких вещах, как «Funeral Pyre» и «Absolute Beginners» (также ставшими хитами).
В 1981 году Пол Уэллер слег с нервным истощением, после чего вынужден был отказаться от алкоголя. В феврале 1982 года «Town Called Malice/Precious» стал третьим чарт-топпером группы. The Jam оказались первыми после The Beatles, кому было предложено исполнить сразу две песни в программе «Top of the Pops».
«The Gift», выпущенный в марте 1982 (и поднявшийся в Британии на первое место), к американской музыке соул имел больше отношения, чем к британскому панку. В октябре 1982 года, решив, что со старым составом он исчерпал свой творческий потенциал, Уэллер распустил The Jam и вскоре образовал The Style Council(вместе с Миком Талботом из The Merton Parkas).