John Berchmans was de oudste zoon van schoenmaker John Charles Berchmans en zijn vrouw Elizabeth. Opgegroeid in een vroom katholiek gezin in een tijd van religieuze conflicten in de Lage Landen, toonde hij al vroeg een verlangen naar het religieuze leven. Op dertienjarige leeftijd werd hij bediende in het huishouden van kanunnik John Froymont in Mechelen (Mechelen), wat hem in staat stelde zijn studie voort te zetten ondanks de financiële problemen van zijn familie.

Geïnspireerd door het voorbeeld van de heilige Aloysius Gonzaga en Engelse jezuïetenmartelaren besloot hij zich aan te sluiten bij de Sociëteit van Jezus (jezuïeten), ondanks tegenwerking van zijn familie. Op 24 september 1616 trad hij in het noviciaat van de jezuïeten in.

Na het afleggen van zijn eerste geloften in 1618 werd Berchmans naar Rome gestuurd om filosofie te studeren aan het Romeinse College (nu de Pauselijke Gregoriaanse Universiteit). Hij stond bekend om zijn ijver, opgewektheid, nederigheid en toewijding aan de dagelijkse taken - samengevat in zijn motto: "Niet zozeer grootse dingen doen, maar goed doen wat men moet doen".

Berchmans stierf jong, op tweeëntwintigjarige leeftijd, op 13 augustus 1621, nadat hij ziek was geworden van koorts en dysenterie in Rome.
Hij werd zalig verklaard door Paus Pius IX in 1865 en heilig verklaard door Paus Leo XIII op 15 januari 1888. Zijn hart wordt als relikwie bewaard in Leuven, België.

Johannes Berchmans wordt wereldwijd geëerd, met scholen en kerken die naar hem vernoemd zijn.