Carolus Borromeus werd op 2 oktober 1538 in de nabijheid van het Lago Maggiore geboren als zoon van een invloedrijke adellijke familie. De leden van de familie Borromeus waren officieren, bankiers en politici, en zij waren verwant aan de Italiaanse hoge adel. Carlo werd door zijn familie tot de geestelijkheid bestemd. Al toen hij twaalf jaar oud was benoemde men hem tot abt van de Benedictijnerabdij van Arona; de familie maakte aanspraak op deze functie, waaraan een aanzienlijk inkomen verbonden was. Met 14 jaar begon Carlo aan de rechtenstudie in Padua, die hij in 1559 met de hoogste onderscheidingen afsloot.

Zijn oom Giovanni Angelo Medici werd in 1559 paus en koos voor de naam Pius IV. Deze haalde zijn neef naar Rome; als 21-jarige werd Carolus Borromeus geheim secretaris, daarna kardinaal-diaken. Zijn voorbeeldige levenswandel en de manier waarop hij zijn plicht vervulde werden geroemd. De heropening van het Concilie van Trente in 1561, daarna de krachtige doorvoering en tenslotte de afsluiting in 1563 waren hoofdzakelijk aan zijn inspanningen te danken. Hij voerde invloed uit op de besluiten en zorgde voor hun uitvoering door paus Pius IV. Hijzelf hield meerdere synodes om de besluiten te realiseren.

Na de dood van zijn geliefde broer Frederico besloot Carolus, priester te worden. In 1563 werd hij gewijd. Korte tijd later ontving hij de bisschopswijding en werd tot kardinaal en tot aartsbisschop van Milaan benoemd; hij kon het ambt echter pas in 1565 aanvaarden. De kardinaal gold als een bescheiden, ascetisch levende weldoener met een grote liefde voor de kunst, hij ontwikkelde zich tot een grote hervormer van de katholieke Kerk en benutte alle familiebanden om succes te hebben. Hij reisde veel door zijn bisdom, de voorbeeldige manier waarop hij zijn leven leidde, maakte indruk op de mensen. Hij zette zich vooral in voor de discipline binnen de Kerk en voor het godsdienstonderricht aan kinderen.

Voor de scholing van priesters en leken stichtte Carolus verscheidene seminaries en andere inrichtingen. Zijn ascetische strengheid, die hij ook van de ordegeestelijken verlangde, en zijn opheffing van de orde van de Humiliaten brachten een monnik ertoe, op hem te schieten. De door hem ingevoerde verzorgingsmaatregelen tijdens de grote pest in de jaren 1576 tot 1578 redden talrijke mensen het leven, maar tastten zijn gezondheid aan. In 1578 stichtte Borromeus de uit dit werk voortgekomen orde van de Oblaten van de H. Ambrosius.

Op de leeftijd van slechts 46 jaar kreeg Carolus een koortsaanval, die zijn door de onvermoeibare arbeid verzwakt lichaam niet kon overwinnen. "Heer, ik kom" waren zijn laatste woorden. Een reusachtige mensenmenigte begeleidde hem naar zijn laatste rusplaats in de Dom van Milaan.

Een gelofte van de Duitse keizer Karel VI leidde na het pestjaar van 1713 tot de bouw van de Carolus-Borromeuskerk in Wenen.

In 1602 werd Carolus Borromeus zalig verklaard en in 1610 door paus Paulus V heilig verklaard.