Fils d'un américain et d'une anglaise, il obtient un diplôme de théâtre de l'Université du Kansas avant d'étudier à Los Angeles au sein de l'American Academy of Dramatic Arts/West.
Après avoir beaucoup joué sur scène, il se révèle au grand public en 1993 avec la série Les Soeurs Reed, où il tient un rôle récurrent. Deux ans plus tard, il débute sa carrière cinématographie avec Halloween 6 : La Malédiction de Michael Myers et
Clueless, suivi en 1996 de Roméo + Juliette.
Ce n'est qu'en 1999 qu'il obtient son premier grand rôle dans la comédie sentimentale L'Objet de mon affection, où il partage la vedette avec Jennifer Aniston (qu'il retrouvera dans Friends).
Dès 2001, Paul Rudd se spécialise dans la comédie notamment dans Présentateur vedette: la légende de Ron Burgundy, 40 ans, toujours puceau, où il est l'un des trois collègues de Steve Carell, En cloque, mode d'emploi, Sans Sarah rien ne va, Le Fantôme de mon ex-fiancée et dernièrement Les grands frères.
À la télévision, il a participé aux deux dernières saisons de la série Friends, où il est Mike, le mari de Phoebe.
En 2009, il est un futur marié qui vient de se trouver un ami dans I Love You, Man.
Paul Rudd est père d'un enfant nommé Jack qu'il a eu avec sa femme, Julie Yaeger.
