Dans cette thèse, on construit de manière générique plusieurs familles de fonctions trappe probabilistes : une famille de fonctions trappe homomorphiques généralisant, entre autres, le cryptosystème de Paillier, et deux autres familles de fonctions trappe, à partir de fonctions trappe déterministes. Pour utiliser ces fonctions trappe, on étudie plusieurs groupes finis : les quotients de Z, les courbes elliptiques définies sur Z/nZ,où n est un entier impair, pour lesquelles on donne un système complet de formules d'additions, et un autre groupe fini peu utilisé en cryptographie, celui des éléments de norme 1 d'un corps quadratique modulo n. On expose plusieurs cryptosystèmes avec une analyse de leur sécurité et de leur complexité, en utilisant les familles de fonctions trappe dans ces groupes. Dans les quotients de Z et dans les courbes elliptiques, on retrouve de nombreux cryptosystèmes décrits ces dernières années. Dans les quotients de corps quadratiques, on propose plusieurs nouveaux systèmes probabilistes très performants.