La tendance actuelle est d'utiliser les systèmes multi-antennes en émission et en réception afin d'utiliser au mieux le spectre radioélectrique et d'améliorer la liaison radio pour les systèmes de communications sans fil. C'est dans ce contexte que s'inscrit ce mémoire de thèse qui porte sur l'étude et l'optimisation d'un démonstrateur d'antennes intelligentes. Après avoir effectué une étude approfondie des méthodes de détection de directions d'arrivée des signaux RF et développé une technique de formation de lobe, deux prototypes de système d'antenne adaptative ont été développés dans la bande WiMax (3.4-3.5 GHz) et validé expérimentalement. Le premier prototype fonctionnant en réception est basé sur les liaisons de type Uplink. Il utilise les démodulateurs cinq-ports et le système de formation numérique de faisceau où les poids sont calculés par l'algorithme SQP (technique de synthèse développée) et appliqués directement aux signaux en bande de base afin d'améliorer la qualité des signaux reçus c'est-à-dire améliorer le rapport signal à interférent plus bruit. Le deuxième fonctionnant en émission est basé sur les liaisons de type Downlink, c'est un système analogique de formation de faisceau utilisant les modulateurs vectoriels commandés numériquement à partir de la loi d'alimentation donnée par la synthèse de diagramme (algorithme SQP) afin de concentrer le rayonnement émis dans la direction privilégiée du récepteur utile. Ces deux systèmes sont complémentaires dans la mesure où ce dernier utilise les résultats de mesure de DoA du premier pour adapter son diagramme de rayonnement en fonction de la position angulaires des sources.