Ce petit diable moustachu descend des nombreux petits terriers qui peuplaient les écuries et les magasins du 17ème et 18ème siècle dans toute l’Europe, les débarrassant des rats et des souris.
On pense qu'il serait issu d'un croisement entre le carlin et le pinscher allemand à poil dur. Malheureusement, cette race est devenue rare après la Seconde Guerre mondiale.
Ce n’est que dans les années 1950 que l’intérêt pour la race a repris. De nos jours, l'Affenpinscher reste une race relativement confidentielle de par le monde.
Dans les races belges, le museau a totalement disparu, de sorte que le nez se trouve presque à plat contre la tête, mais chez l'Affenpinscher le museau est resté normal.
Anciennement chien de famille dans le sud de l'Allemagne. Albrecht Dürer (1471-1528) a représenté les ancêtres de ces chiens sur ses gravures en bois. Les premières inscriptions d'Affenpinschers remontent à l'année 1879. Ces chiens nains très appréciés au début du 20ème siècle ont été développés à partir des Pinschers à poil dur. La couronne de poil qui encadre sa tête souligne son expression simiesque. La couleur allait d'unicolore jaunâtre, rougeâtre ou blanc-grisâtre à gris foncé, ou noir-grisâtre à
noir pur.