Le Conservatoire de l’agriculture s’est construit autour d’une importante collection de machines et d’outils qui retrace l’histoire de l’agriculture et de sa mécanisation, de 1800 à 1960.
A la fin des années 1970 et au début des années 1980, c'est par la collecte du Sedima (Syndicat des entreprises de distributions de machines agricoles) auprès des concessionnaires et des agriculteurs, que les collections ont d'abord été constituées. Le Compa a ensuite bénéficié de deux importantes campagnes de don et de dépôt de l’Institut National Agronomique de Paris-Grignon, en 1986 et en 1998. Enfin, c'est par des achats et surtout par de nombreux dons de particuliers que les collections continuent de s'agrandir.
Au départ exclusivement orientées sur les machines agricoles, les collections se sont ensuite élargies aux métiers et aux débouchés liés à l'agriculture (bourrellerie, maréchalerie, charronnage, alimentation, ...), ainsi que vers les représentations du monde rural (estampes, affiches, photographies, ...).
Lors de l’ouverture du musée (1990) le Conservatoire comptait environ 250 machines et 170 dessins et gravures ; aujourd’hui, il compte près de 7000 numéros à l’inventaire.
Enfin, le Compa c'est aussi une documentation riches de plusieurs milliers d'ouvrages (livres, catalogues de fabricant, manuels techniques, prospectus publicitaires).