Le Conservatoire de l’agriculture s’est construit autour d’une importante collection de machines et d’outils qui retrace l’histoire de l’agriculture et de sa mécanisation, de 1800 à 1960.

A la fin des années 1970 et au début des années 1980, c'est par la collecte du Sedima (Syndicat des entreprises de distributions de machines agricoles) auprès des concessionnaires et des agriculteurs, que les collections ont d'abord été constituées. Le Compa a ensuite bénéficié de deux importantes campagnes de don et de dépôt de l’Institut National Agronomique de Paris-Grignon, en 1986 et en 1998. Enfin, c'est par des achats et surtout par de nombreux dons de particuliers que les collections continuent de s'agrandir.

Lors de l’ouverture du musée, en 1990, le Conservatoire comptait environ 250 machines et 170 dessins et gravures ; aujourd’hui, il compte près de 8 000 numéros à l’inventaire. A l’origine essentiellement orientées sur les machines et les outils agricoles, les collections s'élargissent, notamment vers l'artisanat rural (bourrellerie, maréchalerie, charronnage, alimentation, ...), ainsi que vers les représentations du monde rural. Un fonds iconographique de plus de 500 photographies originales et plus de 600 œuvres graphiques (estampes, affiches, dessins…) nous donnent à voir les représentations du monde rural et à mieux comprendre ses mutations sociales, techniques et scientifiques. Le Compa possède également une collection de jouets agricoles, la plus importante en France. Enfin, l'art contemporain est présent au musée : sculptures, photographies, installations, etc.

En 2012, le Compa a bénéficié du transfert des collections du musée des Ruralies, près de Niort et d'Agropolis-Museum à Monpellier : deux musées labellisés Musées de France qui avaient fermé leurs portes quelques années auparavant.

Enfin, le Compa c'est aussi une documentation riches de plusieurs milliers d'ouvrages (livres, catalogues de fabricant, manuels techniques, prospectus publicitaires).

Le Compa met ses collections en ligne depuis 2008. Un plus de 10% est désormais accessible, illustrant la diversité des fonds conservés : tracteurs, machines agricoles, affiches, estampes, dessins, maquettes, jouets…