La matita è uno strumento indispensabile per questa tecnica perché occorre predisporre il disegno del soggetto prima di stendere il colore.
Le matite possono essere dure (H), morbide (B) e di durezza intermedia (HB).
Le matite morbide sono utilizzate meglio su carta con grana grossa, mentre quelle dure su carta più liscia. Tenere presente che quelle dure lasciano un segno sulla carta incidendola leggermente, quelle morbide hanno la caratteristica di poter essere cancellate facilmente e non lasciano traccia sul foglio. Queste indicazioni possono risultare utili a secondo dei lavori che si devono portare a termine.
La matita nell'acquerello può essere usata anche sul colore già asciutto per accentuare il chiaroscuro o per dare particolari effetti grafici al dipinto.
E' bene fornirsi di temperamatite adatti ad ogni tipo di matita, ma è consigliabile servirsi di un pezzo di carta vetrata a grana fine per assottigliare o smussare le punte, specialmente delle matite morbide la cui grafite si spezza facilmente con i temperamatite meccanici.
In certi casi la matita può essere sostituita dal carboncino che ha un tratto molto più morbido e può essere sfumato con le mani prima di stendere il colore. Questo sistema ha però un impatto più invasivo sulla carta e può condizionare le tonalità leggere specifiche dell'acquerello.