Idősebb Markó Károly nemcsak festőként, hanem grafikusként is kiemelkedik a művészeink sorából: rajzait két közgyűjtemény, a Magyar Nemzeti Galéria és a Keresztény Múzeum őrzi. Ez utóbbi gyűjteményében 227 grafikai lap található idősebb Markó Károlytól. Ám ez a precíznek tűnő szám mégis pontatlan, hiszen nem jelzi, pontosan hány rajza is maradt fenn. Alapokon ugyanis több (elő)tanulmány és vázlat látható, és sokszor a hátoldal is megőrzött néhány rajztöredéket. Az esztergomi rajzok leginkább festményeihez készített alak- vagy drapériavázlatok, tanulmányok. Ezeknek legnagyobb része ceruzával készült, néhol krétával, akvarellel színezve, ekként jelezve a festmény későbbi színvilágát. Ezeket a színvázlatokat a négyzetrácsos kompozíciós vázlatok egészítik ki: a négyzetrács a festményre való átvitelt, az arányok megtartását szolgálta. A mitológiai, bibliai vagy éppen hétköznapi jelenetekhez készített rajzok mellett számos tájtanulmány is akad. Ezeket a tájképeket barna tussal készítette a művész, és nemegyszer barna tuskerettel övezte őket, illetve szignálta. A tussal készült tájképek már nem is tanulmányok, hanem az idősödő Markó önálló értékkel rendelkező művei. A közel háromszáz rajz szerzeményezéséről az első adatot egy levél szolgáltatja. Az írást ifjabb Markó Károly intézte Firenzéből, 1877. szeptember 15-én az Országos Magyar Képzőművészeti Társulatnak. Ebben a dokumentumban leírja, hogy „édesapjának rajzalbumát elküldte a Társulatnak”, és „szívesen venné, ha a Társulat azokat megvásárolná”. Ám nem a Társulat, hanem Simor János esztergomi prímás vette meg a „két nagyérdekü album”-ot 1878. március 30-án. Az 1000 forint értékű „tranzakciót” a sajtó dicsérő szavai kísérték. Simor „muzeológusai” valószínűleg nem sokkal szerzeményezésük után (ma már barbárnak tűnő módszerrel) az albumokat szétvágták az értékesebbnek gondolt rajzok mentén. Az indok igen egyszerű: csak így lehetett a kiválasztott rajzokat az állandó kiállításon bemutatni. A következő évtizedekben sok rajzot a világ különböző pontjain rendezett tárlatokon láthatott a művészetkedvelő közönség: Velencében, Londonban, Kismartonban, illetve Budapesten. A rajzok a mai napig a kutatók számára is nagy értékkel rendelkeznek, hiszen láthatóvá teszik Markó stílusfejlődését, és mint festményeihez készített tanulmányok, vázlatok bemutatják a mester munkamódszerét is.
