Znak je kombinací osobního znaku se znakem diecéze, takže štít je čtvrcený a v prvním a čtvrtém poli je znak plzeňské diecéze, ve druhém a třetím poli je osobní znak biskupa.

Plzeňská diecéze byla založena v roce 1993 papežem Janem Pavlem II. Toho roku se slavilo i 600. jubilejní výročí smrti sv. Jana Nepomuckého a při určování hranic nové diecéze byla většina území vyčleněna z pražské arcidiecéze a českobudějovické diecéze, menší část pak z Diecéze litoměřické. Tato skutečnost byla reflektována při tvorbě znaku, takže v černém poli je do dvou rozpůlené zlaté břevno připomínající severní část území (připadající kdysi do Arcidiecéze pražské), pod ním pak v kruhu pět zlatých hvězd sv. Jana Nepomuckého, připomínající jižní část území (kdysi připadající do Diecéze českobudějovické).

Osobní znak biskupa: V červeném poli stříbrná holubice a nad ní zlatá osmicípá hvězda. Holubice v křesťanské ikonografii již tradičně vyjadřuje symbol Ducha svatého, stejně tak jako i červená barva oheň lásky. Nejde jen na odkaz ke jménu držitele znaku, ale i na jeho osobní spiritualitu a původ (neboť pochází z královéhradecké diecéze,  jejíž katedrála je zasvěcena Duchu svatému). Velké téma v životě biskupa Holuba je „cesta“, chápaná prvořadě jako výzva. Biblický příběh mudrců od východu, kteří uviděli hvězdu a vydali se na cestu, aby vzdali hold a poklonili se narozenému židovskému králi, je příkladem a povzbuzením (Mt 2, 1-12). Podobně by se měl vydávat na cestu každý křesťan, ale v případě držitele znaku a v okamžiku jeho jmenování k biskupské službě, dostává tento příklad zcela nový rozměr a stává se pro něj výzvou a současně i programem celého episkopátu; tedy kráčet cestou ve světle Ducha svatého a přitom mít stále na zřeteli hvězdu, která nemusí obsahovat pouze mariánský aspekt, jakožto „Hvězda jitřní“. Osm cípů hvězdy totiž odkazuje i na „Osmero blahoslavenství“ (Mt 5, 3-10), která sama o sobě jsou programem a cestou evangelia, k níž Ježíš zve.

Znak je provázen tzv. procesionálním křížem a je převýšen biskupským kloboukem zelené barvy, na jehož šňůrách po každé straně je šest střapců stejné barvy. Znak je doplněn heslem: „Kdo miluje, poznává Boha“ (1 Jan 4, 7). Láska je autentickou známkou spojení mezi člověkem a Bohem. V pojetí apoštola Jana se láska představuje ve dvou rozměrech, které se mezi sebou mají prolínat. První rozměr je „vertikální“ a je základní: „Láska je z Boha“, ano „láska je Bůh“. Je to on, kdo první miloval, a jeho láska je viditelná, zkušenostní, hmatatelná, v Ježíšově osobě. Druhý rozměr lásky je „horizontální“ a rodí se z předešlého. Kdo je milován Bohem, sám zase miluje bližního svého. Tak to zaznívá v závěti, kterou Ježíš zanechal v poslední večer svého pozemského života: „To je mé přikázání: Milujte se navzájem, jak jsem já miloval vás“ (Jan 15, 12). To je mystika, která se od našeho společenství s Bohem rozšiřuje, sbližuje nás s ostatními a spojuje v jednu velkou rodinu církve.

Autorem grafického zpracování znaku je Zdeněk Mareš, děkan českobudějovické katedrály.