Řadu krásných rolí přinesla Abrhámovi šedesátá a sedmdesátá léta, mimo jiné ve snímcích Každý den odvahu, Dita Saxová, Pension pro svobodné pány, Partie krásného dragouna či Holka na zabití. V roce 1976 se objevil v epizodní roli v komedii dvojice Smoljak-Svěrák Marečku, podejte mi pero!. A s ní přišel zásadní obrat k úsměvným snímkům.
Titulní a vděčné úlohy hrál Abrhám v komediích Kulový blesk či Vrchní, prchni!, v rozverné Menzelově adaptaci románu Vladislava Vančury Konec starých časů či v Žebrácké opeře. V pražském Činoherním klubu zase exceloval ve hrách Višňový sad, Strýček Váňa, Racek, Hráči, Revizor, Tři v tom, Žebrácká opera či Audience.
Syn z evangelické rodiny Josef Abrhám se narodil ve Zlíně 14. prosince 1939. Dětství prožil dětství v Kunovicích. "Lítali jsme po loukách, zahradách, lese, koupali se v rybníku. Zažil jsem tu i válku, kterou jsem tehdy vnímal velmi romanticky a dobrodružně," uvedl před lety herec pro Českou televizi.
Dědova cihelna výborně prosperovala a spolupracovala na Baťových stavbách ve Zlín. Po maturitě však nemohl kvůli kádrovému posudku na žádnou vysokou školu. Nejdříve proto pracoval ve znárodněné rodinné cihelně, aby pak mohl vyplnit do přihlášky na Vysokou školu múzických umění v Bratislavě povolání - dělník.
Po dvou semestrech přešel na pražskou DAMU a vojenskou službu si odbyl v pražském Vinohradském divadle. Hrál s hereckými velikány Marvanem, Vojtou, Pivcem, Smolíkem, Högerem, Lukavským a Štěpánkem.
Po vojně dostal nabídku do Národního divadla, ale rozhodl se pro experiment. V začínajícím divadle v ulici Ve Smečkách, které dostalo název Činoherní klub, strávil celých třicet let. A seznámil se tu i se svou manželkou Libuší Šafránkovou.
Tažení filmovým světem zahájil v roce 1961 studentským snímkem Věry Chytilové Strop. Celkem natočil víc jak padesát filmů. K novějším titulům patří Kráska v nesnázích režiséra Jana Hřebejka z roku 2006, kde vystupuje jako elegán - tmavý oblek, odrostlé bílé vlasy a jemné strniště. Za roli policisty v Šakalích letech (1993) dostal Českého lva.
Jeho nejznámějším televizním partem byl ovšem záletný lékař a později primář Arnošt Blažej v seriálu Jaroslava Dietla Nemocnice na kraji města. Národ ho miloval a odpustil mu i seriálové zálety s milenkou.
S oblíbenou herečkou Libuší Šafránkovou, která zemřela v loňském roce, měli syna Josefa, jenž je dokumentárním režisérem. V jeho režii si Abrhám starší zahrál sám sebe ve snímku Hoteliér z roku 2013 o Činoherním klubu.