في 75 هـ الموافق 694/95م أصبح واليًا على المدينة المنورة.[8] لكن استدعاه عبد الملك إلى دمشق في العام التالي،[1] ويقول ابن عساكر في قصة عزله: «كان يحيى بن الحكم عاملاً على المدينة لعبد الملك بن مروان، وكان فيه حمق، فوفد على عبد الملك بغير إذن، فقال له عبد الملك: ما أقدمك علي بغير إذني؟! من استعملت على المدينة؟ قال: أبان بن عثمان بن عفان. قال: لا جرم لا ترجع إليها، فأقر عبد الملك أباناً على المدينة، وكتب إليه بعهده عليها.».[9] وقاد خلاله حملة صيفية ضد البيزنطيين في محيط ملطيةوالمصيصة. وفي عام 697/98 قاد حملة ضد الحصن البيزنطي في مرج الشهم.[10] مات يحيى قبل سنة 80 هـ/ 700م. عُثر على شاهد قبره كُتب عليه بالخط الكوفي: «اللهم ارحم يحيى بن الحكم واغفر له» في قصرين في مرتفعات الجولان.[11]
أسرته
كانت إحدى زوجات يحيى خلال حكمه للمدينة أم القاسم بنت عبد الرحمن بن عوف. وله من الأبناء:
"Museum Notes". American Numismatic Society. New York. ج. 19: 178, note 53. 1974. مؤرشف من الأصل في 2022-02-11.
Sharon، Moshe (يونيو 1966). "An Arabic Inscription from the Time of the Caliph 'Abd al-Malik". Bulletin of the School of Oriental and African Studies. ج. 29 ع. 2: 367–372. DOI:10.1017/S0041977X00058900.