W 2006 roku Yılmaz podpisał kontrakt z Sakaryasporem, także grającym Süper Lig. Na początku 2007 roku odszedł do Diyarbakırsporu z 1. Lig. W 2008 roku został graczem Ordusporu, również występującego w 1. Lig. Latem tego samego roku przeszedł do greckiego Panthrakikosu. W Superleague Ellada zadebiutował 20 września 2008 roku w przegranym 0:1 meczu z PAOK-iem Saloniki. Graczem Panthrakikosu był przez pół roku.
Następnie w styczniu 2009 roku wrócił do Turcji, gdzie grał dla Vansporu (2. Lig), Tepeciksporu (2. Lig) i Alanyasporu, także występującego w 2. Lig. Od 2010 roku pozostaje bez klubu.
Kariera reprezentacyjna W reprezentacji Turcji Yılmaz zadebiutował 11 czerwca 2003 roku w wygranym 3:2 meczu eliminacji Mistrzostw Europy 2004 z Macedonią. W tym samym roku został powołany do kadry na Puchar Konfederacji. Zagrał na nim w pojedynkach ze Stanami Zjednoczonymi (2:1), Kamerunem (0:1), Brazylią (2:2), Francją (2:3) i Kolumbią (2:1). W meczu ze Stanami Zjednoczonymi strzelił pierwszego gola w kadrze narodowej. W pojedynkach z Brazylią i Kolumbią także zdobył po jednym golu. Tamten turniej Turcja zakończyła na 3. miejscu.
W drużynie narodowej Yılmaz rozegrał w sumie 8 spotkań i zdobył 5 bramek, wszystkie w 2003 roku.