Cresciuto nelle giovanili del Baden, in cui militava sin dall'età di sette anni, nel 1998 è prelevato dallo Zurigo: qui, vista anche la giovane età, non riesce a trovare spazio in tre stagioni. Per questo, nel 2001, dopo una breve parentesi al Winterthur, passa all'Aarau, per poi tornare a Zurigo dopo una stagione abbastanza positiva, con 21 presenze e 3 reti; a Zurigo conquista visibilità, raggranellando dal 2002 al 2005 16 gol in 93 presenze, prima del trasferimento in Francia.
Nel 2005, infatti, passa al Lille, squadra militante nella Ligue 1. Nella sua prima stagione, totalizza 22 presenze e 4 gol in campionato e 2 presenze in Champions League; la successiva però, con l'arrivo in squadra dell'ala destraKader Keita, non lo vede integrato nell'organico e negli schemi tattici dell'allenatore Claude Puel, nonostante il gol in Champions contro l'AEK Atene.
Quindi, nel gennaio 2007, viene ceduto in prestito in Ligue 2 al Metz, nella cui stagione della promozione in Ligue 1 Gygax contribuisce con 3 gol in 9 partite. Nella stagione seguente, terminata con la retrocessione del Metz in Ligue 1 gioca 1742 minuti, durante i quali in 25 presenze segna 2 volte.