Alain Gaillard, professeur de français et entraineur de rugby au lycée Marmontel de Mauriac dans le Cantal, est ensuite entraîneur pro du Castres olympique à plusieurs reprises. Il mène le club au titre de champion de France Groupe B en 1989 puis participe à la montée en puissance du club tarnais qui recrute notamment Alain Carminati en 1992 et Gary Whetton en 1993.
Il est champion de France en 1993 contre le FC Grenoble. Castres, qui a éliminé plus tôt dans la saison le même club en quart de finale du challenge Yves du Manoir[1] s'impose sur le score de 14 à 11 dans une finale marquée par des erreurs d'arbitrages en défaveur des Grenoblois[2] avec notamment un essai refusé au Grenoblois Olivier Brouzet[3] et un essai controversé[4] de Gary Whetton en faveur des Castrais[5], Daniel Salles, l'arbitre de la rencontre, reconnaissant vingt ans plus tard, en 2013, avoir alors commis une erreur d'arbitrage[6] et avoir été sous l’influence des supporters du SU Agen dont leur club a été éliminé par Grenoble en demi-finale où les Agenais se plaignaient du jeu des Isérois[7].
Le club castrais dispute également la finale du Challenge Yves du Manoir, battu par le Stade toulousain sur le score de 13 à 8.
Il est encore demi-finaliste du challenge du Manoir l’année suivante.
Il entraîne ensuite l'ASM Clermont Auvergne entre la saison 1994-95 et la saison 1997-98 (avec une demi-finale à la clé en 1996-97) puis à nouveau le CO les 3 saisons suivantes où les tarnais disputent 3 quarts de finale consécutifs en championnat et jouent une finale de Challenge européen.
En 2001, il est toujours à la tête du Castres olympique qui termine en tête de la saison régulière mais doit disputer les demi-finales au stadium de Toulouse sur le terrain de son adversaire Toulousain.
Il démissionne en cours de saison 2001-2002 face aux mauvais résultats du club tarnais.
Il rejoint ensuite l'UA Gaillac qu'il conduit à la victoire dans le Trophée Jean-Prat en 2006 et ainsi à l'accession historique en Pro D2.
Lors de la saison 2007-2008, Castres fait un mauvais début de saison et il est rappelé à la tête du club en remplacement d'Ugo Mola[8]. À la fin de la saison 2008-2009 et après le maintien de Castres dans le Top 14, il décide de quitter le rugby professionnel et s'engage comme entraîneur adjoint de Christophe Lucquiaud -un ancien du CO et son adjoint à l'UA Gaillac- au SC Mazamet qui vient d'être promu en Fédérale 1[9]. Quelques mois plus tard, il quitte le club mazamétain officiellement à cause de la conjoncture économique[10].