Arferai Gruff Rhys chwarae yn yr un band â chanwr Celt, Martin Beattie, ym Methesda yn ei arddegau ond daeth i amlygrwydd yn nes ymlaen fel prif leisydd Ffa Coffi Pawb.

Ar ôl arwyddo i label Ankst, fe ddaeth Ffa Coffi yn un o brif fandiau Cymru gan ryddhau tair albwm - Clymhalio, Dalec Peilon a Hei Vidal. Pan chwalodd y grŵp yn 1993, aeth Gruff i astudio celf yn Barcelona am gyfnod cyn mynd ati gyda'r drymiwr Dafydd Ieuan o Roscefnhir i ffurfio'r Super Furry Animals.

Aelodau'r grŵp bellach ydy Gruff y lleisydd, Dafydd ar y drymiau, Cian Ciaran, brawd Dafydd ar yr allweddellau, Huw 'Bunf' Bunford ar y gitâr a Guto Price ar y gitâr fâs.

Yn 1995, fe arwyddodd y band i label Creation Records. Yn ôl y stori, gofynnodd Alan McGee, pennaeth y cwmni, iddyn nhw ganu mwy o ganeuon yn Saesneg ar ôl bod yn eu gwylio'n perfformio - heb ddeall eu bod nhw wedi canu pob cân yn Saesneg. Fe wnaethon nhw'n siwr wrth arwyddo fod eu cytundeb yn cynnwys diwrnod o wyliau ar Ddydd Gŵyl Ddewi bob blwyddyn.

Rhyddhawyd eu halbwm gyntaf, Fuzzy Logic, yn 1996 - yr albwm gyntaf i Gruff ganu yn Saesneg arni. Wedi llwyddiant Fuzzy Logic aeth SFA ymlaen i fod yn un o fandiau mwyaf cynhyrchiol, creadigol a hirymarhous y sîn. Gyda sawl EP ac albwm Saesneg y tu ôl iddyn nhw erbyn hyn, fe wnaethon nhw hefyd gyhoeddi albwm Gymraeg hynod lwyddiannus, Mwng, yn 2000.

Ar ddechrau eu gyrfa roedd y band yn enwog am sawl rheswm heblaw eu cerddoriaeth fel yr eirth 40 troedfedd a'r tanc glas a ddefnyddiwyd ar eu teithiau cynnar ac am rannu llwyfan gyda dau 'ieti' cynoesol.

Yn 2003 daeth Gruff nôl i dref ei fagwraeth gyda'r Super Furries i gymryd rhan yng ngŵyl Pesda Roc, atgyfodiad o wyliau llai yr 80au yn y dref i ddathlu canmlwyddiant diwedd Streic Fawr y Penrhyn.

Ym mis Ionawr 2005, recordiodd ei albwm unigol gyntaf, yr Atal Genhedlaeth, gan berfformio ar ei ben ei hun, ynghyd ag Alun Tan Lan a phrosiect Kerdd Dant ar daith o amgylch theatrau Cymru i'w hyrwyddo.