Roedd Caerloyw - a gollodd i'r Gleision yn y rownd derfynol y tymor diwethaf - ar y blaen o 16-13 ar yr egwyl yn dilyn ceisiau Gareth Delve ac Adam Eustace, gyda thri phwynt yr un gan Nicky Robinson a Freddie Burns.
Daeth pwyntiau tîm y brifddinas o gais Xavier Rush ac o droed Sweeney.
Ychwanegodd Sweeney a Burns gôl gosb yr un wedi'r toriad, cyn i'r Gleision fynd ar y blaen diolch i gais Sam Norton-Knight.
Roedd dwy gôl gosb Carlos Spencer yn edrych yn ddigon i'r tîm cartref, ond cafodd y blaenwyr eu cosbi yn yr eiliadau olaf a llwyddodd Sweeney o 40 metr i gipio buddugoliaeth ddramatig.
Caerloyw: Burns, Simpson-Daniel, Trinder, Molenaar, Vainikolo, Robinson, R Lawson, Doran-Jones, S Lawson, Somerville, James, Attwood, Eustace, Strokosch, Delve.
Eilyddion: Satala am Burns (61), May am Simpson-Daniel (54), Spencer am Robinson (19), Capdevielle am Doran-Jones (41), Qera am Strokosch (42).
Heb eu defnyddio: Dawidiuk, Thomas, Pasqualin.
Cerdyn melyn: Strokosch (33).
Gleision: Norton-Knight, Mustoe, G. Thomas, Evans, Czekaj, Sweeney, Rees, Morris, R. Williams, Filise, Jones, Morgan, White, Sowden-Taylor, Rush.
Eilyddion: D James for Evans (67), Hobbs for Morris (44), Navidi for Sowden-Taylor (48). Heb eu defnyddion: R James, Andrews, Down, Allinson, Flanagan.
Torf: 6,099
Dyfarnwr: R Debney (RFU).