Der amerikanische Sänger stand in den 70er und 80er Jahren hinter mehreren großen Hits, beginnend mit seiner Zeit als Frontmann von Raspberries, wo er die meisten ihrer Songs schrieb oder mitschrieb, darunter auch ihren größten, Go All the Way. Dieses Lied – beschrieben mit den Gitarrenriffs der Who und dem Gesang der Beatles – hatte suggestive Texte, die für einige US-amerikanische und britische Radiosender zu kontrovers waren, und wurde von der BBC aus der Ausstrahlung ausgeschlossen. Die Popularität des Liedes stieg 2014 sprunghaft an, als es in den ersten Guardians of the Galaxy-Soundtrack aufgenommen wurde.

Als sich die Raspberries 1975 auflösten, startete Carmen eine Solokarriere, die sich vom Rock weg und hin zu kraftvollen Balladen entwickelte. Seine ersten beiden Singles waren 1976 große Hits: "All by Myself" – basierend auf Sergej Rachmaninows Klavierkonzert Nr. 2 – und " Never Gonna Fall in Love Again" , das auf einem Teil von Rachmaninows Symphonie Nr. 2 basierte.

Mehrere seiner Songs wurden zu großen Hits, wenn sie von anderen Künstlern aufgeführt wurden – Celine Dion coverte 1996 "All By Myself", Olivia Newton-John coverte 1977 seinen Titel "She Did It" und Shaun Cassidy hatte einen Hit mit Carmens Song "That's Rock and Roll".

Carmen hatte auch einen Hit mit seinem Beitrag zum Dirty Dancing-Soundtrack "Hungry Eyes", der ihn 1987 wieder an die Spitze der Musik-Charts brachte und Platz 4 der Billboard Hot 100 erreichte. Im folgenden Jahr erschien sein Piano-Pop "Make Me Lose Control". war ein ähnlicher Erfolg und erreichte Platz 3. Nach den 1980er Jahren erreichten Carmens Singles die Charts nicht mehr, obwohl er im Jahr 2000 mit Ringo Starr und der All-Starr Band und 2004 erneut mit Raspberries auf Tournee ging, als sie sich für einige Live-Auftritte kurzzeitig wieder trafen.

Er hinterlässt seine Frau und ihre beiden Kinder Clayton und Kathryn.