Cozy nació en Cirencester, Inglaterra, y empezó tocando la batería en la orquesta de la escuela. El apodo de Cozy fue tomado de Cozy Cole, baterista de jazz.
Su primera experiencia semi-profesional fue en una banda de pop llamada The Sorcerers. En abril de 1970 entra a formar parte de la banda de Jeff Beck, con la que graba dos discos, hasta su ruptura en julio de 1972.
En 1974, Cozy lanza un sencillo en solitario llamado Dance With the Devil, que alcanzó el tercer lugar en las listas inglesas en enero de ese mismo año. Gracias al impacto que causó el sencillo, se forma la agrupación Cozy Powell's Hammer.
En 1976 se une a Rainbow, la banda de Ritchie Blackmore, por la que quizás es más recordado. Tras la muerte de John Bonham en 1980, Powell fue mencionado como su posible reemplazo en Led Zeppelin, pero pese a las buenas intenciones, la banda se separa. A partir de la fecha, Cozy trabajó con muchos artistas y agrupaciones, de las que se destacan Graham Bonnet, Michael Schenker Group (MSG), Robert Plant, Doro,Whitesnake, Gary Moore, Brian May, Emerson, Lake & Powell, Black Sabbath e Yngwie Malmsteen.
