Giovanni fu uno dei principali membri di questa rilevante famiglia romana di artisti, a cui appartennero ben sette diversi artisti attivi a Roma tra XII e XIII secolo. Si distinsero in architetture, mosaici e principalmente pavimenti di chiese. Il cosiddetto stile cosmatesco era caratterizzato dall’utilizzo di pietre dure, paste vitree e oro, giustapposte a creare una serie di disegni astratti derivanti dall’arte bizantina e classica. In molti luoghi ecclesiastici dell’Urbe è possibile ammirare le loro opere pavimentali, spesso molto restaurate nel tempo: la Basilica di Santa Maria Maggiore, i Santi Quattro Coronati, Santa Maria in Cosmedin. Importanti anche i loro interventi fuori Roma, come il portale per il Sacro Speco di Subiaco o la facciata di Civita Castellana.
A Giovanni di Cosma vengono attribuite sul finire del ‘200 la struttura del Monumento di Matteo d’Acquasparta, affrescato nella lunetta da Pietro Cavallini (Santa Maria in Aracoeli) e il Monumento di Consalvo Rodriguez (Santa Maria Maggiore).