Jaap Dieleman studeerde zang aan het Koninklijk Conservatorium in Den Haag bij Annie Hermes in Paris bij Pierre Bernac. Tevens studeerde hij piano bij Jan Wijn in Amsterdam en muziekwetenschap aan de Universiteit van Amsterdam.

Hij zong tien jaar als bariton bij het Nederlands Kamerkoor. Daarna werkte hij als correpetitor bij operagezelschappen in Nederland, België en Duitsland. Hij begeleidde masterclasses van Nicolai Gedda, Galina Vishnevskaja, Werner Hollweg, Reri Grist en Nathalie Stutzmann, en hij werkte met dirigenten als Pierre Boulez, Ed Spanjaard, Frans Brüggen, Lucas Vis, Ton Koopman en Jan Willem de Vriend. In 1993 werd Jaap Dieleman muzikaal leider bij Toneelgroep Amsterdam. Daarnaast is hij docent aan het Conservatorium van Amsterdam.