Op 15 september 1884 richtten Daniel de Lange, Frans Coenen, Julius Röntgen en Joh. Messchaert de voorloper van het Conservatorium van Amsterdam op: het Amsterdamsch Conservatorium. Het instituut huisde aan de Nieuwe Achtergracht 24 in Amsterdam en had in het eerste jaar 32 leerlingen en 10 ‘hospitanten’. In eerste instantie werd er lesgegeven in algemene muziekleer, contrapunt, muziekgeschiedenis, compositie, zang, piano, orgel, viool en cello. 

Vrijwel tegelijkertijd met het conservatorium werd het Koninklijk Concertgebouworkest opgericht; de orkestklas van Het Koninklijk Concertgebouworkest ging al snel op in het conservatorium. De banden tussen de beide instituten zijn sindsdien altijd hecht geweest. Veel orkestleden gaven les aan het Conservatorium van Amsterdam en veel alumni verwierven zich een belangrijke plek in het orkest. Dat resulteerde in een tot dan toe ongekende mate van professionaliteit in het Nederlandse muziekleven in de late 19e en vroege 20e eeuw. Binnen tien jaar veroverde Amsterdam zich een prominente plek op het muzikale wereldtoneel, een positie die de stad nog steeds inneemt. Sindsdien vertegenwoordigen het Koninklijk Concertgebouworkest en het Conservatorium van Amsterdam de top op het gebied van de internationale uitvoeringspraktijk. 

In 1976 fuseerden het Amsterdamsch Conservatorium, het Conservatorium van de Vereniging Muzieklyceum en het Haarlems Muzieklyceum tot het Sweelinck Conservatorium Amsterdam. De voortreffelijke reputatie op het gebied van klassieke muziek werd in 1994 uitgebreid met jazz door een fusie met het gerenommeerde Hilversums Conservatorium. Daarmee kreeg het grootste conservatorium van Nederland gestalte onder de nieuwe naam ‘Conservatorium van Amsterdam’, met alle stijlen onder één dak: klassieke en oude muziek, orkestdirectie, opera, jazz, docent muziek en sinds 2003 ook popmuziek. 

Als gevolg van deze ontwikkelingen groeide het Conservatorium van Amsterdam uit zijn onderkomen in het gebouw van de Rijkspostspaarbank in de Van Baerlestraat en werd er besloten tot nieuwbouw. In 2008 verhuisde het conservatorium naar het nieuwe gebouw aan de Oosterdokskade, op loopafstand van het Muziekgebouw aan ’t IJ, het Bimhuis, de Openbare Bibliotheek en het Centraal Station. Een gebouw waarin al onze dromen werden gerealiseerd: vier concertzalen, goed uitgeruste en akoestisch uitgebalanceerde les- en studiekamers, state-of-the-art opnamestudio’s voor alle mogelijke ensembles en bands, een uitgebreide bibliotheek en een sfeervolle foyer. 
De popafdeling kreeg een eigen onderkomen in de Q-Factory op het Atlantisplein, een bruisend centrum voor muzikanten, acteurs en dansers, met oefenruimtes, een concertzaal en een studio.

Ook op de nieuwe locatie gingen de ontwikkelingen door: in 2018 werd de Amsterdam Electronic Music Academy opgericht, een associate degree in electronic music en productie, en in 2022 kreeg de Nationale opleiding voor jong toptalent van het CvA een tak voor jonge popmuzikanten: de Young Pop Academy. Samenwerkingsverbanden met andere instituten in binnenland - zoals het Koninklijk Conservatorium Den Haag (Dutch National Opera Academy, Nationale Master Orkestdirectie) en de Nederlandse Filmacademie (Composing for Film) – en buitenland garanderen een inspirerend en grensverleggend aanbod aan studieprogramma’s. 

Met oog voor zijn rijke verleden en een blik op de toekomst staat het Conservatorium van Amsterdam zo al 140 jaar in het hart van het actuele muziekleven.

Een overzicht van de feiten
● 15 september 1884: officiële opening van het Amsterdamsch Conservatorium 
● 1888: Concertgebouw gereed 
● 1889: aan het vakkenaanbod worden fluit, klarinet, trompet, harp en contrabas toegevoegd. 
● 1891: Koningin-regentes Emma wordt beschermvrouwe van het conservatorium. 
● 1907: het conservatorium groeit uit het gebouw aan de Nieuwe Achtergracht. Omdat verhuizing naar het volgende onderkomen niet direct mogelijk is, worden in 1906-1907 de lessen gegeven in het Concertgebouw. 
● 1909: het conservatorium verhuist naar Keizersgracht 123 (het Huis met de Hoofden). Het heeft dan 71 leerlingen en vier ‘hospitanten’. 
●  9 oktober 1909: het 25-jarig bestaan wordt gevierd met een concert in het Concertgebouw o.l.v. Daniel de Lange. 
● 1920: oprichting Conservatorium van de vereniging 'Muzieklyceum' 
● 1931: bouw van de Bachzaal gereed, het conservatorium verhuist naar de Bachstraat. 
● 1976: Amsterdamsch Conservatorium, Conservatorium van de vereniging 'Muzieklyceum' en het Haarlems Muzieklyceum fuseren tot het Sweelinck Conservatorium 
● 1985: het Sweelinck Conservatorium verhuist naar het pand van de Rijkspostspaarbank aan de Van Baerlestraat. 
● 1994: Sweelinck Conservatorium en het Hilversums Conservatorium fuseren tot het Conservatorium van Amsterdam. 
● 1998: fusie Conservatorium van Amsterdam is in afrondingsfase, alle studierichtingen zijn samengevoegd in Amsterdam aan de Van Baerlestraat en de Nieuwe Vaart (het Zeemanshuis). 
● 2003: start van de popafdeling 
● april 2008: het conservatorium verhuist naar een nieuw gebouw aan het Oosterdokseiland 
● 12 september 2008: opening van het nieuwe gebouw door koningin Beatrix  
● 2009-2010: het conservatorium viert zijn 125-jarig bestaan met een jubileumjaar vol activiteiten, dat van 20 juni t/m 2 juli 2010 wordt afgesloten met het festival Van barok tot rock aan het Oosterdok.
● 30 maart 2016: bezoek van koningin Máxima aan het symposium 'Muziekeducatie doen we samen', waar ze het eerste exemplaar van de eindpublicatie van het project in ontvangst neemt.
● 2018: start van de Amsterdam Electronic Music Academy
● 2022: start van de Young Pop Academy