乐团其前身是成立于1950年的中央音乐学院管弦乐队。20世纪50年代末，中央音乐学院在发展规划中曾有在管弦系下设一个附属乐队作为系的建制之一的打算，但由于种种原因而未能实现。直至1984年9月，经文化部批准，中央音乐学院在管弦系正式成立了“实验乐团”。乐团的成立为师生的表演实践提供了更好的条件，多次出国访问演出的成功，并于1986年由国务院文化部批示正式命名为“中国青年交响乐团”，成为国家重视的青年交响乐团。隶属于中央音乐学院。
目前音乐总监为中央音乐学院院长俞峰教授，艺术总监为世界著名作曲家谭盾先生，常任指挥夏小汤、陈琳、林涛，客席指挥吴阳。指导教师均为管弦系各个专业教师。