玉樹古為西羌牦牛種地；隋朝前後為蘇毗和多彌二國轄區，唐時為吐番的孫波如，宋時為黎州屬下的囊謙小邦之地，元朝歸吐蕃等路宣慰司管轄，明朝囊謙五室的貴族僧侶屢被賜號為功德自在宣撫國師；明末清初玉樹各部頭人為青海蒙古和碩特部贈爵為諸臺吉；清朝受青海辦事大臣直接管轄，為囊謙千戶領地，下有百戶獨立長等部落，民國時期設置玉樹、囊謙、稱多3縣，統由玉樹行政督督察專員公署管轄，縣之下千百戶制度因襲如故。

    1949年10月，青海省人民解放軍軍政委員會駐玉樹特派員辦公處成立，宣告玉樹地區已完全由人民政府行使管理職能。1951年12月25日成立玉樹藏族自治區，1955年改為自治州，是青海省第一個、全國第二個成立的少數民族自治機構，也是全國30個少數民族自治州中主體民族比例最高、海拔最高、人均佔有面積最大的一個自治州。