Selon la tradition orale, la kasbah a été construite pour la première fois au XVIIe siècle par la famille des Imzouren, une famille locale puissante. Cependant, c’est avec certitude la famille des Glaoui qui s’en est emparée au XIXe siècle et l’a agrandie. À son apogée à la fin du XIXe siècle, la kasbah contrôlait un site stratégique à la confluence de plusieurs vallées fluviales, notamment celles de Draâ et de Dades, qui faisaient partie des routes commerciales du désert. L’un des membres de la famille Glaoui, Thami El Glaoui, fut le célèbre pacha de Marrakech pendant la période du protectorat français au Maroc au XXe siècle.
Après la fin du protectorat français et la perte d’influence des Glaoui dans la région, des squatters ont progressivement envahi la kasbah, qui a commencé à se dégrader. En 1954, elle a été inscrite sur la liste du patrimoine national marocain. En 1956, la propriété est passée sous le contrôle de l’État marocain, bien qu’elle ait été restituée à la famille Glaoui au début des années 1960. En 1972, la famille Glaoui a vendu la kasbah à la municipalité d’Ouarzazate.
Une partie non restaurée de la kasbah, photographiée en 1983
Le site a été négligé jusqu’à la fin des années 1980, lorsque le Centre de conservation du patrimoine architectural de l’Atlas et du pré-Atlas (CERKAS) a été créé et a commencé à superviser la préservation des kasbahs du sud du Maroc. Une petite partie de la kasbah a été restaurée dans les années 1990 avec l’appui de l’UNESCO et est aujourd’hui ouverte au public en tant que monument historique. Certaines parties non restaurées restent toutefois habitées par des familles. La kasbah a servi de décor pour des films tels que Gladiator et Prince of Persia .
Le site a été endommagé par le séisme de septembre 2023 qui a frappé le sud du Maroc. Une évaluation préliminaire a révélé des fissures et des effondrements partiels dans le bâtiment et le quartier historique environnant, avec un risque d’effondrements supplémentaires.