Même si la région connaît un peuplement ancien, on peut considérer que Tozeur est d'origine berbère. Elle devient très vite un centre actif du commerce caravanier transsaharien fréquenté par les Puniques.

Les Romains s'y installent en 33 av. J.-C., appelant la ville Thusuros, mais les vestiges de cette époque sont rares. La ville devient un poste sur le limes saharien spécialisé dans le commerce des dattes mais aussi des esclaves (sur la voie romaine allant de Gabès à Biskra). De l'influence chrétienne, il subsiste une église devenue ensuite la mosquée al-Kasr (à Bled al-Haddar).

Au XIIIe siècle, la ville devient musulmane avec l'arrivée des Hafsides et est dotée de 2 mosquées. Elle se développe en dehors de sa palmeraie et connaît un grand essor économique jusqu'à son apogée au XIVe siècle.

Tozeur reste une ville de destination ou de passage pour de grandes caravanes (transportant esclaves, dattes et or) jusqu'au XIXe siècle, époque où elle se replie sur sa vocation agricole de production de dattes. Avec le développement des villes minières voisines de Metlaoui et Redeyef, vers les années 1950, Tozeur voit sa population diminuer. À la production de dattes, dont les célèbres deglet nour s'ajoute plus récemment le développement du tourisme saharien. L'aéroport international de Tozeur-Nefta, mis en exploitation en 1980, est voué aux charters et dessert tout le sud tunisien.

On doit à Ibn Chabbat (né à Tozeur et mort en 1282) d'importants travaux sur la culture du palmier et l'invention d'un système de répartition des eaux. Le plan d'eau de l'oasis du XIIe siècle est exposé au Musée des arts et traditions populaires.

Tozeur est aussi la ville natale du poète Aboul-Qacem Echebbi.