Die Umgebung bei Arnstadt wurde schon sehr früh dauerhaft besiedelt. Aktuelle Funde belegen auf Spuren menschlicher Siedlungen aus der Bronzezeit.
Im Jahr 704 wurde das damalige „Arnestati„ erstmalig in kirchlichen Urkunden erwähnt und zählt somit zu den ältesten Orte Deutschlands. Herzog Hedan II. verschenkte sie zu jener Zeit an Kirchenfürsten, unter deren Herrschaft Arnstadt fast 700 Jahre verbleiben sollte.
Im Jahr 1226 erhielt Arnstadt das Stadtrecht verliehen und entwickelte sich zu einem wichtigen Handelsort mit wohlhabenden Bürgern und starker Befestigung gegen Feinde.
Ab 1332 ging die Stadt in die Grafschaft des Geschlechts von Schwarzenburg über und wurde 1560 - mit der Fertigstellung von Schloss Neideck - zu deren Residenzstadt. Das folgende Jahrhundert brachte den Bewohnern Arnstadts Kriege, Krankheiten und verheerende Brände. Die Stadt verarmte zusehends.
Von 1703 - 1707 lebte Johann Sebastian Bach als Organist in Arnstadt. Trotz seinem Weggang blieb er dem Ort immer verbunden. Arnstadt trägt heute den Beinamen „Bachstadt„. Im Laufe des Jahres 1709 wurde das imposante Barockschloss Augustenberg („Neues Palais„) fertiggestellt, das die Bürgerschaft noch mehr in finanzielle Nöte trieb.
Die Grafen von Schwarzburg regierten Arnstadt bis zu ihrer Eingliederung in den Freistaat Thüringen im Jahr 1920. Der Status einer kreisfreien Stadt wurde 1994 mit der Ernennung zur Kreisstadt aufgehoben.