Funde von aus dem 7. Jahrhundert stammenden Gräbern der Alemannen gelten Archäologen als Keimzelle des Dorfes Aalen. In der Nord- und Westwand der unmittelbar vor dem Osttor des Römerkastells gelegenen Johanneskirche wurden römische Steine verwendet; der heutige Bau stammt vermutlich aus dem 9. Jahrhundert.

Im Mittelalter wurde 839 erstmals ein heute zu Aalen gehörender Ort erwähnt, als Kaiser Ludwig der Fromme dem Kloster Fulda einen Gütertausch im Weiler Hammerstadt (Hamarstat) gestattete.Aalen selbst wurde das erste Mal in einem Güterverzeichnis des Klosters Ellwangen 1136 als Dorf Alon und ein Ortsadliger namens Konrad von Aalen erwähnt. Dieses Adelsgeschlecht hatte vermutlich seine Stammburg auf dem Burgstall südlich der Kernstadt und stand wohl zunächst in Diensten des Klosters Ellwangen, später der Staufer, anschließend der Oettinger. Zu Ehren von Kaiser Friedrich Barbarossa, der hier einer Erzählung aus dem 16. Jahrhundert zu Folge einen Hoftag abgehalten haben soll, wurde unterhalb des Burgstalls ein Barbarossa-Brunnen errichtet. 1426 wurde das letzte Mal ein Mitglied der Familie in Verbindung mit Aalen bezeugt. Mittelalterliche Dokumente deuten darauf hin, dass die Stadt Aalen zwischen 1241 und 1246 von den Staufern an einer anderen Stelle als das Dorf Aalen gegründet wurde und dass dieses 1388 im Städtekrieg zerstört wurde. Später waren die Grafen von Oettingen bezeugte Stadtherren, was erstmals für 1340 belegt ist. Sie verpfändeten die Stadt 1358 oder 1359 für eine Geldsumme an Graf Eberhard II. und somit an die Grafschaft Württemberg.