Erstmalig wurde der Ort 936 in einer Schenkungsurkunde des Servatiusklosters erwähnt. Zu jener Zeit war Anhalt auch von slawischen Völkern, den Sorben und Sorbenwenden, besiedelt, die allerdings zurückgedrängt wurden. Frose besaß nun eine besonders angriffsgefährdete Lage zu den slawischen Gebieten. Dass Markgraf Gero 950 ein dem Cyriacus geweihtes Kloster errichtete, war, einer Legende nach, eine Sühne für den Meuchelmord an dreißig, zu dem "Friedensmahl" geladenen, slawischen Häuptlingen. Bereits 961 war aus dem Mönchskloster ein Frauenstift zu Ehren der heiligen Jungfrau Maria, des heiligen Petrus und des heiligen Cyriacus geworden. Frose, das Stift und seine Güter wurden der Abtei von Gernrode, ebenfalls durch den Markgrafen Gero gegründet, untergeordnet. Die Bedeutung des Ortsnamens ist nicht völlig geklärt; man führt ihn aber auf altgermanische oder altsächsische Einflüsse zurück und deutet Frose als "berasten Boden". Nach Entstehen des Sees um 1446 durch Betreiben des Bischofs von Halberstadt ging die Bevölkerung dazu über, sich von Fischfang und Handel zu ernähren, bis um 1710 die Trockenlegung des Sees erfolgte.
Danach verdienten sich die Froser als Bauern und Torfstecher ihren Lebensunterhalt. 1842/43 wurden im Auftrag der Anhaltinischen und Bernburgischen Regierung Probebohrungen nach Kohlevorkommen in der Froser Gegend durchgeführt. 1867 wurde der Interessengruppe "Grube Ludwig" und zwei weiteren Unternehmern der Abbau gestattet. Dies geschah im Tiefbau. 1865 erhielt Frose einen Eisenbahnanschluss an der Strecke Aschersleben – Halberstadt. 1868 wurde der Streckenabschnitt Frose – Ballenstedt übergeben. Nachdem es 1876 zu einer Gasexplosion im Schacht kam, wurde mit dem Aufschluss des Froser Tagebaus begonnen. In den 80er Jahren des 20. Jahrhunderts wurde ein Baustopp für Frose verhängt, da der Ort abgerissen werden sollte. Nachdem 1989 feststand, dass Frose als eines der ältesten Dörfer im Landkreis nicht dem Bergbau weichen muss, entwickelte sich für den Ort eine ganz neue Atmosphäre. Die Dorferneuerung brachte seit 1994 sichtbare Veränderungen. Im alten Stil erhaltene Straßen und Gassen prägen das Straßenbild. Viel Grün durchzieht und umschließt den gesamten Ort. Trotz der Veränderungen und Erneuerungen hat sich das Dorf seinen typischen Charakter erhalten. Das Wahrzeichen der Gemeinde Frose ist die unter Denkmalschutz stehende Stiftskirche. Die romanische Basilika stammt aus dem 12. Jahrhundert und weist als Besonderheit in den Arkadenreihen einen "niedersächsischen Stützenwechsel" auf. Thomas Müntzer wirkte hier als Probst von 1515 bis 1517. Die Kirche ist als Denkmal in die Sehenswürdigkeiten der Straße der Romanik aufgenommen.