Über Jahrhunderte war die Stadt Ruhla in zwei Herzogtümer geteilt. Auf beiden Seiten des Erbstroms entstanden deshalb auch Schulen. Das Herzogtum Sachsen-Gotha-Coburg (GA Ruhla) war bestrebter die Bestimmungen der Schulordnung von Herzog Ernst den Frommen einzuhalten. Im Vergleich zum Herzogtum Sachsen-Weimar-Eisenach (EA Ruhla) das die strengen schulischen Reglungen weniger ernst nahm. So hatte 1869 der Eisenacher Teil nur halb soviel schulische Kapazität wie der Gothaische Teil, bei fast gleicher Anzahl an Schulkindern.

Auslöser für den Bau der "gelben" und später auch der "roten" Schule war jedoch der Aufschwung durch die Industrialisierung ca. 1880 in Ruhla. Schon lange herrschte wiederkehrend ein Mangel an genügend Schulräumlichkeiten sowohl auf der Gothaischen Seite (GA) als auch auf der Eisenacher Seite (EA). Die  Zahl der Schulkinder wuchs. Deshalb wurde 1868/69 mit dem Neubau einer Grundschule mit gelbem Putz an der Fassade in der Köhlergasse auf der Gothaischen Seite begonnen. 1888/89 kam noch ein Gebäude für die höheren Klassen, ein Backsteinbau, der bald rote Schule hieß, dazu, ebenfalls auf der Gothaischen Seite.  1993 wurden die gelbe und die rote Schule zur Grundschule am Breitenberg.