Hauszeichen waren häufig Namensgeber für Gasthöfe (in Merseburg z. B. Zum Palmbaum oder Zur Goldenen Sonne), Apotheken (wie der Blaue Hirsch für die Hirschapotheke in Halle) oder auch Brauhäuser - wie beim Brauhaus Zum Pelikan in Halle. Sie sind daher zumeist älter als die Einrichtungen selbst und waren schon zuvor Namensgeber für das Haus und teils auch für seine Bewohner. Im Fall des Goldenen Arms in Merseburg berichtet die teilweise erhaltene Inschrift, dass das Haus auf das Jahr 1457 zurückging, denn dort heißt es (in heutigem Deutsch):
Das Haus zum Goldenen Arm genannt - steht sicherlich in Gottes Hand - 1457
Man darf daher annehmen, dass das Hauszeichen mit der Fertigstellung des damaligen Gebäudes angebracht wurde. Da sich der Gasthof, der in dem Haus eingerichtet wurde, direkt neben dem Alten Rathaus befindet, beherbergte er auch bekannte Personen wie den Grafen Johann T’Serclaes von Tilly (1559-1632), der wenige Monate später im Dreißigjährigen Krieg (1618-1648) verstarb. In den folgenden Jahrhunderten erlangte das Gebäude sowohl größere Bedeutung für die katholische Gemeinde als auch für die stationierten Soldaten, später befand sich hier laut dem Kulturhistorischen Museum Schloss Merseburg eine Wein- und Buchhandlung.
Das weitere Schicksal des Hauses berichtet eine im Jahr 2020 neben dem Hauszeichen angebrachte Tafel des Merseburger Altstadtvereins: 1944 durch einen Luftangriff beschädigt, 1971 im Zuge des Stadtumbaus abgerissen. Die Reliefplatte findet sich heute an der Rathausseite im Durchgang zum Hinterhof des Hauses, war früher aber an der Straßenseite des Vorgängerbaus angebracht.