De kerk is als kapel behorende bij het Gasthuis (ziekenhuis) van de stad in 1493 gebouwd, vandaar de naam Gasthuiskerk. De beschermheilige van het Gasthuis was Maria de moeder van Jezus. Het houtsnijwerk op de naald aan de voordeur van de kerk verwijst hier ook naar. De kapel kreeg de heilige Barbara als beschermheilige. Zij is de beschermheilige van o.m. de zeevarenden waarvan er in de middeleeuwen vele aanwezig waren in de stad, met name uit Italië en Frankrijk afkomstig. Waar tijdens de verwoesting van de binnenstad van Middelburg op 17 mei 1940 de abdij en andere historische kerken in vlammen opgingen, bleef de Gasthuiskerk gespaard. Daardoor is de Gasthuiskerk de oudste originele kerk van Middelburg. De Latijnse spreuk: Ecclesia Reformata Semper Reformanda (de kerk die gereformeerd is, moet steeds weer ge-reformeerd worden) is zeker ook van toepassing op het kerkgebouw als we kijken naar het gebruik en het onderhoud van de kerk. Het gebouw heeft in al die eeuwen verschillende gebruikers binnen haar muren gehad:
1492-1558 Rooms Katholieke Kapel
1558-1605 opslagplaats
1605-1624 Engelse kerk
1624-1799 Nederduitsch Gereformeerde gemeente
1799-1845 Rooms Katholieke kerk
1845-1936 Christelijk Afgescheiden gemeente
1936-nu Christelijke Gereformeerde kerk
Het kerkgebouw heeft mede door deze verschillende gebruikers in de tijd de nodige verbouwingen ondergaan. Zo is voor de plaatsing van het huidige orgel, dat dateert uit ca 1790 en in 1874 in de Gasthuiskerk in gebruik is genomen, een muur geplaatst tussen de kerkzaal en het koor. Vervolgens is het dak van het koor vernieuwd waarbij het plafond met gotische bogen werd afgebroken en vervangen door een houten plafond. In het koor en op de zolder woonde lange tijd de koster van de kerk. Het koor is vervolgens in de 20e eeuw gebruikt als keuken en garderobe. Nu is het koor in gebruik als consistorie.
Lange tijd was de kerk ook vrijwel onzichtbaar vanaf de straat omdat aan de voorkant van de kerk winkels en woonhuizen stonden en aan de zijkant proveniershuisjes (letterlijk aanleunwoningen) tegen de kerk aangebouwd waren. Aan de buitenmuren zijn de sporen van deze aanbouw nog duidelijk te herkennen. Destijds bereikte men de voordeur van de kerk door een tussen de winkels gemaakte gewelfde gang (zoals we die nu bijvoorbeeld nog kennen in de Gistpoort en waarvan restanten in het halletje van de winkel naast de kerk zijn te vinden). Een van de hoogtepunten in het gebruik van de kerk was de synode van de christelijke gereformeerde kerken in 1869. In de kerk waren destijds ook meer zitplaatsen omdat tegen de beide zijmuren, waar nu de ramen zitten, een galerij aanwezig was.
De achteringang van de kerk was oorspronkelijk via de deur van het koor omdat de huidige St. Barbaragang dateert uit het midden van de 20e eeuw. De kerk maakte tot het midden van de 19e eeuw onderdeel uit van een groot ziekenhuis- en verzorgingscomplex (zie tekening). Tussen de ziekenzaal en de kapel stond een gebouw voor de rechtbank (de vierschaar) en de baaijerd (gevangenis). Dit gebouw is afgebroken waarna op deze plaats de huidige ontmoetingsruimte is gebouwd.
Nadat het Gasthuis in 1866 werd gesloopt en de panden voor en naast de kerk in 1962 verwijderd waren, kwam de kerk weer in het zicht te staan. In 1953 heeft het dak en het interieur van de kerk een forse restauratie ondergaan. In 2000 werd het dak aan de binnenkant onderhanden genomen toen bleek dat de beruchte boktor kevers het hout aan het opeten waren. Destijds is ook de binnenkant aangepast door het leggen van een tegelvloer met vloerverwarming, een andere indeling van de kerkzaal en de vergroting van de galerij. In 2010 is het orgel weer in oude luister hersteld na een fors restauratie. In 2018 is de buitenkant van de kerk gerestaureerd, met name de gevels en het dak (Nieuwstraatzijde).
