Harris Teeter začínal jako dva nezávislé obchody s potravinami. V roce 1939 si Willis L. Teeter a jeho bratr Paul otevřeli Teeters Food Mart v Mooresville s půjčkou 1 7000 dolarů. V roce 1949 si W. T. Harris otevřel vlastní obchod s potravinami v Charlotte s půjčkou 500 dolarů. Dne 1. února 1960 se oba obchody spojily do společnosti Harris Teeter Supermarkets, Inc. a otevřely s patnácti prodejnami. První obchod byl otevřen ve městě Kannapolis ve státě Severní Karolína. Do roku 1963 provozovala společnost Harris Teeter dvacet pět obchodů a následně koupila pět obchodů od společnosti Tillman’s Grocery a dva malé obchody v Charlotte a Gastonii.

V roce 1969 koupila holdingová společnost Ruddick společnost Harris Teeter a v roce 1984 řetězec obchodů s potravinami Food World, který měl 52 prodejen a 3 000 zaměstnanců. Spojením se společnost Harris Teeter rozšířila do čtyř států se 7 000 zaměstnanci a stala se druhým největším obchodem s potravinami v Severní Karolíně. V roce 1988 získala společnost Harris Teeter dalších 52 obchodů koupí několika supermarketů Big Star a skladu společnosti Grand Union. O dva roky později získala společnost Harris Teeter mlékárenský závod Borden a začala prodávat více mléčných výrobků.

V roce 1991 společnost Harris Teeter přidala v Greensboro mrazírenský závod a sklad trvanlivých potravin. Počátkem 90. let se ústředí společnosti Harris Teeter přestěhovalo do města Matthews ve státě Severní Karolína a společnost rozšířila svůj trh otevřením první prodejny v Georgii v roce 1993. Do roku 1994 dávala společnost Harris Teeter přednost prodejnám o rozloze 33 000 až 50 000 metrů čtverečních. Zákazníci byli převážně z vyšší střední třídy a z měst.

V této době kladla společnost Harris Teeter důraz na širokou nabídku potravin, jako například různé druhy masa, salátových dresinků, ovoce a zeleniny. Prodejny začaly zahrnovat lahůdkářství s kuchaři, pekárnu a salátový bar. Některé prodejny dokonce zahrnovaly čerstvě připravené omelety a kávu k snídani. Společnost Harris Teeter nenabízí běžné zboží, například blahopřání, ani nemá v prodejnách lékárny. Společnost klade důraz na nabídku širokého výběru potravin. V polovině 90. let 20. století zahájila společnost Harris Teeter program „Velmi důležitý zákazník“, v jehož rámci poskytuje slevy stálým zákazníkům. Mezitím společnost Harris Teeter rozšířila svou činnost v komunitě sponzorováním charitativních organizací, dárcovstvím, stipendijními programy a potravinovými bankami.

V roce 2000 donutila konkurence společnost Harris Teeter uzavřít trh v Atlantě a prodat několik obchodů v Jižní Karolíně. Byly také zavedeny kontroly zásob s cílem eliminovat plýtvání a snížit ceny. Společnost Harris Teeter zůstala úspěšná a v roce 2002 otevřela program Rancher Beef, který spotřebitelům poskytuje širokou nabídku čerstvého hovězího masa.