Harris Teeter ha iniziato come due negozi di alimentari indipendenti. Nel 1939, Willis L. Teeter e suo fratello Paul aprirono Teeters Food Mart a Mooresville con un prestito di 1.7000 dollari. Nel 1949, W. T. Harris aprì il suo negozio di alimentari a Charlotte con un prestito di 500 dollari. Il 1° febbraio 1960 entrambi i negozi si consolidarono per formare Harris Teeter Supermarkets, Inc. e aprirono con quindici negozi. Il primo negozio fu aperto a Kannapolis, NC. Nel 1963, Harris Teeter gestì venticinque negozi e successivamente acquistò cinque negozi da Tillman’s Grocery e due piccoli negozi a Charlotte e Gastonia.
Nel 1969, la holding Ruddick comprò Harris Teeter, e la catena di negozi di alimentari, Food World nel 1984, che aveva 52 negozi e 3.000 dipendenti. Con la fusione, Harris Teeter si espanse in quattro stati con 7.000 dipendenti e divenne il secondo più grande negozio di alimentari nella Carolina del Nord. Nel 1988, Harris Teeter acquisì altri 52 negozi acquistando diversi supermercati Big Star e un magazzino della Grand Union Company. Due anni dopo Harris Teeter ottenne la Borden Dairy Plant e iniziò a vendere più prodotti caseari.
Nel 1991, Harris Teeter aggiunse un impianto di congelamento e un impianto di stoccaggio non deperibile a Greensboro. All’inizio degli anni ’90 la sede centrale di Harris Teeter si trasferì a Matthews, NC e l’azienda espanse il suo mercato aprendo il suo primo negozio in Georgia nel 1993. Dal 1994, Harris Teeter preferiva i negozi tra i 33.000 e i 50.000 piedi quadrati. I clienti erano prevalentemente di classe medio-alta e urbana.
Durante questo periodo, Harris Teeter ha enfatizzato una vasta gamma di articoli alimentari, come una varietà di carni, condimenti per insalata, frutta e verdura. I negozi cominciarono a includere una gastronomia con chef, una panetteria e un salad bar. Alcuni negozi includevano anche omelette appena fatte e caffè per la colazione. Harris Teeter non trasporta merci generiche come biglietti d’auguri né i negozi hanno farmacie. L’enfasi dell’azienda è offrire un’ampia selezione di cibo. A metà degli anni ’90 Harris Teeter ha iniziato il suo “Very Important Customer Program”, in cui vengono dati sconti ai clienti frequenti. Nel frattempo, Harris Teeter ha ampliato il suo impegno verso la comunità sponsorizzando enti di beneficenza, donazioni, programmi di borse di studio e banche del cibo.
Nel 2000, la concorrenza ha costretto Harris Teeter a chiudere il suo mercato di Atlanta e a vendere diversi negozi della Carolina del Sud. Anche i controlli dell’inventario furono introdotti per eliminare gli sprechi e per abbassare i prezzi. Harris Teeter ha continuato ad avere successo e nel 2002 ha aperto il suo programma Rancher Beef che fornisce ai consumatori una vasta gamma di carne fresca.