Harris Teeter a commencé par deux épiceries indépendantes. En 1939, Willis L. Teeter et son frère Paul ont ouvert Teeters Food Mart à Mooresville avec un prêt de 1 7000 $. En 1949, W. T. Harris a ouvert sa propre épicerie à Charlotte avec un prêt de 500 $. Le 1er février 1960, les deux magasins se sont regroupés pour former Harris Teeter Supermarkets, Inc. et ont ouvert quinze magasins. Le premier magasin a ouvert à Kannapolis, NC. En 1963, Harris Teeter exploite vingt-cinq magasins et achète ensuite cinq magasins de Tillman’s Grocery et deux petits magasins à Charlotte et Gastonia.
En 1969, la société holding Ruddick a acheté Harris Teeter, et la chaîne d’épicerie Food World en 1984, qui comptait 52 magasins et 3 000 employés. En fusionnant, Harris Teeter s’est étendu à quatre États avec 7 000 employés et est devenu le deuxième plus grand magasin d’alimentation en Caroline du Nord. En 1988, Harris Teeter a acquis 52 magasins supplémentaires en achetant plusieurs supermarchés Big Star et un entrepôt de Grand Union Company. Deux ans plus tard, Harris Teeter obtient la laiterie Borden et commence à vendre davantage de produits laitiers.
En 1991, Harris Teeter a ajouté une installation de congélation et une installation de stockage de produits non périssables à Greensboro. Au début des années 1990, le siège social de Harris Teeters a déménagé à Matthews, NC, et la société a élargi son marché en ouvrant son premier magasin en Géorgie en 1993. En 1994, Harris Teeter privilégiait les magasins de 33 000 à 50 000 pieds carrés. Les clients étaient majoritairement issus de la classe moyenne supérieure et de la ville.
Pendant cette période, Harris Teeter a mis l’accent sur un large éventail d’articles alimentaires, tels qu’une variété de viandes, de vinaigrettes, de fruits et de légumes. Les magasins ont commencé à inclure des charcuteries avec des chefs, une boulangerie et un bar à salades. Certains magasins proposent même des omelettes fraîchement préparées et du café pour le petit-déjeuner. Harris Teeter ne propose pas de marchandises générales telles que des cartes de vœux et les magasins n’ont pas de pharmacies. L’entreprise met l’accent sur l’offre d’un large choix de produits alimentaires. Au milieu des années 1990, Harris Teeter a lancé son « Very Important Customer Program », dans le cadre duquel des remises sont accordées aux clients réguliers. Pendant ce temps, Harris Teeter a étendu son action communautaire en parrainant des organismes de bienfaisance, des dons, des programmes de bourses d’études et des banques alimentaires.
En 2000, la concurrence a forcé Harris Teeter à fermer son marché d’Atlanta et à vendre plusieurs magasins de Caroline du Sud. Des contrôles d’inventaire ont également été instillés pour éliminer le gaspillage et faire baisser les prix. Harris Teeter est resté prospère et, en 2002, a ouvert son programme Rancher Beef, offrant aux consommateurs un large éventail de bœufs frais.