Archie Shepp est né en 1937 à Fort Lauderdale en Floride. Il a 7ans lorsque sa famille déménage à Philadelphie, dans le quartier noir de « brick Yard ».

Il commence par jouer du banjo avec son père, puis il étudie le piano et le saxophone en même temps qu'il fait ses études secondaires au collège de Germantown. Il entre à l'université, s'initie au théâtre, fréquente des romanciers et poètes comme Leroy Jones, et écrit sa première pièce « the Communist », une allégorie sur la situation des noirs américains. A la fin des années 50, Archie Shepp rencontre les musiciens les plus radicaux de l'époque : Lee Morgan, Bobby Timmons, Jimmy Garrisson, Ted Curson, Beaver Harris… Durant cette période, sa conscience politique trouve une expression dans des pièces et des productions théâtrales qui ne lui permettent que de survivre.

C'est au début des années 60 qu'il rencontre Cécil Taylor et réalise avec lui deux enregistrements qui seront déterminants. En 1962, il signe son premier disque en co-leader avec Bill Dixon. L'année suivante il fonde avec John Tchicaï le New York Contempory Five, enregistre quatre disques pour les labels Fontana, Storyville et Savoy et découvre l'Europe avec cette même formation.

A partir d'août 1964, il travaille avec Impulse : 17 disques sont gravés dont Four for Trane, Fire Music, Mama too Tight, qui comptent parmi les classiques de la musique Free. Sa collaboration avec John Coltrane se concrétise dans Ascension en 1965 et marque un tournant dans la musique d'avant garde. Sa participation à la création de la Guilde des Compositeurs avec Paul et Carla Bley, Sun RA, Roswell Rudd, Cecil Taylor, traduit son engagement militant.

En Juillet 1969, il se rend pour la première fois en Afrique au Festival Panafricain d'Alger, ville qui abrite à l'époque beaucoup d'opposants noirs américains. A cette occasion, il enregistre en « live » pour le label Byg, le premier de six albums de la série Actuel et il joue sur scène avec un groupe de touaregs. Dès lors, Archie Shepp multipliera les rencontres musicales « world » avec des Gwoka de la Guadeloupe, des hongrois (CD Hungarian bebop avec Mihaly Dresch) et bien d'autres.

A partir de 1969, il dispense un enseignement d'ethnomusicologie au sein de l'université de Amherst, Massachusetts) ; il continue à se produire à travers le monde en affirmant son identité de musicien africain américain.

Francis Marmande écrit de lui dans le Dictionnaire du Jazz (éditions Robert Laffont ) : « Personnalité artistique et intellectuelle de tout premier ordre, Archie Shepp, musicien phare de l'avant-garde free, a su rejoindre, sans abandonner l'essentiel de cette esthétique, la « voie royale » de l'art jazzistique. En développant une large poly-instrumentalité : ancien altiste, il joue aussi du soprano depuis 1969, du piano depuis 1975, et, plus récemment, chante, à l'occasion, blues et standards. En peuplant son univers musical, dont la substance s'affirme en continuelle expansion, de thèmes et d'éléments stylistiques procurés par les plus grandes voix du jazz : d'Ellington à Monk et Mingus, de Parker à Horace Silver et Albert Taylor. En se donnant la capacité, technique et émotionnelle, d'intégrer à son jeu de saxophone divers effets et tours hérités des maîtres du ténor, de Webster à Coltrane, selon une combinaison qui lui est propre. Laquelle intensifie les traits spécifiques de sa manière : raucité ensauvagée des attaques, son massif que sculpte un vibrato maîtrisé en toutes ses amplitudes, emportement de la phrase jusqu'à bout du souffle, abruptes dénivellations de hauteurs, intensités et tempos, mais aussi tendresse de velours tissée sur telle ballade . En approfondissant l'esprit et la lettre des deux faces du chant originaire de la musique négro-américaine : le blues et le spiritual. Dont il ne cesse, au travers de morceaux classiques ou composés par lui (Black Water Blues de Bessie Smith ou Mama Rose, etc.) de réanimer la force d'étrangeté face à la musique européenne, en un mixte unique de violence blessée et de nostalgie immémoriale. Dès lors, l'ampleur de son œuvre [A ce jour il a enregistré plus de 150 CD] témoigne qu'Archie Shepp est aussi, avec Sonny Rollins, l'un des meilleurs interprètes de la mémoire babélienne du jazz, ayant, pour sa part, disposé sa sensibilité libertaire au recueil et à la comparution de l'entier de cette musique, autant qu'à son invention. »

Ces dernières années Archie Shepp multiplie les rencontres audacieuses sans jamais redouter les prises de risque. Derniers projets sur scène : Archie Shepp 4tet et le Dar Gnawa de Tanger, Born Free (avec entre autres Jalal, Cheikh Tidiane Seck, Rocé), Phat Jam (avec le beat boxer Napoleon Maddox, Hamid Drake, Oliver Lake …), Archie Shepp et Joachim Kühn duo, le nouvel Attica Blues big band, ou encore sa collaboration avec Jason Moran, en duo ou pour un hommage à John Coltrane, avec Amir ElSaffar, Nasheet Waits, Marion Rampal et Darryl Hall.