Esimerkiksi ennen My Morning Jacketin perustamista James oli Month of Sundays -yhtyeen, joka tunnetaan nykyisin nimellä Mont de Sundua, laulaja ja kitaristi.
My Morning Jacketin laulajana, keulakuvana, tuottajana ja pääbiisintekijänä James on vaikuttanut yhtyeen soundin määrittelyyn. Hänelle myönnettiin ”Esky” parhaasta lauluntekijästä Esquiren vuoden 2006 Esky Music Awards -kilpailussa huhtikuun numerossa.
James soittaa tyypillisesti rytmikitaraa, akustista kitaraa ja satunnaisesti soolokitaraa My Morning Jacketin kappaleissa. Hän näytteli bändinjohtajan roolia Bob Dylan -elämäkertaelokuvassa I’m Not There, jossa hän lauloi kappaleen Going to Acapulco, jonka taustayhtye oli Calexico, ja joka oli mukana elokuvan soundtrackilla. Rolling Stone listasi Jamesin ”20 uuden kitarajumalan” joukkoon yhdessä My Morning Jacket -kitaristitoverinsa Carl Broemelin kanssa. Vuonna 2008 James perusti yhdessä entisen My Morning Jacket -kitaristin ja serkkunsa Johnny Quaidin kanssa Removador Recordings- ja Solutions-levy-yhtiön. Levy-yhtiö, kuten sen verkkosivuilla kuvataan, toimii ”yksinkertaisella periaatteella, jonka mukaan se tuottaa suurimman mahdollisen vuotuisen prosenttiosuuden auditiivisesta ilosta takaisin sijoittajien ja osakkeenomistajien sydämiin ja mieliin helposti ja kätevästi”. Hän oli mukana laulamassa The Decemberistsin vuoden 2009 albumilla The Hazards of Love.
4. huhtikuuta 2009 James esiintyi New Yorkin Radio City Music Hallissa ”Change Begins Within” -konsertissa David Lynch Foundationin hyväksi.
7. heinäkuuta 2009 James julkaisi George Harrisonin kappaleita coveroivan EP:n Tribute To. Osa levyn tuotosta lahjoitettiin Woodstock Farm Animal Sanctuarylle. EP oli saatavilla yimyames.com-sivustolla sekä digitaalisena latauksena että fyysisenä CD/LP:nä.
Vuonna 2009 James ja loput My Morning Jacket -yhtyeestä näyttelivät itseään American Dad -animaatiosarjan jaksossa ”My Morning Straitjacket”!
Vuonna 2012 Rounder Records julkaisi Woody Guthrie -tribuuttialbumin New Multitudes, joka sisältää kappaleita, joita ovat coveroineet useat eri muusikot, mukaan lukien James (nimellä Yim Yames) ja Jay Farrar. James kirjoitti heinäkuun 2012 Louisville-lehden heinäkuun numeroon artikkelin My Morning Jacketista, jossa hän käsitteli, miten bändi sai nimensä ja miten se kasvoi Louisvillessä. Myös yhtyetoverit Patrick Hallahan ja Tom Blankenship kirjoittivat artikkeleita numeroon.
James julkaisi debyyttisooloalbuminsa Regions of Light and Sound of God ATO Recordsilla 5. helmikuuta 2013.
Vuoden 2014 alussa James nauhoitti Lost on the River -levyn: The New Basement Tapes -levyn Elvis Costellon, Marcus Mumfordin, Taylor Goldsmithin ja Rhiannon Giddensin rinnalla. Albumin tuotti T-Bone Burnett ja se on kokoelma Bob Dylanin kirjoittamista osittaisista kappaleista, joita ei koskaan julkaistu.
5. marraskuuta 2015 David Lynchin säätiö järjesti New Yorkin Carnegie Hallissa toisen hyväntekeväisyyskonsertin nimeltä ”Change Begins Within” edistääkseen transsendentaalista meditaatiota stressinhallinnassa. Jim James osallistui siihen Katy Perryn, Stingin, Jerry Seinfeldin, Angelique Kidjon ja klassisen kitaristin Sharon Isbinin kanssa. Ja koska jokainen esiintyjistä harjoittaa aktiivisesti transsendentaalista meditaatiota, he puhuivat myös sen voimasta.
James näyttelee itseään ja laulaa Showtimen Roadies-sarjan jaksoissa 4 ja 10.
Marraskuussa 2016 hän julkaisi toisen sooloalbuminsa Eternally Even.
James ja Teddy Abrams kirjoittivat yhdessä laulusarjan, joka esitettiin Louisvillen orkesterin kanssa 6. ja 7. huhtikuuta 2018 Kentucky Center for the Artsissa.
Huhtikuun 17. päivänä 2018 James ilmoitti julkaisevansa kesäkuun 29. päivänä kolmannen alkuperäistä materiaalia sisältävän sooloalbuminsa Uniform Distortion. Ilmoituksen myötä julkaistiin single ja musiikkivideo albumin avauskappaleesta ’Just A Fool’. Ilmoituksen mukana oli myös Jamesin valokuvaaja Duane Michalsille kirjoittama kirje, jossa hän pyysi käyttämään hänen valokuvaansa ’The Illuminated Man’ albumin kansitaiteessa. James löysi kuvan vuonna 1971 ilmestyneestä The Last Whole Earth Catalog -julkaisusta, jonka hän totesi olleen ensisijainen inspiraatio uudelle albumille.