Teigiama, kad NBA žaidėju J.Thompsono tebuvo du sezonu, o jau po to metėsi į trenerio darbą. Jį 25-uoju šaukimu pasikvietė būtent Bostono ekipa.
Jis vadovavo „St. Antony“ vidurinės mokyklos komandai, o nuo 1972 iki 1999 metų dirbo Džordžtauno universitete ekipoje, su kuria 1984 m. laimėjo NCAA pirmenybes. Jis tapo pirmuoju afroamerikiečių treneriu, kuris triumfavo NCAA.
J.Thompsonas išgarsėjo tuo, kad suteikė šansą Allenui Iversonui ir šis vėliau tapo NBA žvaigžde.
Treneris buvo įtrauktas į Jameso Naismitho krepšinio šlovės muziejų už nuopelnus treniruojant jaunąją kartą.