Urodził się w rodzinie intelektualistów i dorastał w lewicowym środowisku. Matka Grossa, Hanna Szumańska (córka znanego przedwojennego adwokata, Wacława Szumańskiego, który był obrońcą m.in. w "procesie brzeskim"), była łączniczką Biura Informacji i Propagandy Armii Krajowej i pomagała ukrywać przed Niemcami jego ojca, Zygmunta (Polaka żydowskiego pochodzenia, członka Polskiej Partii Socjalistycznej). Po wojnie pobrali się.
Studiował fizykę na Uniwersytecie Warszawskim, po zaangażowaniu się w protesty studenckie w marcu 1968 aresztowany na pięć miesięcy. W 1969 wyemigrował z rodzicami do Stanów Zjednoczonych. W 1975 obronił doktorat z socjologii na Uniwersytecie Yale, gdzie przez wiele lat był wykładowcą.
Autor między innymi Sąsiadów o pogromie w Jedwabnem dokonanym 10 lipca 1941 na żydowskich mieszkańcach miasta przy udziale Polaków z miasta i okolic.
W czerwcu 2006 ukazała się w USA jego książka Fear: Anti-Semitism in Poland After Auschwitz (Strach: antysemityzm w Polsce po Auschwitz). Zajął się w niej problemem pogromu kieleckiego, krakowskiego i rzeszowskiego w 1946. Polskie wydanie ukazało się 11 stycznia 2008 nakładem wydawnictwa Znak.
Jan Tomasz Gross, Wokół Sąsiadów. Polemiki i wyjaśnienia, Sejny 2003, Pogranicze.
Jan Tomasz Gross Sąsiedzi. Historia zagłady żydowskiego miasteczka. Sejny 2000, Fundacja Pogranicze.