"Det er med stor sorg vi kan informere dere om at Jimmy har gått bort om kvelden 6. juli," står det i en tweet på hans offisielle profil.
Familien setter pris på de massive kjærlighets- og hjertevarmende kondolansene og ber om at offentligheten fortsetter med å respektere deres privatliv i denne vanskelige tiden.
Skuespillerens dødsårsak er ikke nevnt.
James Caan fikk sitt gjennombrudd som Sonny Corleone i 1972s "The Godfather".
For rollen ble han nominert til en Oscar samt en Golden Globe for beste birolle.
Men allerede før den store pausen hadde han spilt Brian Piccolo i Brian's Song.
James Caan etterlater seg fem barn.