Der See liegt im westlichen Teil des Ostafrikanischen Grabens (Great Rift Valley) und wird von dessen Wänden begrenzt, so unter anderem durch die Zentralafrikanische Schwelle, die an seiner Westseite angrenzt. Der Tanganjikasee erstreckt sich 673 km in nord-südlicher Richtung mit einer durchschnittlichen Breite von 50 km und hat eine Fläche von 32.893 km². Seiner Fläche nach ist er der größte Grabenbruch-See Afrikas, zugleich der zweitgrößte des ganzen Kontinents. Er besitzt mit 18.880 km³ Volumen das größte Süßwasservorkommen Afrikas und das zweitgrößte weltweit nach dem Baikalsee. Der See, dessen Wasseroberfläche 782 Meter über dem Meeresspiegel liegt, ist im Mittel 570 m tief, die maximale Tiefe beträgt 1470 m (im nördlichen Teil), was ihn außerdem zum tiefsten See Afrikas macht. Damit befindet sich der Grund des zweittiefsten Sees der Erde 688 m unter dem Meeresspiegel, was die vierttiefste Kryptodepression der Erde ergibt (nach dem Baikalsee, dem Kaspischen Meer, und dem Toten Meer). Seine enorme Tiefe bedeutet auch, dass es sich in den tieferen Schichten des Sees um fossiles Wasser handelt.
