Die Inselgruppe liegt nordwestlich der Inselgruppe Sewernaja Semlja („Nordland“). Franz-Joseph-Land bildet zusammen mit der 160 km westlich und näher an Spitzbergen gelegenen Victoria-Insel (Ostrow Wiktorija) das gleichnamige russische Inselterritorium, das zur Oblast Archangelsk gehört. Die Inseln sind durch Fjorde, Buchten und meist zugefrorene Meerengen vielfach gegliedert. Der nördlichste Punkt Franz-Josef-Lands ist ca. 900 km vom geographischen Nordpol entfernt. Nur Grönland und die ihm nördlich vorgelagerten kleinen Eilande wie die Kaffeklubben-Insel sowie die Ellesmere-Insel im kanadisch-arktischen Archipel liegen näher am Pol. Die südlichste Insel Franz-Josef-Lands ist etwa 370 km von Nowaja Semlja („Neues Land“) entfernt. Franz-Josef-Land begrenzt die Barentssee im Norden.
Die Inselgruppe ist vulkanischen Ursprungs, die mit 620 m höchste Erhebung liegt auf der Wiener-Neustadt-Insel (Ostrow Winer Neischtadt). Die Gesamtfläche der Inseln beträgt 16.090 km², was etwa der Größe der Steiermark oder Thüringens entspricht. Im Einzelnen wurden 191 Inseln gezählt, nach anderer Quelle 187, deren Gesamtfläche zu 85 % ständig mit Eis bedeckt ist (Stand 2003). Damit weist die Inselgruppe die höchste Vergletscherungsrate aller arktischen Länder auf. Die mittlere Eisdicke beträgt rund 180 m. Gletscher bilden etwa 60 % der Küstenlinie.
In Franz-Josef-Land gilt die Zonenzeit UTC+3 als Moskauer Standardzeit (MSK), gleich MEZ +2 Stunden. 2007 gab es noch zwei Stationen, die ganzjährig besetzt waren: die Wetterstation Nagurskaja auf Alexandraland mit einer Winterbesatzung von fünf Personen und das Geophysikalische Observatorium E.T. Krenkel auf der Hayes-Insel mit vier Personen.