A hierarchikus adatmodell szerkezete leginkább egy fastruktúrához hasonlít, amelyet gráffal adunk meg. Az egyedeket a csomópontok, míg a kapcsolatokat az élek jelzik. Csak azokat az egyedeket kötjük össze élekkel, amelyek között valamilyen kapcsolat van. (Ezt a típusú gráfot fának nevezzük, ugyanis egy gyökércsomópontból minden csomópont csak egyetlen úton érhető el.)

6. ábra
Hierarchikus modell

A hierarchikus modell volt a legelső az adatbázis-kezelésben és egyben a leginkább korlátozott. Például az IBM IMS adatbázis-kezelő rendszer alkalmazta ezt a modellt.

Az adatbázis több egymástól független fából állhat. A fa csomópontjaiban és leveleiben helyezkednek el az adatok. A közöttük levő kapcsolat a szülő-gyermek kapcsolatnak felel meg, így ebben a modellben csak egy-egy vagy egy-több típusú kapcsolatok képezhetők le.

A hierarchikus adatmodell alkalmazására a legkézenfekvőbb példa a családfa, a főnök-beosztott viszonyok, egy iskola szerkezete vagy a házaló kiskereskedelmi láncok (pl. AMWAY).