I ryggmärgen ligger den grå substansen i mitten, på alla sidor omgiven av vit substans
Ryggmärgens grå substans består i själva verket av ett stort antal tätt sammanpackade kärnor. Dessa är symmetriskt arrangerade på båda sidor om medellinjen och ger sammantagna tvärsnittsbilden av ett H eller en fjäril, med ett vingpar riktat bakåt och ett framåt.
De bakre vingarna, eller H-ets bakre staplar bildar ryggmärgens bakhorn (cornu posterius) och de främre ryggmärgens framhorn (cornu anterius). H-ets tvärslå, det parti av den grå substansen som förenar bak- och framhornen, utgör ryggmärgens intermediära grå substans (substantia grisea intermedia).
Ryggmärgens grå substans har alltså 3-dimensionellt formen av en balk med H-format tvärsnitt. Ur 3-dimensionell synvinkel bildar bakhornen "ryggmärgens bakre pelare" (columna posterior)en på hö. och en på vä. sida. Framhornen bildar "ryggmärgens främre pelare" (columna anterior)en på hö. och en på vä. sida.
På segmentnivåerna T1 tom L2-3 och S2 tom S4 tränger den intermediära grå substansen ut i sidosträngen och bildar här tydliga sidohorn (cornu laterale). På dessa nivåer innehåller sidohornen preganglionära nervcellkroppar. På övriga segmentnivåer är sidohornen föga framträdende.