Åby og Åbyhøj ligger i Åby sogn, der indtil 1970 også var Åby kommune med selvstændigt sogneråd. Åby sogn var et almindeligt landsogn med omkring 200 indbyggere indtil 1898. Da fandt de første udstykninger sted i den østlige del af sognet, langs med Silkeborgvej, der var blevet anlagt i 1854. Den 25. september 1902 fik denne nye bydel sit navn "Åbyhøj" af Åby sogneråd. Derefter voksede Åbyhøj med eksplosionsagtig hast. I 1935 var der over 5.000 indbyggere, og i 1942 var den sammenbygget med Århus. Indbyggertallet nåede 10.000 i 1955.