Designet af den romerske arkitekt Vitruoya, blev biblioteket bygget til minde om Celsus Polemeanus, som var en romersk senator, general guvernør i provinsen Asien, og en stor elsker af bøger. Celsus 'søn, Julius Aquila, begyndte byggeriet i 110 AD. Biblioteket blev afsluttet af Julius Aquila efterfølgere i 135 AD.
Celsus var begravet under stueetagen i en ledende container inde i en marmor grav. En korridor bag nordvæggen fører til hvælvingen.
Library of Celsus var bemærkelsesværdig, ikke kun for sin størrelse og sin skønhed, men også for sine smarte og effektive design.