Allison Janney lahir di Boston, Massachusetts dan dibesarkan di Dayton, Ohio. Ia merupakan putri dari tiga bersaudara pasangan Macy Brooks (née Putnam), mantan aktris dan ibu rumah tangga, dan Jervis Spencer Janney Jr., pengembang real estate dan musisi jazz.[2][3]
Ia belajar di The Miami Valley School di Dayton, di mana ia dinobatkan sebagai alumni ternama pada tahun 2004, dan Hotchkiss School di Connecticut, di mana ia dinobatkan sebagai Alumna of the Year pada tahun 2016.[4] Ia melanjutkan pendidikannya di Kenyon College di Gambier, Ohio. Di Kenyon College, ia belajar bersama Paul Newman, alumni Kenyon College. Paul Newman menyutradarai Allison Janney di panggung drama dalam acara perdananya di Bolton Theater yang baru diresmikan. Paul Newman dan istrinya, Joanne Woodward, mendukung Allison Janney untuk terus berakting. Allison Janney kemudian melanjutkan perjalanan ke Neighborhood Playhouse di kota New York dan mengikuti program musim panas di Royal Academy of Dramatic Art di London.[5] Ia belajar di Neighborhood Playhouse pada tahun yang sama dengan aktor Dylan McDermott. Ia lulus selama dua tahun di Neighborhood Playhouse bersama Steven Rogers.[4]