Ausklammern heißt auf "Schülerdeutsch", dass du durch das was du ausklammern willst teilen musst. In deinem Fall:

a^2xy + ay = ay(ax+1), dabei wird im ersten Term a^2 durch a geteilt, also bleibt nur noch a, das x bleibt  stehen und das y wird durch y geteilt ist also 1 u. *1 kann man weglassen. Im zweiten Term wird a durch a geteilt was wieder 1 ist und y durch y geteilt was auch 1 ist. Somit bleibt in der Klammer 1*1 was 1 ist. Hoffe ich habs einigermaßen gut erklärt... Ach ja, und das was du ausklammerst bzw. durch was du teilst kommt eben vor die Klammer... Würdest du es wieder reinmultiplizieren kommt der Ausgangsausdruck raus.