a)

Damit die Augenzahlsumme bei j-ten Wurf erreicht wird: 

dazu müsste man wissen, ob sie erst beim j-ten Wurf zum ersten Mal erreicht werden darf oder ob die ersten (j-1)-Würfe egal sind. Wäre zweites der Fall, So ist die Wahrscheinlichkeit 1/9, was ich für zu banal halte weswegen ich mich mal um ersteres kümmere: 

hierbei dürfen die ersten (j-1)-Würfe keine 5, also nur das Gegenereignis austreten, was die Wahrscheinlichkeit 1- 1= 8/9 hat. 
der j-te Wurf muss die Summe 5 haben, was zur wahrscheinlichkeit 1/9 passier. 
Also: 

(8/9)^(j-1)  * (1/9) 

Zu a): Wir wissen, dass es mit dem j-ten Wurf stoppt. D.h. im j-ten Wurf ist entweder Summe=5 oder Summe=7 aufgetreten. Dieser j-te Wurf ist aber unabhängig von den vorherigen Würfen (Merke: wenn man 100mal keine 1 gewürfelt hat, ist die W im 101-ten Wurf eine 1 zu würfeln, immer noch 1/6).

Die W, dass im "Endwurf" Summe=5 aufgetreten ist, ist also \(\frac{1/9}{1/9+1/6}\). Zur Kontrolle: Die W, dass im Endwurf Summe=7 aufgetreten ist, wäre \(\frac{1/6}{1/9+1/6}\). Diese und die andere W zusammen geben genau 1, so sollte es auch sein, denn eines von beiden ist ja auf jeden Fall eingetreten.

Nachtrag: Hm, kann sein, dass das die Lösung für b) war. Der Unterschied zwischen a) und b) ist der zwischen "stopped" und "finished".Ich hab mit "finished" gearbeitet (glaube ich....).

Nachtrag 2: wenn ich a) mit "stopped" lese, nicht "finished". Dann darf in den ersten j-1 Würfen weder Summe 5 noch Summe 7 aufgetreten sein (weil es sonst gar nicht erst zum j-ten Wurf kommt). Die W dafür wäre dann

(1-(1/9-1/6))^(j-1)*1/9 = (13/18)^(j-1)*1/9