Das ist kein Bruch, sondern eine partielle Ableitung, die (nochmal) differenziert werden will. Man kann also einfach setzen $H(x,p,t):= \frac{\partial G(x,p,t)}{\partial x}$, dann geht es um $H(x(t),p(t),t)$.
Dass im Nenner $\partial x(t)$ steht, ist verwirrend, denn $x(t)$ ist keine Variable von $G$, besser wäre hier $\partial x$, und so wird es ja in der Lösung auch geschrieben.
Damit solltest Du weiterkommen.
Auch stimmt da was mit der Gleichung nicht, denn $p(t)$ kommt am Ende nicht mehr vor. Für mich würde es gut aussehen, wenn $p(t)=P(x(t))$ wäre. Für uns, die wir nachrechnen sollen und keine Ahnung von den Größen haben, sind diese Kleinigkeiten wichtig.
Und mit der rechten Seite weißt nur Du allein, was sich dahinter verbirgt.
Klappt es damit nun?