Wenn Du ungeübt bist, wird es nicht gehen ohne alles auszumultiplizieren. Wenn Du geübt bist, brauchst Du nur die Teile (im Kopf) ausmultiplizieren, die nötig sind, und gehst in geschickter Reihenfolge vor.
Beispiel: Wir suchen $b$. Der Koeffizient von $y^2$ aus der rechten Seite ist $-17b$, der auf der linken Seite ist $-17^2$, woraus man sofort $b$ erhält. Ähnlich schnell findet man $d$. Für  $a,c$ geht wohl kein Weg dran vorbei zwei Gleichungen mit zwei Unbekannten zu lösen.
Die Übung zu erlangen lässt sich nicht abkürzen. Man muss einfach einige von solchen Aufgaben selbst rechnen.

Die Aufgabe geht tatsächlich sehr viel einfacher: Auf der linken Seite steht nämlich nichts anderes als das Ergebnis einer dritten binomischen Formel. Also $(ax+bz)^2-(cx+by)^2=\big((ax+bz)+(cx+by)\big)\big((ax+bz)-(cy-by)\big)$. Dann macht man einfach einen Koeffizientenvergleich.