Der erste Ansatz ist, die Summanden in der ersten Klammer umzustellen: Aus (a+b+c) macht man (a+c+b). Ist ja dasselbe.
Dann heißt der Term insgesamt: (a+c+b)(a+c-b). Jetzt setzen wir jeweils eine Klammer, die es eigentlich nicht braucht.
((a+c)+b)((a+c)-b)
Würde man nun einfach mal zur Veranschaulichung (a+c) jeweils durch u ersetzen, hätten wir: (u+b)(u-b). Und damit dritte binomische Formel!
Wir können das so nun sogar umformen, es ergibt sich: u^2-b^2
Ersetzen wir u jetzt wieder durch (a+c) dann haben wir (a+c)^2-b^2
Und da kann man jetzt mit der ersten binomischen Formel weitermachen.
Dein Ansatz hat nicht funktioniert, weil du zuerst die falschen Dinge geklammert hast. Und dann mit einzelnen Summanden aus unterschiedlichen Klammern die binomischen Formeln verwendet hast, was ja offensichtlich so nicht klappte :-)