Ich gehe jetzt mal von einem zusammenhängenden Graphen aus.
Wie du schon richtig bemerkt hast, hat ein Baum \(n-1\) Kanten wobei \(n \) für die anzahl der Knoten steht.
Ein ungerichteter Graph hat maximal \(\frac{n(n-1)}{2}\) Kanten (im gerichteten Fall hat man die doppelte Anzahl). Wie du auch schon richtig gesagt hast, hat das Komplement eines Graphen die selben Knoten und alle "nicht-Kanten" werden zu Kanten und umgekehrt.
Das Komplement, in diesem Fall der Baum, hat \(n-1\) Kanten. Diese \(n-1\) Kanten werden in unserem ursprünglichen Graphen zu "nicht-Kanten" und müssen deswegen von der maximal möglichen Anzahl der Kanten, nämlich \(\frac{n(n-1)}{2}\), abgezogen werden. Somit erhalten wir \(\frac{n(n-1)}{2} - (n-1)\) Kanten.
Student, Punkte: 235