Nein, das Skalarprodukt ist nicht der Flächeninhalt des von Dir genannten Rechtecks.
Bei einem Rechteck stehen die Seiten senkrecht zueinander. Dann wäre das Skalarprodukt aber null. Also gerade nicht der Flächeninhalt.
Da solltest Du Dir nochmal die Definition vom Skalarprodukt anschauen.

Zur Frage mit dem Sinus: Gesucht ist der Winkel zwischen der Ebene und dem angegebenen Vektor. Weil erstmal nicht klar ist, in welcher Richtung bezüglich der Ebene der Winkel am kleinsten ist (der gesuchte Winkel ist nämlich der kleinste Winkel), wird  mit dem Skalarprodukt der Winkel zum Normalenvektor bestimmt (und nicht zur Ebene). Es gibt nun zwei Möglichkeiten: Berechne den Winkel zum Normalenvektor mit dem Kosinus und ziehe das Ergebnis von 90° ab (das ist ja der Winkel zwischen Ebene und Normalenvektor) - oder rechne mit dem Sinus (der ist ja um 90° verschoben zum Kosinus).

Nochmal zur Anschauung:
Der Nenner Deines Bruches enthält ja die Längen der beiden Vektoren.
Gehe einmal davon aus, dass beide Vektoren in die gleiche Richtung zeigen (der Winkel also gleich ist), aber jeweils die Länge 1 haben.
Dann fällt der Nenner weg (einsmaleins) und wir haben zwei Vektoren, die man in einen Einheitskreis einzeichnen kann. Das Skalarprodukt ist in diesem besonderen Fall die Projektion des einen Vektors auf den anderen Vektor - und wenn das Koordinatensystem so liegt, dass letzterer Vektor auf der x-Achse liegt, dann ist der Wert der Projektion genau der Wert vom Kosinus... und weil man die Reihenfolge vertauschen kann, ist auch egal, parallel zu welcherm Vektor die x-Achse gedreht wird...