Darf man Gespräche während einer nichtöffentlichen Sitzung aufnehmen, bzw. mitschneiden zur späteren "Verwendung"?

ohne Wissen der anderen mit dem Smartphone die Sitzung "mitschneiden"?

Ganz klar: Nein. "Ohne Wissen" darfst du überhaupt nichts "mitschneiden". Guckst du hier: http://goo.gl/S7U90T

Das ist auch keine "kniffelige Frage"; sondern vom Gesetzgeber ziemlich klar geregelt. Das Wort ist vertraulich. Punkt.

Quasi um Beweise oder ähnliches in der Hand zu haben, um das später dann zu "verwerten"? Als Beweis z. B. in einer Verhandlung oder in einer späteren Sitzung?

Abgesehen davon, dass du dich damit strafbar machen würdest, ist eine solche Aufzeichnung wertlos: Sie darf in Zivilprozessen nicht verwertet werden, selbst wenn du damit etwas beweisen könntest. 

Im Zweifel könnte man den Spieß also umkehren: In einem Zivilrechts-Prozess könntest du den "Beweis" nicht benutzen; er würde aber in einem Strafrechts-Prozess gegen dich verwendet werden können.

Die ganzen Nebensätze und evtl. anfallende Anschuldigungen oder Beleidigungen stehen ja nie in solchen Protokollen drin...

Zeugen suchen. Mit einem Anwalt reden. Beleidigungen fallen ggf. unter das Strafrecht.

Aber "heimliche" Aufzeichnungen sind dann immer noch nicht statthaft. Es bedarf der Einwilligung des Gegenübers.

-------------

Tipp: In solchen Fällen würde ich ein Diktiergerät/Smartphone offen auf den Tisch stellen, es demonstrativ einschalten und DANACH** sagen: "Sie haben doch sicherlich nichts dagegen, dass ich unser Gespräch aufzeichne, oder?!" unter Umständen, also wenn gar nichts mehr zu retten ist, auch mit der Verschärfung: "Die strafrechtliche Relevanz Ihrer Thesen würde ich gern prüfen lassen."

**) Die nachfolgende Äußerung deines Gegenübers ist dadurch auch auf dem Band. Er/Sie kann nachträglich also nicht mehr behaupten, keine Zustimmung gegeben zu haben. (Falls sie zu leise oder unverständlich ist, fordere sie ggf. laut nach: "Sie haben gesagt, das sei kein Problem? Könnten Sie das bitte laut und deutlich wiederholen?")

Weigert man sich nun, musst du zwar das Gerät abschalten, hast aber eine realistische Chance, dass dein Gegenüber anfängt, darüber nachzudenken, ob die Beleidigungen wirklich erforderlich sind.

... ja, natürlich, wenn denn alle zustimmen. Siehe ggf.:
.... ein heimlich Tonbandmitschnitt ist nicht gestattet, sogar gemäß § 102 StGB strafbar, das heißt, eingewünschter Tonbandmitschnitt des Verwalters sollte die Zustimmung derEigentümer erhalten oder auch wenigstens die Information, da er dann nicht mehr heimlich ist.

Nein, das ist natürlich nicht erlaubt.

Als Hilfsmittel für den Schriftführer aber bei Bekanntgabe vor Sitzungsbeginn ist es erlaubt und benötigt keine formelle Zustimmung aller Beteiligten.

Schließlich muss das Sitzungsprotokoll vom Vorsitzenden und vom Schriftführer abgezeichnet und auch den anderen Teilnehmern auf Anfrage zur Verfügung stehen.

Selbstverständlich nicht