Das grammatikalische Geschlecht (Genus) von Nullstellenmenge ist feminin Der Artikel im Nominativ ist deswegen die. Deutsche sagen also: die Nullstellenmenge.
Das korrekte Genus finden
Gibt es universelle Regeln, wann ein Wort maskulin, feminin oder neutral ist? Leider nur sehr wenige. Wenn du wirklich sicher sein willst, ob ein Substantiv mit der, die oder das benutzt wird, musst du das Genus auswendig lernen. Du solltest also bei jeder neuen Vokabel nicht nur lernen, was sie heißt, sondern auch, welches Genus sie hat.
Wie gesagt: Logisch ist das Genus im Deutschen nicht. Aber ein paar Regeln gibt es zum Glück doch:
Maskuline Wörter
Sehr oft (aber leider nicht immer) maskulin sind Wörter, mit denen man über Zeit und Datum spricht, also zum Beispiel die Tageszeiten, die Wochentage, Monate und auch Jahreszeiten. Die vier Himmelsrichtungen sind maskulin. Auch Vokabeln, mit denen man das Wetter beschreibt, brauchen oft den Artikel der: der Wind, der Schnee, der Regen. Und auch wenn das berühmteste deutsche Getränk – das Bier – neutral ist; die meisten anderen Getränke mit Alkohol sind maskulin. Außerdem gibt es bestimmte Wortendungen, die man fast nur bei maskulinen Wörtern findet; zum Beispiel: -ig, -ich, -ling oder -en.
Feminine Wörter
Der Apfel ist die wichtigste Ausnahme. Aber fast alle anderen Obstsorten – die Kiwi, die Orange, die Traube – sind feminin. Namen für Schiffe und Motorräder benutzt man im Deutschen auch immer mit die. Es gibt auch einige Suffixe, die zeigen, dass ein Wort sehr wahrscheinlich feminin ist: -in, -keit, -heit, -ung, -schaft oder -ei.
Neutrale Wörter
Die Suffixe -ment, -tum und -chen sind typisch für Wörter, die den Artikel das brauchen. Außerdem benutzen Deutsche das, wenn sie über Farben (das Rot) oder Biersorten sprechen.
Ein oder eine Nullstellenmenge?
Es heißt eine Nullstellenmenge. Beim unbestimmten Artikel gibt es nur zwei Formen: ein und eine. Für feminine Substantive benutzt man im Nominativ Singular eine. Bei allen anderen – also maskulinen und neutralen – ist in der Grundform ein richtig.
Den unbestimmten Artikel benutzt man, wenn für den Zuhörer (noch) nicht klar ist, über welche Person oder Sache man spricht – oder es auch gar nicht so wichtig ist.
Nullstellenmenge im Plural
Fangen wir mit der guten Nachricht an: Den richtigen Artikel für den Plural zu finden, ist leicht. Im Nominativ Plural heißt der bestimmte Artikel immer die, also etwa die Nullstellenmengen. Der unbestimmte Artikel hat keine Pluralform, man sagt also zum Beispiel einfach: viele Nullstellenmengen.
Die Pluralform eines Nomens bildet man oft mit dem Suffix -e. Es gibt aber auch Ausnahmen. Deshalb solltest du den Plural, genau wie das Genus eines Nomens, am besten einfach lernen.