Aus den Erwägungen:
5.- In der angefochtenen Verfügung schliesst die Vorinstanz aus dem Umstand, dass der Beschwerdeführer seinen Umzug nicht vorschriftsgemäss gemeldet habe, dass es ihm nicht um die Familienzusammenführung gehe, sondern wirtschaftliche Überlegungen im Vordergrund ständen, weshalb das Gesuch rechtsmissbräuchlich sei.
Wie aus dem Verhalten des Beschwerdeführers anlässlich seines Umzuges auf seine Motivation zum Familiennachzug geschlossen werden kann, ist nicht nachvollziehbar. Der Vorwurf des Rechtsmissbrauchs erhob die Vorinstanz indessen schon in der vorangegangenen Verfügung vom 24. Januar 2005, worin sie den Nachzug der Ehefrau und der beiden ältesten Töchter abwies. Weiter folgerte sie daraus, dass der Beschwerdeführer die freiwillig herbeigeführte Familientrennung während vieler Jahre nicht in Frage gestellt habe, dass nicht familiäre Gründe ausschlaggebend sein könnten.
a) Rechtsmissbrauch liegt allgemein dann vor, wenn ein Rechtsinstitut zweckwidrig zur Verwirklichung von Interessen verwendet wird, die dieses Rechtsinstitut nicht schützen will. Beim Nachzug von Ehegatten ist dies der Fall, wenn ein Ausländer sich im Verfahren um Erteilung einer fremdenpolizeilichen Aufenthaltsbewilligung auf eine Ehe beruft, welche nur (noch) formell und ohne Aussicht auf Aufnahme bzw. Wiederaufnahme einer ehelichen Gemeinschaft besteht (vgl. BGE 130 II 117 Erw. 4.2 mit Hinweisen). Beim Nachzugsrecht für Kinder liegt Rechtsmissbrauch vor, wenn nicht die Herstellung der Familiengemeinschaft in der Schweiz beabsichtigt wird, sondern Art. 17 Abs. 2 ANAG zweckwidrig für die Beschaffung einer Niederlassungsbewilligung allein im Hinblick auf eine künftige selbständige Anwesenheit als Erwachsener und eine Erwerbsaufnahme in der Schweiz, d.h. zwecks Verschaffung besserer Zukunftsaussichten angerufen wird (vgl. BGE 126 II 333 Erw. 3b). Rechtsmissbrauch kann namentlich auch dann angenommen werden, wenn das Leben in der Familiengemeinschaft allenfalls eine gewisse Rolle spielen könnte, jedoch als Motiv für die Gesuchseinreichung von verschwindend geringer Bedeutung ist (BG-Urteile 2A.455/2004 vom 13.12.2004 Erw. 2.1 und 2.2 und 2A.314/2001 vom 10.12.2001 Erw. 3d). Je länger mit der Ausübung des Nachzugsrechtes ohne sachlichen Grund zugewartet wird und je knapper die verbleibende Zeit bis zur Volljährigkeit ist, umso eher kann sich auch bei im Ausland zurückgelassenen gemeinsamen Kindern zusammenlebender Eltern die Frage stellen, ob wirklich die Herstellung der Familiengemeinschaft beabsichtigt ist oder die Ansprüche aus Art. 17 ANAG zweckwidrig für die blosse Verschaffung einer Niederlassungsbewilligung geltend gemacht werden (BGE 126 II 332f. Erw. 3b, BG-Urteil 2A.664/2004 vom 22.11.2004 Erw. 2.2).
b) Was den Nachzug der Ehefrau des Beschwerdeführers anbelangt, führt die Vorinstanz keine Anhaltspunkte an und es sind auch keine solchen aus den Akten ersichtlich, dass zwischen dem Beschwerdeführer und seiner Ehefrau keine lebendige Beziehung mehr bestehen würde. Im Gegenteil ist aus den Aufenthalten des Beschwerdeführers im Kosovo, den Besuchsaufenthalten seiner Familie in der Schweiz und aus seinen Ausführungen anlässlich der richterlichen Befragung zu schliessen, dass trotz der langen Anwesenheit des Beschwerdeführers in der Schweiz immer noch ein enger Zusammenhalt in der Familie besteht. Der Nachzug seiner Ehefrau erweist sich somit nicht als rechtsmissbräuchlich.
c) aa) Die Vorinstanz wirft dem Beschwerdeführer einerseits vor, nicht schon früher um Familiennachzug ersucht zu haben und andererseits kritisiert sie seine Vorgehensweise, vorerst das Begehren auf zwei seiner Kinder beschränkt zu haben (Gesuch vom 3.9.2003).
bb) Dazu ist Folgendes festzuhalten: Der Beschwerdeführer ersuchte erstmals am 15. September 1998, das heisst unmittelbar nachdem er die Niederlassungsbewilligung erhalten hatte (10.9.1998) um Familiennachzug. Entgegen der Behauptung der Vorinstanz dehnte er dieses Gesuch gemäss seinen ergänzenden Ausführungen vom 5. November 1998 auf die gesamte Familie aus. Obwohl sich der Beschwerdeführer auf einen Anspruch berufen konnte, entschied die Vorinstanz nicht über das Gesuch, sondern liess es bei der blossen Mitteilung an den nicht anwaltlich vertretenen Beschwerdeführer bewenden, er benötige ein Einkommen von Fr. 5010.- um sämtliche Kinder nachziehen zu können. Das Gesuch um Bewilligung eines vorübergehenden Besuchsaufenthaltes vom 31. Mai 1999 bezweckte nicht wie der Familiennachzug die zeitlich unbegrenzte Vereinigung der Gesamtfamilie und berechtigte daher die Vorinstanz nicht, das Familiennachzugsgesuch nicht mehr weiter zu behandeln. Dass die Vorinstanz das Gesuch nicht durch eine anfechtbare Verfügung erledigte, stellt folglich eine formelle Rechtsverweigerung dar (§ 108 VRG; vgl. Kölz/Bosshart/Röhl, Kommentar zum Verwaltungsrechtspflegegesetz des Kantons Zürich, Vorbem. zu §§ 19-28 N 46; Merkli/Äschlimann/Herzog, Kommentar zum Gesetz über die Verwaltungsrechtspflege im Kanton Bern, Bern 1997, N 63f. zu Art. 49). Angesichts der Tatsache, dass ein Ausländer mit Jahresaufenthaltsbewilligung keinen Anspruch auf Bewilligung des Familiennachzuges hat und überdies als eine der Voraussetzungen für einen Nachzug genügend finanzielle Mittel für den Unterhalt der Familie erforderlich sind (Art. 39 Abs. 1 lit. c BVO), ist es dem Beschwerdeführer nicht vorzuwerfen, dass er zuwartete, bis er im Besitz der Niederlassungsbewilligung war. Immerhin ersuchte er bereits am 25. März 1996 vergeblich um die Niederlassung, um seinen ausländerrechtlichen Status zu verbessern. Das zweite Familiennachzugsgesuch reichte der Beschwerdeführer am 3. September 2003 ein und beschränkte es diesmal auf seine Ehefrau und die beiden ältesten Töchter. Gemäss seinen Ausführungen stützte er sich dabei auf die Auskunft der Vorinstanz vom 2. Dezember 1998, wonach sein Einkommen für den Nachzug der gesamten Familie nicht ausreiche. Die Vorinstanz verhält sich insofern widersprüchlich, wenn sie ihm nun sinngemäss vorhält, sich nach dieser Information gerichtet zu haben. Die Auskunft, dass er ein Einkommen von Fr. 5010.- erzielen müsste, um seine gesamte Familie nachziehen zu können, war für ihn nicht als offensichtlich unrichtig erkennbar, sodass er in guten Treuen darauf vertrauen durfte. Weiter ist darauf hinzuweisen, dass der nachträgliche Nachzug der Kinder im Falle des Nachzugs der Ehefrau mitsamt den Kindern keiner stichhaltiger Gründe bedarf und der Beschwerdeführer nicht verpflichtet ist, den Zeitpunkt des Nachzugsgesuchs zu rechtfertigen, sondern nur rechtsmissbräuchliches Verhalten zu ahnden ist.
d) aa) Ein gestaffelter Nachzug einzelner Kinder, jeweils kurz vor Erreichen des 18. Altersjahres, kann ein Indiz dafür sein, dass nicht die Familienzusammenführung bezweckt wird. Eine Befragung des Beschwerdeführers zu seinen Beweggründen wäre somit angezeigt gewesen, denn es ist in jedem Einzelfall zu prüfen, ob plausible Gründe für diese Vorgehensweise vorliegen. Aus der wirtschaftlichen Besserstellung durch die Aufnahme der Erwerbstätigkeit der Kinder in der Schweiz darf nicht automatisch geschlossen werden, dass diese Nebenfolge des Familiennachzuges als Motiv dermassen ausschlaggebend war, dass demgegenüber das Leben in der Familiengemeinschaft von verschwindend kleiner Bedeutung wäre. Zweck des Anspruchs auf Familiennachzug ist es, den Eltern zu ermöglichen, ihre Kinder selber zu betreuen. Lassen sich beide Elternteile in der Schweiz nieder, können sie sich auf einen unbedingten Anspruch auf Nachzug der Kinder berufen, auch wenn nicht gleichzeitig um Nachzug sämtlicher Kinder ersucht wird (BG-Urteil 2A.220/2001 vom 21.8.2001 Erw. 4c). Aus dem Umstand, dass der Beschwerdeführer vor dem hier in Frage stehenden Gesuch zumindest 2 seiner 5 Kinder zu sich holen wollte, kann nicht ohne weiteres geschlossen werden, dass für ihn das familiäre Zusammenleben nur eine marginale Rolle spielt. Denn wie auch die Vorinstanz erkannte, führt der Nachzug der gesamten Familie zu einer angespannten finanziellen Situation, sodass ein plausibler Grund für diese Vorgehensweise bestand.
bb) Der Beschwerdeführer - welcher insgesamt glaubwürdig wirkte - machte geltend, es sei immer sein einziges Ziel gewesen, die Familie zusammenzuführen, losgelöst von jeglichen wirtschaftlichen Interessen. Er wies in diesem Zusammenhang darauf hin, dass er auf die Fortsetzung seines Einbürgerungsverfahrens zugunsten des Familiennachzuges verzichtet habe und in die Nachbargemeinde gezogen sei, wo er eine geeignete Familienwohnung gefunden habe. Weiter belegte er den engen familiären Zusammenhalt mit seinen häufigen Aufenthalten im Kosovo. Er beziehe, wenn es die Auftragslage seines Arbeitgebers zulasse, unbezahlten Urlaub, um über die Weihnachtsfeiertage und Neujahr länger mit seiner Familie zusammen sein zu können. Der Beschwerdeführer führte an der richterlichen Einvernahme aus, dass er seit seiner Heirat im Jahr 1984 faktisch ohne seine Familie lebe und dass er diesen Zustand nicht mehr länger ertrage. Er habe zwar regen telefonischen Kontakt und verbringe auch so viel Zeit bei Frau und Kindern, wie es möglich sei, aber er könne nicht mehr ohne seine Familie hier leben. Die Vorinstanz bemängelt in ihrer Stellungnahme zum Beweisergebnis vom 13. März 2006, dass der Beschwerdeführer mit keinem Wort erwähne, dass er mit seinen Kindern und seiner Ehefrau vereint hier leben möchte. Gerade dies geht indessen klar aus seinen Ausführungen hervor. Der Beschwerdeführer will mit seinem Gesuch ganz offensichtlich bezwecken, dass er und seine Familie zusammenleben können. Rechtsmissbräuchliche Motive sind nicht erkennbar. Dass er von seinen Töchtern erwartet, zum Familienunterhalt beizutragen, bedeutet nicht, dass wirtschaftliche Beweggründe vorherrschen. Dieser Aspekt mag zwar für den Nachzug eine gewisse Rolle gespielt haben. Es kann vom Beschwerdeführer jedoch nicht verlangt werden, das Nachzugsrecht nur gerade für die Ehefrau und die drei jüngeren Kinder auszuüben und die beiden älteren allein im Heimatland zurückzulassen (BG-Urteil 2A. 31/2005 vom 26.5.2005 Erw. 3.4 in einem Fall mit ähnlicher Konstellation).
e) Zusammenfassend ergibt sich somit, dass sich das Familiennachzugsgesuch nicht als rechtsmissbräuchlich erweist und auch die übrigen Voraussetzungen des Familiennachzugs gemäss Art. 17 Abs. 2 ANAG erfüllt sind. Die Beschwerde ist daher gutzuheissen und die Vorinstanz wird angewiesen, der Ehefrau die Aufenthaltsbewilligung und den Kindern die Niederlassungsbewilligung zu erteilen.