Sachverhalt:
A ist Eigentümer des Grundstücks Nr. xxx, GB Zell, das mit einem Wohnhaus überbaut ist. Nach dem geltenden Zonenplan liegt die Parzelle in der zweigeschossigen Wohnzone (W2). A erstellte entlang der nördlichen und westlichen Parzellengrenze ohne Baubewilligung einen ca. zwei Meter hohen Eisengitterzaun. Dagegen setzten sich B (Eigentümer des Grundstücks Nr. yyy) und C (Eigentümer des Grundstücks Nr. zzz) zur Wehr. Am 26. September 2006 unterbreitete A dem Gemeinderat für die umstrittene Einfriedung nachträglich das Baugesuch. B und C erhoben Einsprachen, die nicht gütlich erledigt werden konnten. Mit Entscheid vom 4. September 2007 wies der Gemeinderat die Einsprache von C ab. Die Einsprache von B hiess er gut und wies die Baubewilligung für die Einfriedung ab. Gleichzeitig verlangte er die Entfernung des Zauns oder eine Reduktion der Einfriedung auf eine maximale Höhe von 1.50 m. Dagegen erhob A Verwaltungsgerichtsbeschwerde und beantragte, die Baubewilligung für die Einfriedung sei zu erteilen.
Das Verwaltungsgericht hat die Beschwerde teilweise gutgeheissen und die Sache zur Neubeurteilung an den Gemeinderat zurückgewiesen.
Aus den Erwägungen:
1.- a) Der angefochtene Entscheid stützt sich auf das Planungs- und Baugesetz vom 7. März 1989 (PBG; SRL Nr. 735). Gemäss § 148 lit. d des Gesetzes über die Verwaltungsrechtspflege vom 3. Juli 1972 (VRG; SRL Nr. 40) in Verbindung mit § 206 PBG unterliegt er unmittelbar der Anfechtbarkeit durch Verwaltungsgerichtsbeschwerde (LGVE 1997 II Nr. 13 Erw. 2).
b) Zur Einreichung eines Rechtsmittels sind Parteien und beiladungsberechtigte Dritte des vorinstanzlichen Verfahrens befugt, die an der Änderung oder Aufhebung des angefochtenen Entscheides ein schutzwürdiges Interesse haben (§ 207 Abs. 1 lit. a PBG; vgl. auch: Art. 33 Abs. 3 lit. a des Bundesgesetzes über die Raumplanung vom 22.6.1979 [RPG; SR 700]). Als schutzwürdiges Interesse gelten sowohl die rechtlich geschützten als auch die wirtschaftlichen, ideellen und sogar die rein tatsächlichen Interessen (BGE 123 II 378 Erw. 2, 121 II 177 Erw. 2a). Ein schutzwürdiges Interesse ist daher zu bejahen, wenn die prozessführende Partei eine tatsächliche Beeinträchtigung von sich abwenden oder einen praktischen Nutzen und Erfolg erreichen will (zum Ganzen statt vieler: LGVE 1999 II Nr. 24 Erw. 3a mit Hinweisen, ferner: LGVE 1991 II Nr. 3 Erw. 1a). Dieses Erfordernis kann im vorliegenden Fall für den Beschwerdeführer als Adressaten der angefochtenen Verfügung ohne weiteres bejaht werden. Auf seine im Übrigen frist- und formgerecht eingereichte Beschwerde ist einzutreten.
c) Das vorliegende Verfahren ist vom Untersuchungsgrundsatz beherrscht (§ 53 VRG), der jedoch nicht ohne Einschränkung gilt. Er wird ergänzt durch die Mitwirkungspflicht der Parteien (vgl. § 55 VRG), aufgrund der sie namentlich zur Begründung ihrer Rechtsschrift gehalten sind (§ 133 Abs. 1 VRG). Die beschwerdeführende Partei muss sich mit den Erwägungen des angefochtenen Entscheides auseinandersetzen. Zu beachten ist ferner das Rügeprinzip, wonach die Beschwerdeinstanz nur die vorgebrachten Beanstandungen untersucht und nicht prüft, ob sich der angefochtene Entscheid unter allen denkbaren Aspekten als korrekt erweist (vgl. zum Ganzen: LGVE 1998 II Nr. 57 mit Hinweisen). Immerhin nimmt das Verwaltungsgericht zusätzlich Abklärungen auch vor, wenn gestützt auf die Aktenlage hinreichend Anlass dazu besteht (im gleichen Sinne: BGE 110 V 53 Erw. 4a; LGVE 1992 II Nr. 47 Erw. 3a).
d) Als einzige Rechtsmittelinstanz verfügt das Verwaltungsgericht über uneingeschränkte Kognition, womit es auch das Ermessen überprüfen darf (§ 161a VRG). Im Übrigen gelten die §§ 144 - 147 VRG (vgl. § 156 Abs. 2 VRG).
Trotz unbeschränkter Überprüfungsbefugnis hält sich das Verwaltungsgericht zurück, wenn es um die Auslegung und Anwendung autonomen kommunalen Rechts geht oder wenn die Beurteilung von einer Würdigung der lokalen Gegebenheiten abhängt, welche die Gemeindebehörden besser kennen. Gerichtliche Zurückhaltung ist ferner geboten gegenüber der sachkundigen Verwaltung bezüglich technischer Fragen sowie ganz generell, wenn es administrative Entscheidungsspielräume zu wahren gilt. Denn das Verwaltungsgericht ist aufgrund der ihm zugedachten Funktion nicht befugt, sein Ermessen anstelle desjenigen der Vorinstanz zu setzen (vgl. zum Ganzen: LGVE 2000 II Nr. 18 Erw. 3a; BGE 127 II 242 Erw. 3b/aa; BVR 2003 S. 116 f. und 340; ZBl 1998 S. 170 ff.).
e) In verfahrensrechtlicher Hinsicht ist ferner in Erinnerung zu rufen, dass Aspekte, über die im angefochtenen Entscheid nicht befunden wurde, nicht in die Zuständigkeit des Verwaltungsgerichts fallen (Kölz/Bosshart/Röhl, Kommentar zum Verwaltungsrechtspflegegesetz des Kantons Zürich, 2. Aufl., Zürich 1999, N 86 zu den Vorbemerkungen zu §§ 19 - 28). So darf der Streitgegenstand nicht über das hinausgehen, was die Vorinstanz im angefochtenen Entscheid geregelt hat (vgl. LGVE 2000 II Nr. 50 Erw. 2a; ferner: Rhinow/Koller/Kiss, Öffentliches Prozessrecht und Justizverfassungsrecht des Bundes, Basel 1996, N 901; Zimmerlin/Kälin/Kiener, Grundlagen des öffentlichen Verfahrensrechts, Bern 2004, S. 51 ff.; Merkli/Aeschlimann/Herzog, Kommentar zum Gesetz über die Verwaltungsrechtspflege des Kantons Bern, Bern 1997, N 6 zu Art. 72).
2.- Der Beschwerdeführer stellt die Baubewilligungspflicht der umstrittenen Einfriedung zu Recht nicht in Abrede. Der Baubewilligungsvorbehalt soll der mit der Sache betrauten Behörde die Möglichkeit verschaffen, ein baupolizeirechtlich relevantes Vorhaben vor seiner Ausführung auf die Übereinstimmung mit der raumplanerischen Nutzungsordnung und der übrigen einschlägigen Gesetzgebung zu überprüfen. Vor diesem Hintergrund kann nicht zweifelhaft sein, dass die Baubewilligung nicht erst gefordert werden muss, wenn ein Vorhaben nicht bewilligt werden kann (Ruch, Neuerungen im Bau- und Planungsrecht der Kantone Basel-Stadt und Basel-Landschaft, in: Basler Juristische Mitteilungen [BJM], 2005, S. 28). Von einer Bewilligungspflicht ist bereits auszugehen, wenn eine Baute oder Anlage eine Beeinträchtigung der durch die bau- und planungsrechtliche Gesetzgebung geschützten Rechtsgüter bewirken kann. Die umstrittene ca. zwei Meter hohe Einfriedung steht auf Parzellengrenzen. Bereits dieser Gesichtpunkt macht deutlich, dass eine derartige Anlage Interessen Dritter betrifft. Abgesehen davon stehen bei derartigen Massnahmen regelmässig öffentliche Interessen zur Diskussion. Konkret mag etwa zu prüfen sein, ob Einfriedungen dem Gebot der Eingliederung Rechnung tragen. Ferner mag sich gegebenenfalls die Frage stellen, ob und in welcher Weise eine Einfriedung die Erschliessung benachbarter Grundstücke tangiert. Mit derartigen Fragestellungen sah sich auch die Vorinstanz konfrontiert. Mithin kann nicht zweifelhaft sein, dass die vom Beschwerdeführer bewilligungslos aufgerichtete Einfriedung (nachträglich) dem Baubewilligungsverfahren unterzogen werden musste (vgl. BG-Urteil 1A.202/2003 vom 17.2.2004; ferner: V 05 134 vom 10.11.2006; Fritzsche/Bösch, Zürcher Planungs- und Baurecht, 4. Aufl., Zürich 2006, Ziff. 20.4.3.1).
3.- a) Beim umstrittenen Zaun handelt es sich um eine ca. 2.00 m hohe Einfriedung, die ohne Baubewilligung erstellt worden ist. Weil der Zaun, wie dargetan, der Baubewilligungspflicht unterliegt, erweist sich das Vorgehen des Beschwerdeführers zunächst in formeller Hinsicht als rechtswidrig (statt vieler: Ruoss Fierz, Massnahmen gegen illegales Bauen, Zürich 1999, S. 22 ff.). Nach der Rechtsprechung sind (bewilligungsbedürftige) Bauten und Anlagen, die ohne Bewilligung errichtet wurden, grundsätzlich zu beseitigen. Zuständig für die Wiederherstellung des gesetzmässigen Zustandes ist der Gemeinderat (§ 209 Abs. 2 PBG; LGVE 1996 II Nr. 7 Erw. 2b; ferner: Urteil V 05 134 vom 10.11.2006 Erw. 3a). Ein Abbruch hat indes zu unterbleiben, wenn der bewilligungslos aufgestellte Zaun nachträglich bewilligt werden kann (vgl. BGE 123 II 252 Erw. 3a/bb; Urteil V 03 35 vom 30.3.2004). Dementsprechend ist vor Erlass einer Abbruchverfügung zu prüfen, ob die formell rechtswidrige Einfriedung in der bestehenden Form öffentlich-rechtlichen Vorschriften entspricht (zum Ganzen: LGVE 1997 II Nr. 14 Erw. 6). Wurde eine bewilligungsbedürftige Einfriedung, wie hier, ohne Baubewilligung erstellt, ist der Gemeinderat demzufolge verpflichtet, ein nachträgliches Baubewilligungsverfahren zur Klärung der materiellen Rechtslage durchzuführen. Mit diesem Vorgehen kommt er der Pflicht zur Prüfung einer allfälligen Legalisierbarkeit der in Frage stehenden baulichen Massnahmen nach (Ruoss Fierz, a.a.O., S. 107). Diesen Weg hat die Vorinstanz eingeschlagen und im Rahmen der materiellen Prüfung festgehalten, dass die Einfriedung den massgeblichen gesetzlichen Grenzabstand verletzt. Wie es sich damit verhält, ist nachstehend zu überprüfen.
b) Für die Beurteilung der umstrittenen Rechtsfragen ist von § 126 PBG auszugehen. Die Bestimmung handelt vom Grenzabstand bei Einfriedungen und hat folgenden Wortlaut:
1 Stützmauern, freistehende Mauern und Einfriedungen, die nicht mehr als 1,5 m über das gewachsene Terrain hinausragen, dürfen an die Grenze gestellt werden. Übersteigen sie dieses Mass, sind sie um das Doppelte ihrer Mehrhöhe, höchstens aber 4 m, von der Grenze zurückzusetzen. Vorbehalten bleibt Absatz 2.
2 Für Stützmauern und freistehende Mauern, die mehr als 2 m über das gewachsene Terrain hinausragen, sind die Abstandsvorschriften für Bauten massgebend. Das gilt auch für Einfriedungen, die keinen Durchblick gewähren.
3 Für Böschungen und Aufschüttungen sind diese Bestimmungen sinngemäss anzuwenden.
4 Vorbehalten bleiben abweichende, öffentlich beurkundete Vereinbarungen der Nachbarn.
5 Der Grenzabstand bei Gewächsen richtet sich nach den Vorschriften des Einführungsgesetzes zum Zivilgesetzbuch.
Die umstrittene Einfriedung weist eine Höhe von ca. 2.00 m auf und widerspricht demzufolge ohne Zweifel § 126 Abs. 1 und 2 PBG. Mit Recht vertritt der Beschwerdeführer in diesem Punkt vor Verwaltungsgericht keinen abweichenden Standpunkt. Der Zaun könne bei dieser Ausgangslage von vornherein bloss über eine Ausnahmebewilligung als rechtmässig erklärt werden. Hierbei wies die Vorinstanz im angefochtenen Entscheid auf § 126 Abs. 4 PBG hin. Danach setze die Erteilung einer Ausnahmebewilligung allerdings eine "öffentlich beurkundete Vereinbarung" voraus. Aber gerade diese unabdingbare Voraussetzung liege nicht vor. Allein schon aus diesem Grund sehe sich der Gemeinderat ausser Stande, nachträglich eine Ausnahmebewilligung für das Unterschreiten des gesetzlichen Grenzabstandes zu erteilen. Der Beschwerdeführer entgegnet, in Tat und Wahrheit hätten er und der benachbarte Eigentümer am 29. November 2004 vor dem Amtsstatthalteramt Willisau eine Vereinbarung getroffen. Darin sei er (der Beschwerdeführer) als berechtigt erklärt worden, an der Parzellengrenze einen 2.50 m hohen Gitterzaun zu errichten. Wenn eine Tat auf Antrag strafbar sei, sehe die Rechtsordnung gestützt auf § 72 des Gesetzes über die Strafprozessordnung vom 3. Juni 1957 (StPO; SRL Nr. 305) die Möglichkeit eines Vergleichs vor. Ein solcher werde zu Protokoll genommen und von den Parteien und dem Amtsstatthalter unterzeichnet. Auf den Vergleich über Zivilansprüche finde § 113 Abs. 3 des Gesetzes über die Zivilprozessordnung vom 27. Juni 1994 (ZPO; SRL Nr. 260a) Anwendung. Gemäss § 113 Abs. 3 ZPO sei der Vergleich in Rechtskraft erwachsen und vollstreckbar. Nach der Praxis des Bundesgerichts komme einem derartigen Vergleich eine "formersetzende Wirkung" zu. Unter diesen Umständen sei der angefochtene Entscheid aufzuheben, die Einsprache des Nachbarn abzuweisen und dem Beschwerdeführer die Baubewilligung nachträglich zu erteilen.
c) Vorschriften über die Abstände sollen die zwischen einer Baute und weiteren Umweltelementen wie etwa andere Bauten oder Verkehrsanlagen frei zu haltende Räume bestimmen. Wie sämtliche baupolizeilichen Bestimmungen erfüllen Abstandsregelungen primär feuer- und ordnungspolizeiliche sowie wohnhygienische Aufgaben (statt vieler: Zimmerlin, Kommentar zum Baugesetz des Kantons Aargau, 2. Aufl., Aarau 1985, N 1 ff. zu §§ 163-65). Insofern kommt ihnen (auch) eine nachbarschützende Funktion zu. Zudem haben sie oft gestalterische, ästhetische, siedlungsstrukturierende oder soziale Funktionen. Damit können Abstandsvorschriften nebst privaten auch öffentlichen Interessen dienen (Ivanov, Die Harmonisierung des Baupolizeirechts unter Einbezug der übrigen Baugesetzgebung, Freiburg 2006, S. 60). Dienen sie sowohl privaten als auch öffentlichen Interessen, spricht die Lehre von "Doppelnormen". Hiezu zählen Grenzabstände (so: Häfelin/Müller/Uhlmann, Allgemeines Verwaltungsrecht, 5. Aufl., Zürich 2006, N 268 ff.; ferner: Sidler, Kurzkommentar zum luzernischen Beurkundungsgesetz, Luzern 1975, S. 108).
d) Im vorliegenden Fall interessiert die Rechtslage mit Bezug auf den Grenzabstand bei Einfriedungen. Gesetzliche Bestimmungen über Grenzabstände gelten als Legalservitute. Nach Massgabe von Art. 680 Abs. 2 ZGB können diese durch Rechtsgeschäfte abgeändert oder aufgehoben werden (ZBJV 1980 S. 441), soweit sie keinen unmöglichen oder widerrechtlichen Inhalt aufweisen, gegen die guten Sitten oder Vorschriften des öffentlichen Rechts verstossen (Zeitschrift für Walliser Rechtsprechung [ZWR 1975], S. 439). Die Abänderung einer gesetzlichen Eigentumsbeschränkungen durch Rechtsgeschäft bedarf gemäss klarer Rechtslage in Art. 680 Abs. 2 ZGB an sich zur Gültigkeit der öffentlichen Beurkundung und der Eintragung in das Grundbuch (vgl. auch Art. 19 Abs. 2 der Verordnung über das Grundbuch vom 22.2.1910 (GBV; SR 211.432.1; ferner: Ivanov, a.a.O., S. 68; Sidler, a.a.O., S. 107). Es kann dahin stehen, ob das Erfordernis der öffentlichen Beurkundung auf einem Versehen des Bundesgesetzgebers beruht (Meyer-Hayoz, Berner Kommentar, 3. Aufl., Bern 1975, N 99 zu Art. 680 ZGB). Mit Blick auf das luzernische Recht erscheint massgeblich, dass der kantonale Gesetzgeber mit der in § 126 Abs. 4 PBG verankerten Formulierung "öffentlich beurkundete Vereinbarung" auf die in Art. 680 Abs. 2 ZGB verlangte "öffentliche Beurkundung" Bezug nimmt (zutreffend: LGVE 1986 III Nr. 35). Mit öffentlicher Beurkundung ist das vor einem Notar abgewickelte Beurkundungsverfahren gemäss §§ 33 ff. des Gesetzes über die öffentliche Beurkundung vom 18. September 1973 (Beurkundungsgesetz; SRL Nr. 255) gemeint. Der Beschwerdeführer behauptet nicht, die benachbarten Grundeigentümer hätten ein gegenseitiges Grenzbaurecht im dargelegten Sinn öffentlich beurkunden lassen. Seine Argumentation zielt in eine andere Richtung. Er stellt sich auf den Standpunkt, ein im Rahmen eines Strafverfahrens vor dem Amtsstatthalter abgeschlossener Vergleich unter den Nachbarn, in welchem das Grenzbaurecht vereinbart worden sei, ersetze die "öffentlichen Beurkundung". Die Vorinstanz ihrerseits lehnt diese Betrachtungsweise ab.
e) Nach Lage der Akten ist davon auszugehen, dass der Beschwerdeführer als Eigentümer des Grundstücks Nr. xxx,GB Zell, am 25. März 2004 gegen den Eigentümer des im Westen angrenzenden Grundstücks beim Amtsstatthalteramt Willisau eine Privatstrafklage wegen unbefugten Befahrens des Rasenplatzes vor seinem Wohnhaus deponierte. Am 29. November 2004 schlossen die Parteien vor dem Amtsstatthalteramt einen Vergleich. Aus diesem Grund konnte das erwähnte Strafverfahren eingestellt werden. U.a. erklärten die Parteien des Privatstrafklageverfahrens den Beschwerdeführer für berechtigt, an der gemeinsamen Grenze einen Gitterdrahtzaun von 2.50 m Höhe zu erstellen. Gestützt darauf sah sich der Amtsstatthalter in die Lage versetzt, die Untersuchung betreffend die Privatstrafklage einzustellen und das Verfahren in dieser Weise abzuschreiben. Am 17. Dezember 2004 visierte der Staatsanwalt diese Erledigung des Verfahrens. Der Amtsstatthalter stellte den Eigentümern der betroffenen Grundstücke den Entscheid betreffend die visierte Einstellung des Strafverfahrens am 22. Dezember 2004 zu. Die Verfügung betreffend die Einstellung der Privatstrafklage blieb unangefochten.
Entgegen der Auffassung der Vorinstanz darf der Vergleich im vorliegenden Verfahren nicht ausser Acht bleiben. In Lehre und Praxis besteht weitgehend Übereinstimmung, dass ein in den prozessualen Formen zustande gekommener Vergleich auch dann gültig ist, wenn er ein Geschäft zum Inhalt hat, dessen Abschluss sonst besonderen Formvorschriften untersteht (LGVE 1979 I Nr. 506; Guldener, Schweizerisches Zivilprozessrecht, 3. Aufl., Zürich 1979, S. 395, Fn 18). Damit wird zum Ausdruck gebracht, dass ein gerichtlicher Vergleich formersetzend wirkt, mit der Folge, dass diesfalls keine öffentliche Beurkundung erforderlich ist (Laim, Basler Kommentar zum ZGB, 2. Aufl., Basel 2003, N 38 zu Art. 657; Meyer-Hayoz, a.a.O., N 53 zu Art. 657). Das gilt nach Massgabe der bundesgerichtlichen Praxis auch dann, wenn der Richter den Vergleich inhaltlich nicht überprüft (vgl. BGE 99 II 359 ff.). Es fragt sich, ob der erwähnte Vergleich, den die Eigentümer der benachbarten Parzellen im Rahmen eines Privatstrafverfahrens vor dem Amtsstatthalter Willisau abgeschlossen haben, überhaupt einem "gerichtlichen Vergleich" gleichzusetzen ist, dem formersetzende Wirkung zukommt. Für die Beantwortung dieser Frage ist die StPO heranzuziehen. Nach § 72 Abs. 2 StPO findet auf den Vergleich über Zivilansprüche § 113 Abs. 3 ZPO Anwendung. Mithin kommt einem derartigen Vergleich materielle Rechtskraft zu. Auszugehen ist von der Feststellung, dass der Nachbar des Beschwerdeführers mit seiner Haltung im Strafverfahren den Verzicht auf die Einhaltung des Grenzabstandes erklärt hat. Einer zusätzlichen öffentlichen Beurkundung hierüber bedarf es nach dem Gesagten nicht. Die Vorinstanz hat diesen Zusammenhang ausser Acht gelassen, weshalb sich der angefochtene Entscheid nicht halten lässt.
Wie dargetan, hat die Vorinstanz das Begehren um Erteilung einer nachträglichen Baubewilligung für die bereits realisierte Einfriedung ausschliesslich mit dem Argument abgewiesen, es fehle diesbezüglich die unabdingbare Voraussetzung für ein Grenzbaurecht. Daher sehe sich der Gemeinderat ausser Stande, eine Ausnahmebewilligung für das Unterschreiten des gesetzlichen Grenzabstandes (vgl. §§ 133 ff. PBG) zu erteilen. Weitere Aspekte hat die Vorinstanz bei ihrer Beurteilung der Streitsache nicht in Erwägung gezogen. Konkret spricht sich der angefochtene Entscheid beispielsweise mit keinem Wort über die Frage der Eingliederung der bewilligungslos realisierten Einfriedung aus (§ 140 PBG). Ungeprüft blieb ferner auch etwa die Frage, ob die Einfriedung insbesondere mit Bezug auf den nördlichen Bereich einem strassenrechtlichen Ausnahmebewilligungsverfahren zu unterstellen ist (vgl. LGVE 2003 II Nr. 16; Urteil V 05 361 vom 8.6.2006, Erw. 2b). Es ist nicht Sache des Verwaltungsgerichts, hierüber erstmals Überlegungen anzustellen. Vielmehr wird es die Aufgabe der Baubewilligungsbehörde sein, die Einfriedung unter allen bedeutsamen tatsächlichen und rechtlichen Gesichtspunkten zu überprüfen.