Aus den Erwägungen:
3.
3.1.
Die Beschwerdeführer bringen vor, der Stadtrat habe sich zu Unrecht auf Art. 15 Abs. 5 Bau- und Zonenreglement der Stadt Luzern vom 17. Januar 2013 (BZR) gestützt, um den Abbruch des derzeit auf Grundstück Nr. z, GB Luzern, rechtes Ufer, stehenden Gebäudes zu bewilligen, weshalb der bewilligte Abbruch widerrechtlich sei. Art. 15 Abs. 5 BZR enthalte allgemeine Bestimmungen zu den Ortsbildschutzzonen (Schutzzone A und B). Art. 17 BZR beinhalte demgegenüber spezielle Bestimmungen zur Ortsbildschutzzone B. Diese stelle somit eine lex specialis dar, welche der lex generalis (Art. 15 BZR) vorgehe. Art. 17 Abs. 2 BZR regle explizit den Ausnahmetatbestand der ausnahmsweisen Zulässigkeit des Abbruchs eines Gebäudes. Demnach könne der Stadtrat ausnahmsweise Abbrüche bewilligen, wenn eine Sanierung aus statischen Gründen nicht möglich oder aus wirtschaftlichen Gründen unverhältnismässig wäre. Zu Recht bestreite die Vorinstanz nicht, dass diese Voraussetzungen vorliegend gerade nicht erfüllt seien, werde doch die fragliche Liegenschaft zur Zeit immer noch bewohnt.
Demgegenüber hält die Vorinstanz dafür, der Stadtrat könne nach Art. 15 Abs. 5 BZR Ausnahmen von den Schutzzonenvorschriften bewilligen, sofern besondere Verhältnisse dies rechtfertigten, die Ausnahme dem Sinn und Zweck der Schutzzone nicht widerspreche und ein qualitätsvolles Bauprojekt vorliege. Das betroffene Gebäude liege gegenüber dem Hotel A. Da dieses zu wenige Parkplätze besitze, entstehe durch Suchverkehr und Anlieferung eine unübersichtliche Situation, welche zur Gefährdung der Verkehrssicherheit führe. Um dieses Problem zu lösen, sei das gegenüberliegende Grundstück erworben und mit einer Einstellhalle sowie dem dazugehörigen oberirdischen Volumen überplant worden. Das bestehende Gebäude sei weder als schützenswert noch als erhaltenswert inventarisiert und es liege ein qualitätsvolles, durch die Stadtbaukommission geprüftes Projekt vor. Der Stadtrat könne daher gestützt auf Art. 15 Abs. 5 BZR eine Ausnahme für den Abbruch des bestehenden Wohnhauses bewilligen.
Die Beschwerdegegnerin schliesst sich dieser Auffassung unter Verweis auf die Erwägungen des angefochtenen Entscheids im Wesentlichen an.
3.2.
Das zum Abbruch bewilligte Gebäude Nr. y liegt in der Ortsbildschutzzone B. Allgemein bezwecken die Schutzzonen A und B den Schutz erhaltenswerter Stadtelemente und städtischer Ensembles (Art. 15 Abs. 1 BZR). Gemäss Art. 17 BZR bezweckt die Ortsbildschutzzone B die Erhaltung schützenswerter Stadtteile, Bauten und Gärten. Als wichtige Bestandteile des Stadtbilds und der Stadtentwicklung sind sie in ihrem Gesamtbild und in ihrer Primärstruktur zu erhalten (Abs. 1). Neubauten und Veränderungen an bestehenden Bauten und Anlagen sind so auszuführen, dass sie sich bezüglich Lage, Stockwerkzahl, Fassadenhöhe, Volumen, Proportionen, Symmetrien sowie Materialwahl und Farbgebung in das Ensemble, welches das Quartierbild prägt, einfügen. Es sind Fenster aus Holz, aus Holz und Metall oder aus Kunststoff innen und Metall aussen zu verwenden (Abs. 3). Zur Zulässigkeit von Abbrüchen in der Ortsbildschutzzone B sieht das BZR vor, der Stadtrat könne diese ausnahmsweise bewilligen, wenn eine Sanierung aus statischen Gründen nicht möglich oder aus wirtschaftlichen Gründen unverhältnismässig wäre (Art. 17 Abs. 2 BZR).
Die Parteien sind sich uneinig über die anwendbare Ausnahmeklausel bzw. das Verhältnis zwischen Art. 17 Abs. 2 BZR und Art. 15 Abs. 5 BZR. Diese Frage ist mittels Auslegung dieser beider Normen zu klären.
3.3.
3.3.1.
Ziel der Auslegung einer Norm ist es, deren Sinngehalt zu ergründen. Ausgangspunkt ist der Wortlaut der auszulegenden Bestimmung, doch kann dieser nicht allein massgebend sein, namentlich wenn der Text unklar ist oder verschiedene Deutungen zulässt. Vielmehr muss nach der wahren Tragweite des Wortlauts gesucht werden unter Berücksichtigung der weiteren Auslegungselemente, wie namentlich Entstehungsgeschichte und Zweck der Norm (BGE 131 II 697 E. 4.1). Wichtig ist auch die Bedeutung, welche der Norm im Kontext mit anderen Bestimmungen zukommt. Die Auslegung hat sich vom Gedanken leiten zu lassen, dass nicht der Wortlaut die Rechtsnorm darstellt, sondern erst das an den Sachverhalten verstandene und konkretisierte Gesetz. Gefordert ist die sachlich richtige Entscheidung im normativen Gefüge, ausgerichtet auf ein befriedigendes Ergebnis, das sich aus dem Sinn der Norm (ratio legis) ergibt (BGE 128 I 34 E. 3b; LGVE 2011 II Nr. 16 E. 4c/aa). Nach herrschender Lehre und ständiger Rechtsprechung des Bundesgerichts gelten die üblichen Methoden der Gesetzesauslegung auch für die Normen des Verwaltungsrechts (Häfelin/Müller/Uhlmann, Allgemeines Verwaltungsrecht, 6. Aufl. 2010, N 216).
3.3.2.
In diesem Zusammenhang ist zudem auf die Gemeindeautonomie hinzuweisen (vgl. zu den folgenden Erläuterungen auch Urteil des Verwaltungsgerichts Luzern V 06 283/284 vom 18.2.2008 E. 4c). Eine Gemeinde ist nach der Praxis des Bundesgerichts in einem Sachbereich autonom, wenn das kantonale Recht diesen Sachbereich nicht abschliessend ordnet, sondern ihn ganz oder teilweise der Gemeinde zur Regelung überlässt und ihr dabei eine relativ erhebliche Entscheidungsfreiheit einräumt. Der Autonomiebereich kann sich auf die Befugnis zum Erlass oder Vollzug eigener kommunaler Vorschriften beziehen oder einen entsprechenden Spielraum bei der Anwendung kantonalen oder eidgenössischen Rechts betreffen (BGE 136 I 395 E. 3.2.1 f.; BGer-Urteile 1C_328/2007 vom 18.12.2007 E. 2 und 1P.504/2005 vom 2.2.2006 E. 3.2; Donatsch, in: Komm. zum Verwaltungsrechtspflegegesetz des Kantons Zürich [Hrsg. Griffel], 3. Aufl. 2014, § 20 VRG N 57). In diesem Sinn auferlegt sich das Kantonsgericht eine gewisse Zurückhaltung bei der Überprüfung kommunaler Bauvorschriften und überlässt den Gemeinden einen erheblichen Beurteilungsspielraum bei der Auslegung des von ihr kompetenzmässig erlassenen Rechts (vgl. Gygi, Bundesverwaltungsrechtspflege, 2. Aufl. 1983, S. 304 ff.; Bertossa, Der Beurteilungsspielraum, Diss. Bern 1984, insb. S. 71 ff.; LGVE 2000 II Nr. 18 E. 3a). Erscheint die Auslegung der Gemeinde rechtlich vertretbar, besteht für das Kantonsgericht kein Raum für eine abweichende Interpretation. Diese Zurückhaltung des Kantonsgerichts ist allerdings nur insofern geboten, als die angefochtene kommunale Anordnung die Auslegung unbestimmter Rechtsbegriffe des kommunalen Rechts betrifft, sowie bei eigentlichen Ermessensentscheiden (vgl. Donatsch, a.a.O., § 20 VRG N 60).
Vorliegend ist jedoch weder die Auslegung eines unbestimmten Rechtsbegriffs noch ein Ermessensentscheid strittig, sondern im Wesentlichen die Anwendbarkeit zweier verschiedener Normen bzw. deren Tragweite. Insofern hier das Verhältnis dieser beiden kommunalen Normen zueinander zu ermitteln ist, überprüft das Gericht die anwendbaren Rechtsnormen frei.
3.3.3.
Das BZR der Stadt Luzern gliedert die Vorschriften zu den Ortsbildschutzzonen wie folgt: In Art. 15 BZR werden allgemeine Bestimmungen zu den Ortsbildschutzzonen (A und B) aufgeführt. Anschliessend folgen in Art. 16 BZR spezifische Bestimmungen zur Ortsbildschutzzone A und in Art. 17 BZR solche zur Ortsbildschutzzone B. Für die Konstellation, dass eine Norm einen weiteren (generelleren) Anwendungsbereich hat, als die konkurrierende spezielle Norm, wird praxisgemäss der Grundsatz "lex specialis derogat legi generali" (die speziellere Vorschrift hat Vorrang vor der generelleren) angewendet (vgl. Kramer, Juristische Methodenlehre, 4. Aufl. 2013, S. 81 f.; Good-Weinberger, Die Ausnahmebewilligung im Baurecht, insbesondere nach § 220 des zürcherischen Planungs- und Baugesetzes, Diss. 1990, Zürich 1996, S. 93).
Art. 15 Abs. 5 BZR umschreibt die Voraussetzungen für Ausnahmen von den Schutzzonenvorschriften in genereller Weise. Entsprechend der Überschrift ("Ortsbildschutzzonen, allgemeine Bestimmungen") bezieht sich Abs. 5 in allgemeiner Hinsicht auf die Frage, unter welchen Voraussetzungen der Stadtrat Ausnahmen von den Schutzzonenvorschriften gestatten kann. Bei diesen "Schutzzonenvorschriften" handelt es sich gemäss systematischer Auslegung um die Bestimmungen von Art. 16 ("Ortsbildschutzzone A") und 17 ("Ortsbildschutzzone B"). Damit wird Art. 15 Abs. 5 BZR den nachfolgenden Schutzzonenvorschriften vorangestellt.
Aufgrund dieses allgemein gefassten Inhalts, aber auch in Anbetracht seiner systematischen Stellung im BZR kann Art. 15 Abs. 5 BZR für die Erteilung von Ausnahmebewilligungen nur solange herangezogen werden, als auf den zu beurteilenden Fall keine nachfolgende spezielle Norm (sog. lex specialis) anwendbar ist (vgl. Urteil des Verwaltungsgerichts Luzern V 08 50 vom 14.4.2010 E. 4d). Dies gilt insbesondere in Bezug auf die Vorschriften für Neubauten in den beiden Schutzzonen. Diesbezüglich enthalten Art. 16 und 17 BZR lediglich die massgebenden Bestimmungen, jedoch keine Ausnahmemöglichkeiten davon. Anders präsentiert sich die Lage im vorliegenden Fall, wo nicht nur ein Neubau zur Diskussion steht, sondern vorgängig der Abbruch des bestehenden Gebäudes notwendig ist. Art. 17 BZR enthält konkrete Bestimmungen für die Ortsbildschutzzone B und definiert darin in Abs. 2 die Voraussetzungen für den ausnahmsweisen Abbruch in dieser Zone. Die Voraussetzungen für einen ausnahmsweisen Abbruch sind darin abschliessend aufgeführt. Dies ist aus dem Wortlaut zu schliessen, werden doch lediglich zwei Ausnahmegründe aufgeführt ("oder"), ohne dass Hinweise auf weitere Möglichkeiten erwähnt würden. Gegenteilige Hinweise, dass es sich hierbei nicht um eine abschliessende Aufzählung handeln würde (z.B. "insbesondere" oder "namentlich"), sind nicht ersichtlich.
Damit sind die Abbruchmöglichkeiten in der Ortsbildschutzzone B abschliessend geregelt bzw. es werden die in Art. 15 Abs. 5 BZR erwähnten "besonderen Verhältnisse" für einen ausnahmsweisen Abbruch einer Baute oder Anlage in der Ortsbildschutzzone B konkretisiert. Art. 17 Abs. 2 BZR stellt somit im Verhältnis zu Art. 15 Abs. 5 BZR eine lex specialis dar und geht dieser nach dem Gesagten vor. Folglich sind Abbrüche in der Ortsbildschutzzone B einzig nach Art. 17 Abs. 2 BZR zulässig. Diese lex specialis lässt für weitere Ausnahmemöglichkeiten keinen Raum. Daneben weitere Abbrüche in der Ortsbildschutzzone B gestützt auf die allgemeine Ausnahmeregelung von Art. 15 Abs. 5 BZR zuzulassen, würde Sinn und Zweck dieser lex specialis widersprechen, liefe dies doch auf eine Ausnahme von der Ausnahme hinaus. Für ein solches Auslegungsergebnis fehlen sowohl Hinweise in den Materialien als auch im Gesetz selbst (vgl. Erläuterungen des Stadtrats zur städtischen Volksabstimmung vom 9.6.2013 sowie Bericht und Antrag an den Grossen Stadtrat von Luzern vom 22.8.2012 [http://www.stadtluzern.ch/ -- Juli 2012]). Damit wird auch der Unterschied zum Urteil des Verwaltungsgerichts Luzern V 11 201 vom 4. Juli 2012 deutlich. Darin war u.a. die Fassadenflucht eines Bauprojekts in der Ortsbildschutzzone A streitig. Die rückseitige Fassade ragte beim umstrittenen Bauprojekt mehrere Meter über die alte rückseitige Fassade hinaus und verstiess deshalb gegen Art. 16 Abs. 3 BZR. Anders als im vorliegenden Fall sieht das BZR für diese Fälle keine explizite Ausnahmeregelung vor, weshalb die Möglichkeit einer Ausnahme gemäss Art. 15 Abs. 5 BZR zu prüfen war (vgl. auch BGer-Urteil 1C_421/2012 vom 23.12.2013).
Nach dem Gesagten findet die Auslegung der Vorinstanz bzw. ihre Anwendung der beiden Bestimmungen keine Grundlage im kommunalen Recht. Insbesondere lässt sich Art. 17 (Abs. 2) BZR keinen Anhaltspunkt entnehmen, dass neben dieser Ausnahme eine weitere (generelle) Ausnahme zulässig sein soll.
An diesem Ergebnis ändert auch nichts, dass das betroffene Mehrfamilienhaus selbst nicht noch zusätzlich unter Schutz gestellt worden ist. Es liegt in der Ortsbildschutzzone B, womit die entsprechenden Schutzbestimmungen des BZR ohne Einschränkungen anzuwenden sind. Sinn und Zweck der Ortsbildschutzzone ist der Schutz erhaltenswerter Stadtelemente und städtischer Ensembles (vgl. Art. 15 BZR), somit die Wahrung des Gesamtbilds und nicht nur einzelner Liegenschaften und Häuser. Das Mehrfamilienhaus darf daher nur dann als Ausnahme vom Schutzzweck abgebrochen werden, wenn die Voraussetzungen von Art. 17 Abs. 2 BZR erfüllt sind. Sodann kann aus dem Umstand, dass sich Art. 15 Abs. 5 BZR als Ausnahmeregelung allgemein auf die "Schutzzonenvorschriften" nach Art. 16 und 17 BZR bezieht, nicht geschlossen werden, dieser würde eine Öffnung der abschliessend aufgezählten Ausnahmevoraussetzungen für weitere, zusätzliche Ausnahmen ermöglichen. Entsprechendes ist in Art. 17 Abs. 2 BZR gerade nicht erwähnt. Zudem sind unter den "Schutzzonenvorschriften" wohl vorab die gestalterischen Vorschriften in Art. 16 und 17 BZR zu verstehen, welche den Inhalt der Ortsbildschutzzonen definieren. Davon sind – im Gegensatz zur Frage der ausnahmsweisen Zulässigkeit von Abbrüchen – in Art. 17 BZR selbst keine Ausnahmen vorgesehen. Für diese gilt daher die Ausnahmemöglichkeit nach Art. 15 Abs. 5 BZR. Wenn aber für den ausnahmsweisen Abbruch einer Baute bereits eine Ausnahmeregelung (Art. 17 Abs. 2 BZR) ausdrücklich besteht, kann aus einer allgemeinen Ausnahmevorschrift nicht eine zusätzliche Lockerung der abschliessenden Regelung des ausnahmsweise möglichen Abbruchs einer bestehenden Baute abgeleitet werden.
Damit stützte sich die Vorinstanz zur Erteilung der Ausnahmebewilligung zu Unrecht auf Art. 15 Abs. 5 BZR. Wenn die Vorinstanz neben den in Art. 17 Abs. 2 BZR genannten zwei Ausnahmemöglichkeiten weitere vorsehen will, hat sie dies mittels einer Änderung dieser BZR-Bestimmungen umzusetzen.
3.4.
Im angefochtenen Entscheid hielt die Vorinstanz schliesslich fest, dass die Voraussetzungen von Art. 17 Abs. 2 BZR nicht zuträfen. Davon geht auch die Beschwerdegegnerin aus. In den Ausführungen im Beschwerdeverfahren bekräftigte die Vorinstanz, dass die Voraussetzungen nach Art. 17 Abs. 2 BZR nicht erfüllt seien. Gegenteilige Hinweise sind denn auch nicht ersichtlich, so dass eine Abbruchbewilligung gestützt auf Art. 17 Abs. 2 BZR nicht möglich ist.
3.5.
Das Gebäude Nr. y kann folglich nicht abgerissen werden; weder gestützt auf Art. 17 Abs. 2 BZR noch gemäss Art. 15 Abs. 5 BZR, weshalb die Baubewilligung für den geplanten Neubau nicht erteilt werden kann.