Wie hoch sind die Zinsen auf Steuerschulden?

Die Zinsen für ausstehende Steuern betragen ungefähr 6 % pro Jahr, berechnet als 0,5 % pro vollen Monat (§ 238 Abs. 1 AO). Der Zinslauf beginnt allerdings erst 15 Monate nach dem Ende des Entstehungskalenderjahrs (§ 233a Abs. 2 Satz 1) und angefangene Monate werden überhaupt nicht berücksichtigt.

Hafte ich für bestehende Steuerschulden eines Betriebs, den ich übernehme?

Ja, § 75 Abs. 1 Satz 1 AO sagt:

Wird ein Unternehmen (…) übereignet, so haftet der Erwerber für Steuern (…), vorausgesetzt, dass die Steuern seit dem Beginn des letzten, vor der Übereignung liegenden Kalenderjahrs entstanden sind und bis zum Ablauf von einem Jahr nach Anmeldung des Betriebs durch den Erwerber festgesetzt oder angemeldet werden.

Es geht also nur um die Steuern aus dem Jahr der Übereignung und dem Vorjahr und sie müssen innerhalb eines ganzen Jahres ab Übereignung festgesetzt werden.

Was ist die steuerrechtliche Aufrechnung?

Die Aufrechnung funktioniert im Steuerrecht im Wesentlichen genauso wie im Zivilrecht. § 226 Abs. 1 AO verweist hier auch weitgehend auf das BGB:
Für die Aufrechnung mit Ansprüchen aus dem Steuerschuldverhältnis sowie für die Aufrechnung gegen diese Ansprüche gelten sinngemäß die Vorschriften des bürgerlichen Rechts, soweit nichts anderes bestimmt ist.
Hat der Bürger also einerseits Steuerschulden, andererseits aber auch noch Ansprüche auf Steuererstattung, so kann sowohl er als auch das Finanzamt die Aufrechnung erklären. Damit erlöschen die gegenseitigen Ansprüche in der entsprechenden Höhe.