Sie haben also einen Planungsauftrag erteilt, ohne dass die Planungsziele bereits bekannt gewesen wären.

Dann kommen die §§ 650p und 650r BGB ins Spiel, wonach der Planer erstmal eine Planungsgrundlage mit Kosteneinschätzung zu erarbeiten hätte. Was ihnen vorgelegt wurde, scheint diese Planungsgrundlage zu sein. An dieser Stelle hätte sSe der Planer auf Ihr Sonderkündigungsrecht nach § 650r BGB hinweisen müssen, hat er aber wohl nicht. Sie könnten also wohl immer noch kündigen.

Obwohl Sie danach dann trotzdem weitere Leistungen in Anspruch genommen haben, nehme ihn darum baten, Ihnen die erarbeiteten unbrauchbaren (?) Unterlagen zu überlassen, macht diese noch nicht zu einer vergütungspflichtigen Vorplanung. Sie müssten nach § 650p die Leistungen bis zur Vorlage der Planungsgrundlage mit Kosteneinschätzung bezahlen und wenn Sie danach weitere Leistung erbracht haben wollten, auch die.

Ob das eine vollständige Grundlagenermittlung und Vorplanung war, finden Sie am besten selbst heraus, indem Sie die Leistungen einmal mit der Anlage 10.1 zur HOAI vergleichen. Der Planer muss beweisen, dass er einen Planungsauftrag erteilt bekommen hat, dass er Sie in Textform auf Ihr Sonderkündigungsrecht nach Vorlage der Planungsunterlagen hingewiesen hat und dass sie auf dieser Planungsgrundlage weitergearbeitet haben wollten, und kann dann nur abrechnen (§ 8 HOAI), was er tatsächlich für Leistungen erbracht hat. 

Da wir hier natürlich nicht wissen, ob Sie alles vorgetragen haben, was für eine Honorarberechnung möglicherweise relevant ist, empfehle ich, zu einem Baufachanwalt Ihres Vertrauens zu gehen und ihm die Geschichte vorzutragen und dann zu entscheiden, was Sie mit der Rechnung machen. Das sollte allerdings innerhalb von 30 Tagen nach Rechnungserhalt erledigt sein, weil der Planer bis dahin eine Antwort erwarten kann.