Der Bundesrechnungshof und die Landesrechnungshöfe sind voneinander unabhängige Institutionen der externen Finanzkontrolle; zwischen ihnen besteht kein Über- oder Unterordnungsverhältnis.
Dennoch findet auf verschiedenen Ebenen zwischen ihnen ein Informations- und Meinungsaustausch statt. Neben dem schriftlichen Erfahrungsaustausch sind hier insbesondere die regelmäßigen Tagungen der „Konferenz der Präsidentinnen und Präsidenten der Rechnungshöfe des Bundes und der Länder“ und die Tagungen der Arbeitskreise der Rechnungshöfe zu nennen, deren Beratungen auf bestimmte Fachthemen fokussiert sind.
Daneben gibt es Institutionen, für deren Prüfung mehrere Rechnungshöfe zuständig sind. In diesen Fällen kann nach § 93 der Landeshaushaltsordnung gemeinsam geprüft werden oder das Prüfungsrecht durch entsprechende Vereinbarungen auf einen Rechnungshof übertragen werden.
Nach den europäischen Verträgen arbeiten der Europäische Rechnungshof und die Rechnungshöfe der Mitgliedstaaten unter Wahrung ihrer Unabhängigkeit vertrauensvoll zusammen. Der Bundesrechnungshof koordiniert diese Kontakte. Der Europäische Rechnungshof unterrichtet die nationalen Rechnungshöfe von seinen Prüfungen, damit diese entscheiden können, ob und in welcher Form sie sich hieran beteiligen. In Berlin kommt dies z. B. im Bereich der Strukturfondsförderung der EU zum Tragen. Darüber hinaus arbeitet der Rechnungshof von Berlin auch mit dem Rechnungshof der Republik Österreich bei der Prüfung einzelner Kultureinrichtungen zusammen.