Als gemeinsame Einrichtung von Bundestag und Bundesrat besteht die Aufgabe des Vermittlungsausschusses darin, als Mittler zwischen den beiden Kammern zu fungieren, wenn die Häuser im Rahmen des Gesetzgebungsverfahrens zu einem bestimmten Gesetz unterschiedlicher Auffassung sind.
Dem Vermittlungsausschuss gehören 32 Mitglieder an, die je zur Hälfte dem Bundesrat (ein Vertreter pro Bundesland) und Bundestag (nach Fraktionsstärke) angehören. Vertreter Berlins ist der Regierende Bürgermeister Kai Wegner.
Die kleine Zahl der Mitglieder, ihre generelle Weisungsunabhängigkeit und die Vertraulichkeit der Sitzungen sollen dazu führen, dass am Ende der Verhandlungen ein Ergebnis steht, dem sowohl Bundesrat als auch Bundestag zustimmen können.
Die Einberufung des Vermittlungsausschusses bemisst sich nach Art. 77 Abs. 2 GG. Danach kann der Bundesrat immer und bei Gesetzen, bei denen die Zustimmung des Bundesrates erforderlich und dieser die Zustimmung zunächst verweigert hat, zusätzlich die Bundesregierung und der Bundestag sein Tätigwerden verlangen.
Im Verlaufe der Sitzungen können jedoch lediglich Änderungen, Ergänzungen oder Kompromissformeln eingearbeitet werden, nicht jedoch eigene, neue Gesetze beschließen – hierfür fehlt dem Vermittlungsausschuss die demokratische Legitimation.
Der Vermittlungsausschuss fasst seine Beschlüsse mit der Mehrheit der Stimmen seiner Mitglieder.
Im Regelfall beschließt er Änderungen zu einem Gesetzesbeschluss, der dann in dieser Fassung dem Bundestag nochmals zur Abstimmung vorgelegt wird.
Einigt er sich auf eine Bestätigung des Gesetzesbeschlusses, so entfällt eine erneute Abstimmung durch den Bundestag.
In seltenen Fällen ist es auch möglich, dass der Vermittlungsausschuss verlangt, einen Gesetzesbeschluss insgesamt aufzuheben. Mit diesem Ergebnis muss sich dann wieder der Bundestag auseinandersetzen.
Schließlich kann das Vermittlungsverfahren auch ohne Einigungsvorschlag enden. Um jedoch die Mitglieder dazu zu bringen, zunächst in der Sache zu verhandeln, kann frühestens in der dritten Sitzung des Vermittlungsausschusses beschlossen werden, das Verfahren ohne Einigungsvorschlag zu beenden.