Die MPK wurde auf Initiative der Ministerpräsidenten als “Gremium der Selbstkoordination” der Länder ins Leben gerufen. Ziel ihrer Beratungen ist die Abstimmung gemeinsamer Positionen der Länder untereinander bzw. gegenüber dem Bund in wichtigen politischen Fragen außerhalb des normalen Gesetzgebungsverfahrens. Anders als der Bundesrat ist sie kein Verfassungsorgan. Sie findet ihre Grundlage im Bundesstaatsprinzip des Grundgesetzes, nach dem sowohl der Gesamtstaat Bundesrepublik als auch die Länder eigene Staatsqualität haben. Daraus folgt das Recht jedes einzelnen Landes, die ihm überantworteten Kompetenzfelder eigenverantwortlich zu gestalten und dabei mit anderen Ländern zusammenzuarbeiten. Das impliziert auch die Möglichkeit, die dazu notwendigen Instrumente und Institutionen wie die Ministerpräsidentenkonferenz oder Fachministerkonferenzen einzurichten. In der MPK hat jedes Land eine Stimme, während im Bundesrat die Stimmen der Länder entsprechend ihrer Einwohnerzahl unterschiedlich gewichtet werden (zwischen drei und sechs Stimmen).
Für Entscheidungen in der MPK galt bis Ende 2004 das Konsensprinzip, d. h. Entscheidungen setzten immer Einstimmigkeit voraus. Die Kompromissbereitschaft der Länder spielt daher eine viel größere Rolle als im Bundesrat, wo in politisch kontroversen Fragen oftmals entlang der politischen Linien abgestimmt wird. Das ist in der Ministerpräsidentenkonferenz anders. Allerdings gilt das Einstimmigkeitsprinzip nicht mehr uneingeschränkt: Die MPK hat im Zuge der Beratungen zur Föderalismusreform mit Blick auf das Ziel, die Handlungsfähigkeit der Ländergesamtheit zu stärken, Ende 2004, auf Vorschlag des damaligen Vorsitzenden, des Regierenden Bürgermeisters von Berlin, Klaus Wowereit, das bis dahin geltende Einstimmigkeitsprinzip insoweit geändert, dass Entscheidungen jetzt nur noch die Zustimmung von mindestens 13 Ländern voraussetzen. Das gilt allerdings nicht für Entscheidungen über die Geschäftsordnung der MPK, haushaltswirksame Angelegenheiten und die Schaffung von Gemeinschaftseinrichtungen. In diesen Fällen gilt weiterhin das Einstimmigkeitsprinzip.
Traditionell wird im Sprachgebrauch der MPK zwischen A- und B-Ländern unterschieden. Die A-Länder sind die SPD-geführten Länder, als B-Länder werden die Länder mit CDU- bzw. CSU-Regierung bezeichnet. Vor den Plenarsitzungen der Ministerpräsidentenkonferenz finden in der Regel getrennte Vorbesprechungen der A- bzw. B-Länder statt.