一般的には、国家行政組織法において「国の行政機関」と定める省とそれらの外局(委員会、庁)、および、内閣府設置法に定める内閣府とその外局(委員会、庁)を指す。また、単に「国の行政機関」もしくは中央省庁といった場合、内閣府、復興庁、総務省、法務省、外務省、財務省、文部科学省、厚生労働省、農林水産省、経済産業省、国土交通省、環境省、防衛省、国家公安委員会(警察庁)の1府11省2庁を指す。現行の中央省庁は、2001年(平成13年)1月6日の中央省庁再編で体制の大枠ができた。
行政機関のうち各省の長は、それぞれ各省大臣という(国家行政組織法5条1項)[1][2]。各省大臣は、内閣法にいう「主任の大臣」として、それぞれ行政事務を分担管理する(同条項)。各省大臣は、国務大臣の中から内閣総理大臣が命じ、または、内閣総理大臣自らこれに任じる(同条2項)。その他、委員会の長は委員長とし、庁の長は長官とする(同法6条)[3][2]。
なお、国の行政機関は原則として内閣に属しているが、会計検査院は内閣に属さない唯一の国の行政機関である。