4세기경, 야마토지방(지금의 나라현)의 호족세력이 연합하여 나라를 세우고 야마토정권을 성립시켰다. 야마토정권은 5세기에서 6세기에 걸쳐 중앙의 정치조직을 정비하고 야마토라는 국가를 세우고 지배자를 대왕으로 불렀다. 이 때의 유력자들의 고분이 전국에 많이 남아있는데, 사까이시(堺市)에 있는 닌토쿠천황(仁德天皇)의 고분이 가장 규모가 큰 것이다. 당시의 고분은 앞이 4각형이고 뒤가 원형인 전방후원분이 많으며, 고분 주위에 인간, 동물, 집, 배 등의 모양을 한 토기(하니와)를 배치하고 있다.

5~6세기에는 한반도나 중국대륙으로부터 많은 사람들이 건너와 일본에 살게 되었다. (국제 일본문화센터의 하니하라 카즈오 교수는 야요이-나라시대에 걸친 천년동안에 한반도로부터 백만명에 가까운 이주민이 있었다는 설을 제기하고 있다.) 이 사람들을 일본에서는 통상 도래인(渡來人), 혹은 귀화인이라고 부른다. 이들은 토목, 양잠, 직물 등의 전문적인 일에 종사 하거나, 관청에서 한자를 사용하여 기록이나 계산, 외교문서 작성 등을 했기 때문에, 앞선 기술이나 지식을 통하여 일본인의 생활의 진보에 큰 공헌을 했다고 보여진다. 유교가 서적과 함께, 불교가 경전이나 불상들과 함께, 중국으로부터 한반도를 경유하여 일본에 전파된 것도 이 때의 일이다. 이것들이 모두 일본인의 학문, 사상, 종교, 예술등의 초석이 된 것은 말할 필요도 없다.

6세기 중엽 가장 유력한 호족 세력이었던 모노베씨(物部氏)와 소가씨(蘇我氏)가 정권쟁탈전을 벌인 결과, 불교의 수용에 적극적인 소가씨가 보수적 세력인 모노베씨를 누르고, 조정의 정치를 거의 독점하게 된다. 또한 이 때 쇼오토쿠태자(聖德太子)가 천황을 대신하여 정치를 하는 섭정에 취임(593), 그는 소사씨 등의 호족과 손잡고 천황을 중심으로 하는 정치의 기초를 닦기위해 노력했다. 우선 관위 12계를 만들어서 관리들의 순위를 정하고, 능력있는 자를 관리로 발탁했다.

또한 불교와 유교 사상을 받아들여 헌법 17조를 제정했다. 그것은 「화합이 중요하다」「부처님을 공경하라」는 따위의, 천황을 모시는 관리들의 마음가짐을 기술한 것으로서, 오늘날의 헌법과는 성격이 다른 것이다. 그는 또 사신과 유학생등을 중국에 파견 (견수사), 선진문화의 수입에 적극적인 자세를 보였다.

쇼오토쿠태자는 독실한 불교신자였기 때문에, 불교를 널리 전하기 위해서 야마토의 이카루(斑鳩)에 호오류우지(法隆寺)를 세웠다. 이 절은 한번 불이 났지만 곧 재건되어, 현재 세계에서 가장 오래된 목조건물의 하나로 인정되고 있다. 호오류우지에는 석가삼존상을 비롯하여 훌륭한 미술·공예품이 보존되어 있으며, 호오류우지 뿐만 아니라 나라에 있는 츄우구우지(中宮寺), 쿄오토에 있는 코오류우지(廣隆寺)에도 예술성이 뛰어난 미륵보살상이 남아 있다. 이 시대의 문화는, 야마토의 아스카(飛鳥)나 이카루를 중심으로 번성했기 때문에 아스카문화라고 부른다. 아스카문화는 대륙의 영향이 강하여, 멀리 그리이스나 서아시아 문화의 영향을 받은 것도 적지 않다.

쇼오토쿠태자의 사후, 소가씨들의 세력이 더욱 강화되어, 그들의 전횡이 극에 달하자, 황태자인 나까노 오오에(中大兄)와 호족의 한 사람인 나까토미노 카마타리(中臣鎌足) 등은, 645년 소가씨를 제거하고 새로운 정치의 장을 열었다. 이것을 大化의 改新이라고 한다. 大化는 일본에서 처음으로 제정된 연호이다. 대화개신은 당나라의 제도를 모방하여 천황을 중심으로 하는 정치체제를 확립했다. 그 구체적인 내용을 보면, 그 당시까지 호족이 소유하고 있던 토지와 인민을 모두 천황이 소유하는 것으로 전환시키고(公地·公民化), 호족은 도읍이나 지방의 관리로 만들어 버렸다. 중앙정부에는 제사를 관장하는 신기관(新祇官)과 정치를 담당하는 태정관(太政官)의 2관과 8省을 설치하고, 지방에는 중앙정부가 임명한 관리가 국사(國司)라는 이름으로 파견되었다. 모든 인민을 호적에 등록시키고, 그에 따라 일정한 토지(口分田)를 나누어 주었다. 토지에 따라 쌀이나 천으로 세금을 조정에 내게하고, 사람이 죽을면, 토지를 반납하게 했다. 그 밖에도 남자에게는 도읍이나 지방의 토목공사 등에서 일해야 하는 勞役의 의무가 부과되었으며, 도읍지나 큐우슈우의 국경을 경비하는 병역의 의무도 있었다.