A civilizáció első jelei a japán szigetvilágban a Dzsómon-korszakból származnak és az i. e. 14. évezredig nyúlnak vissza. Ezek mezolitikus és neolitikus, félig letelepedett, vadászó-gyűjtögető életmódra és a mezőgazdaság kezdetleges formáira utalnak. Az ebből az időszakból származó, agyagból készült, díszes mintázatú edények, a fazekasság legősibb darabjai közé tartoznak a világon.

Az i. e. 3. században kezdődött Jajoi-korszakban jelent meg először a rizstermesztés, a vas- és bronzművesség és a fazekasság új formája, amelyet a Kínából és Koreából érkező bevándorlók hoztak magukkal. A Jajoi kultúra idején megkezdődött a mezőgazdaság rohamos fejlődése.

A kínai Han könyvben található az első írásos említés a japánokról. A koreai három királyság feljegyzései szerint a legerősebb királyság a szigetvilágban a 3. század alatt a Jamataikoku volt.

A 6. században a Korea királyságain keresztül érkező mahájána buddhizmus behatolt Japánba. A kezdeti ellenállás dacára a buddhizmus az Aszakusza korszak vezető rétegében egyre jobban elterjedt.

A 8. századi Nara korszakban kezdett virágzott az egységes és erős vezetéssel rendelkező Japán. Központja az akkori császári székhely, Heidzsókjó (mai nevén Nara) volt. A kínai adminisztrációs rendszer fokozatos átvétele után a Nara-korszakban kezdődött az írott irodalom. Ekkor keletkezett két jelentős krónika, a Kodzsiki (712) és a Nihonsoki (720). Ezek az iratok főként valós történeteket, de mítoszokat is tartalmaznak.

784 és 794 között Kammu császársága idején az uralkodó székhelyét Nagaokakjóba helyezték. 794-ben a fővárost ismét átköltöztették. Új helye Heiankjó, a mai Kiotó lett, ami a császárok székhelye maradt több mint 1000 évig. Az újonnani áthelyezéssel megkezdődött a Heian-korszak, mely során kialakult a sajátos japán irodalom, költészet és művészet. Ekkortájt született Sikibu Muraszaki Gendzsi monogatari című alkotása és a Kimi ga jo, a mai Japán himnusz.

 
A kamakurai Kótokuin Amida Buddha-szobraJapán feudális korszakát egy új uralkodó harcos osztály, a szamuráj réteg kialakulása vezette be. 1185-ben Minamoto no Joritomot, aki legyőzte az ellenséges Taira klánt, kinevezték sógunnak és az ország katonai és igazgatási központját Kamakurában hozták létre. Joritomo halála után a Hódzsó klán került hatalomra a sógunok kormányzójaként. A zen buddhizmus is a Kamakura-korszakban, 1185 és 1333 között kezdett terjedni és népszerűvé válni a szamurájok körében. 1274-ben és 1281-ben a Kamakura sógunátust mongolok támadták meg, de pusztító viharok miatt ezek a támadások nem jártak sikerrel. Ezeket a viharokat a japánok isteni segítségnek hitték, és kamikadzéknak (magyarul isteni szél) nevezték el őket. A Kamakura sógunátusnak Go-Daigo császár vetett véget, ám őt 1336-ban Takaudzsi Asikaga sógun megölte. Az ezután következő Asikaga sógunátus széttagolódott a feudális hadurak (japánul daimjó) birtokaira. Ekkor tört ki az Ónin háború.

A 16. század alatt misszionáriusok és kereskedők érkeztek Japánba Portugáliából. Őket Nanbantnak (magyarul déli barbárok) nevezték. Megindult a Japán és a nyugat közötti gazdasági és kulturális csere.

 
Oda Nobunaga, a japán történelem egyik legismertebb és legjelentősebb alakjaA 16. század második felében Oda Nobunaga számos hadúr területét hódította meg Európából beszerzett fegyverek segítségével, ám 1582-ben, amikor már majdnem az egész országot egyesítette, merénylet áldozata lett. Nobunagát Tojotomi Hidejosi követte a sógun tisztségében, aki 1590-ben egyesítette a nemzetet. Hidejosi kétszer is elfoglalta Koreát, de a koreaiaktól és kínaiaktól vereségek, valamint a vezér halála miatt 1598-ban a japán seregek Korea elhagyására kényszerültek.

Hidejosi halála után Tokugava Iejaszu lett az ország tényleges ura. Miután 1600-ban háború tört ki, Iejaszu a Sekigaharai csatában legyőzte az ellenséges klánokat, és 1603-ban sógunná nevezte ki magát, megalapítva az edói (a mai Tokió) székhelyű Tokugava sógunátust. Ekkoriban fontos rendeleteteket hoztak. Ilyen volt a szankin-kotai, amellyel a daimiók hatalmát akarták korlátozni, és a szakoku, amely két és fél évszázadra elzárta a Japánt a külvilágtól. Az Edo korszakban fejlődött a kokugaku, Japán japánok általi tanulmányozása, valamint a rangaku, a nyugati ismeretek terjedése.

1854. március 31-én Matthew Perry sorhajókapitány vezetésével az Egyesült Államok haditengerészetének fekete hajói Japánra erőltették a a tipikusan egyenlőtlen szerződés jellegű kanagavai egyezményt. Ezzel az ország kikötői megnyitására kényszerült a külvilág számára. Az 1867 és 1868 közötti Bosin háború megbuktatta a sógunátust, és Meidzsi császár reformjaival egy császárközpontú országot hozott létre. Japán átvette a nyugati politikai, igazságügyi és katonai intézményeket, Nagy Britanniáéhoz hasonló parlamentáris rendszert. 1882-ben Hirobumi Ito lett Japán első miniszterelnöke. A Meidzsi-korszak reformjai a Japán Birodalmat egy iparosított nagyhatalommá alakították át, amely a nyersanyagok megszerzése érdekében háborúkat indított szomszédai ellen. Az 1894 és 1895 közötti első kínai-japán háborúban és az 1904 és 1905 közötti orosz-japán háborúban aratott győzelmekkel Japán meghódította Koreát, Tajvant és a Szahalin sziget déli részét.

 
Az 1945-ös nagasaki atomrobbanásA 20. század elején a rövid ideig fennállt Taisó demokráciát beárnyékolta Japán terjeszkedése és militarizálódása. Az első világháborúban az ország a győztes antanthatalmak oldalán állt. 1935-ben az ország kilépett a Népszövetségből. 1936-ban Japán aláírta az Antikomintern Paktumot az Adolf Hitler vezette Harmadik Birodalommal. 1941-ben a Japán Birodalom a tengelyhatalmak oldalán belépett a második világháborúba.

1937-ben a Japán Birodalom elfoglalta Kína egyes részeit, elindítva a második kínai-japán háborút. A támadás miatt Amerikai Egyesült Államok olajembargót léptetett érvénybe a birodalommal szemben. 1941. december 7-én Japán megtámadta a Pearl Harbor-i amerikai haditengerészeti bázist és hadüzenetet küldött az Egyesült Államoknak, az Egyesült Királyságnak és Hollandiának. (Ez vonta be az Egyesült Államokat a második világháborúba). Miután az USA 1945-ben atombombát dobott két japán városra, Hirosimára és Nagaszakira, valamint a Szovjetunió belépett az ország elleni háborúba, Japán augusztus 15-én feltétel nélkül megadta magát a szövetségeseknek. A háború Japánban több millió emberéletet követelt és elpusztította az ország gazdaságát és infrastruktúráját. A tokiói perben, amit a szövetségesek indítottak a háborús bűnösök megbüntetésére 1946. május 3-án, több háborús japán vezetőt, köztük Todzsó Hideki miniszterelnököt, halálra ítéltek.

1947-ben Japán új pacifista alkotmányt fogadott el. Azóta liberális demokrácia. A amerikai megszállás hivatalosan 1952-ig tartott. 1956-ban Japán belépett az Egyesült Nemzetek Szervezetébe. A hihetetlen gazdasági növekedés után Japán a világ második legnagyobb gazdasága lett a világban. A jelenkort Japánban Heiszei-korszaknak hívják.