Sebelum datangnya imigran china ke jepang pada jaman yayoi abad ke-4, jepang belum mempunyai huruf meskipun mereka sudah memiliki bahasa. kedatangan imigran china ke jepang membawa dampak besar dalam kehidupan masyaraakat jepang. Masyarakat jepang mengambil tulisan han itu serta cara pengucapannya "onyomi" (pengucapan china), tetapi mereka tidak meninggalkan bahasa mereka sebelumnya, dan mengambil huruf-huruf han tersebut diolah dan dijadikan untuk pengucapan bahasa jepang "kunyomi" (pengucapan jepang). Dari kanji-kanji itulah mulai terbentuk katakana yang mulanya dulu hanya digunakan untuk para pria, sedangkan hiragana yang juga terbentuk dari huruf-huruf kanji digunakan untuk wanita. huruf katakana dan hiragana diperkirakan dibuat oleh Kibino Makibi pada abad ke-6, huruf-huruf tersebut dibuat dari bagian-bagian huruf kanji. Kedua huruf ini disebut dengan gojuon/ 五十音 (50 buah bunyi).
Dewasa ini, jepang menggunakan ketiga huruf tersebut ditambah dengan romaji (huruf romawi) dalam sebuah tulisan atau wacana sekaligus. Huruf kanji sering digunakan untuk mengutarakan arti dari kata kerja, kata sifat dan kata benda. sedangkan huruf hiragana sering kita lihat digunakan sebagai joshi tau partikel, biasanya digabung dengan kanji sebagai imbuhan (setsuji) dan juga kata sambung (setsuzokushi). huruf katakana digunakan untuk menulisakan kata bahasa serapan asing, nama-nama org luar, negara, penekanan suatu kata atau kadang digunakan untuk pengganti tanda kutip. sedangkan huruf romaji biasanya digunakan untuk singkatan.