Le Bouddhisme tantrique japonais provient du Bouddhisme tantrique chinois diffusé par trois grands maîtres (Subhakarasimha, Vajrabodhi, Amoghavajra). Amoghavajra transmit l'enseignement tantrique à son disciple chinois Hui-Guo qui diffusa à son tour l'enseignement du Monde du Diamant et de la Matrice à son disciple japonais Kukai (Kobo-Daishi).

Kobo-Daishi (774 -835) était très érudit. Il n'aspirait à aucune gloire, ni au bonheur matériel. A l'âge de vingt ans, il fit vœu de discipline monastique et devint moine. Il était surnommé Kukai (Mer de Vacuité). Un jour, il vit dans son rêve le Sutra Mahavairocana. Dans le but d' apprendre les grands enseignements du Vajrayana et sans peur du danger, il entreprit la périlleuse traversée de la mer de Chine. En 804, il arriva au temple Ching Lung à Chang-An en Chine et suivit les enseignements du maître Hui-Guo. Il y fit de grands progrès et découvrit rapidement le sens profond du Vajrayana. Le premier mois, il reçut l'initiation de l'enseignement du Monde de la Matrice et le mois suivant, l'initiation de l'enseignement du Monde du Diamant. Le troisième mois, Hui-Guo, avant de mourir, conféra à Kukai l'initiation de grand maître, lui permettant d'être qualifié pour transmettre les doctrines secrètes.

Après la disparition de Hui-Guo, Kukai retourna au Japon et répandit avec vigueur le Bouddhisme tantrique. Il fut le fondateur du temple Kongobuji qui devint ainsi le « centre japonais de l'école Shingon ». Le Bouddhisme tantrique fut ainsi répandu au Japon.

Mais à la fin de la dynastie Tang, de violentes vagues de répressions anti-bouddhiques causèrent la disparition du Bouddhisme tantrique en Chine. Heureusement, Hui-Guo avait recommandé à Kukai d'apporter les instruments rituels et les Tantras importants du Vajrayana au Japon afin de les préserver et d'éviter une éventuelle perte de la transmission de la lignée du Bouddhisme tantrique chinois. Kukai répandit le Bouddhisme tantrique chinois au Japon et contribua à l'expansion du Vajrayana dans son pays. Il fonda le Shingon avec un système complet. Jusqu'à nos jours, le Shingon demeure la religion d'état du Japon ainsi que la religion la plus populaire pour les Japonais.

Par la suite, le Bouddhisme tantrique japonais se subdivisa en de nombreuses branches. Leur différence réside dans les méthodes de pratique. Mais d'un point de vue théorique, ces branches suivent toujours respectueusement les enseignements de Kukai.

Les trois principaux Sutras du Bouddhisme tantrique japonais sont : le Sutra Mahavairocana, le Sutra Vajrasekhara et le Sutra Susiddhi. La pratique du Shingon commence par celle des dix-huit voies du Kriya Tantra. Elle s'achève par la « visualisation des cinq roues » du Monde de la Matrice et la « visualisation des cinq Bouddhas » du Monde du Diamant du Yoga Tantra.

La différence entre le Bouddhisme tantrique japonais et le Bouddhisme tantrique tibétain réside sur le fait que le premier n'intègre pas le Tantra Suprême (l'Anuttara Tantra) mais uniquement les trois autres classes de Tantras (Kriya, Carya et Yoga Tantras), alors que le second englobe la pratique de l'Anuttara Tantra. Le Bouddhisme tantrique japonais possède en fait des textes sacrés du Tantra Suprême mais il ne comprend que la partie théorique et non les méthodes de pratique.