ย้อนกลับไปในศตวรรษที่ 7 ในยุคราชวงศ์ถังของจีน ชาวจีนได้เรียกผู้คนและดินแดนของญี่ปุ่นในขณะนั้นว่า 'รื่อเปิ่น' (Riben 日本) ที่แปลว่า ดินแดนที่ดวงตะวันขึ้นครั้งแรก หรือก็คือดินแดนแห่งอาทิตย์อุทัย ซึ่งคำว่ารื่อเปิ่นนี้เอง ที่ชาวญี่ปุ่นจะใช้เป็นชื่อเรียกประเทศของตนตามสำเนียงภาษาของพวกเขาว่า 'นิฮง' (Nihon) หรือ 'นิปปง' (Nippon)
นอกจากคำว่ารื่อเปิ่นที่ชาวจีนใช้เรียกญี่ปุ่นแล้ว ในยุคราชวงศ์ฮั่นของจีน (ราวศตวรรษที่ 3 ก่อน ค.ศ. - ศตวรรษที่ 3) ชาวจีนได้เรียกญี่ปุ่นว่า 'วะ' (Wa 倭) ที่แปลว่าพวกเตี้ยแคระ รวมถึง 'วะโกกุ' (Wakoku 倭國) ที่แปลว่าดินแดนของพวกเตี้ยแคระ ก่อนที่ในเวลาต่อมา ชาวญี่ปุ่นจะนำคำว่าวะที่ชาวจีนใช้เรียก (ในเชิงดูแคลน) นี้ มาดัดแปลงจนเป็นคำว่า 'ยามะโตะ' (Yamato 大和) ที่แปลว่า ชนชาติอันยิ่งใหญ่แทน และกลายมาเป็นอีกหนึ่งคำที่ชาวญี่ปุ่นใช้เรียกตัวเอง
ส่วนที่มาของคำว่า Japan นั้น มีอยู่หลายทฤษฎีด้วยกัน โดยทฤษฎีแรกเชื่อว่ามาจากคำว่า 'ซีปัน' (Cipan) หรือ 'ซีปันกู' (Cipangu) ที่อยู่ในบันทึกของนักเดินทางชื่อดังอย่าง มาร์โค โปโล (Marco Polo) ที่ได้เดินทางมายังจีนในศตวรรษที่ 13 โดยคำว่าซีปัน สันนิษฐานว่ามาจากการที่นักสำรวจชาวโปรตุเกส ได้ยินชาวจีนทางภาคเหนือเรียกญี่ปุ่นว่าซีปัน โดยซีปันเชื่อว่ามาจากรื่อเปิ่นอีกทอดนึง หรือมาจากคำว่า 'เจปเปิ่น' (Zeppen) ในภาษาจีนสำเนียงอู๋ (Wu) ที่ถูกใช้ทางตอนใต้ของจีน อีกทฤษฎีหนึ่งบอกว่า มาจากคำว่า 'จาปัน' (Ja-pan) ในภาษาดัตช์ โดยชาวดัตช์ได้ยินคำนี้จากชาวจีนทางใต้ที่เรียกญี่ปุ่นว่า 'ยัตบุน' (Yatbun) หรือ 'ยัตปุ่น' (Yatpun) เนื่องจากเวลาออกเสียงตัววายในภาษาดัตช์จะเป็นเสียงตัวเจแทน
นอกจากนี้ยังมีอีกทฤษฎีที่บอกว่า คำว่า Japan อาจจะมาจากคำที่ชาวมลายูใช้เรียกญี่ปุ่นว่า 'เจปัง' (Jepang) หรือ 'เจปัน' (Jepun) ก็เป็นได้ ส่วนคำว่าญี่ปุ่นที่คนไทยใช้เรียกนั้น สันนิษฐานว่ามาจากคำว่า 'ยิตปุ่น' ในภาษาจีนสำเนียงฮกเกี้ยน ซึ่งเป็นกลุ่มชาวจีนที่เดินทางมาค้าขายกับไทย
