การศึกษาภาษาญี่ปุ่นได้เริ่มต้นที่จุฬาลงกรณ์มหาวิทยาลัยครั้งแรก ใน พ.ศ. 2485 ในช่วงสงครามโลกครั้งที่สอง และสิ้นสุดใน พ.ศ. 2488 หลังสงครามโลกสงบ และญี่ปุ่นแพ้สงคราม
อย่างไรก็ตาม การเรียนการสอนได้เริ่มต้นอีกครั้งในปี พ.ศ. 2509 นับเป็นเวลาเกือบ 60 ปีที่มีการเปิดสอนหลักสูตรภาษาญี่ปุ่นในคณะอักษรศาสตร์ จุฬาลงกรณ์มหาวิทยาลัย โดยเริ่มต้นจากการสอนเป็นวิชาเลือก จนพัฒนาเป็นวิชาเอกในหลักสูตรระดับปริญญาบัณฑิต นอกจากนี้ ยังมีการเปิดหลักสูตรระดับมหาบัณฑิต สาขาภาษาและวรรณคดีญี่ปุ่น (ตั้งแต่ พ.ศ. 2549 ปรับปรุงหลักสูตรเปลี่ยนชื่อเป็นสาขาวิชาภาษาญี่ปุ่น) เมื่อ พ.ศ. 2542 และเมื่อ พ.ศ. 2550 ได้เปิดหลักสูตรระดับมหาบัณฑิต เพิ่มขึ้นอีกหลักสูตรหนึ่งคือ หลักสูตรสาขาวิชาภาษาญี่ปุ่นเป็นภาษาต่างประเทศ
นอกจากหลักสูตรปริญญาบัณฑิต และมหาบัณฑิต ที่สาขารับผิดชอบโดยตรงแล้ว เมื่อ พ.ศ. 2546 สาขายังร่วมกับสาขาวิชาวรรณคดีเปรียบเทียบ เปิดสอนหลักสูตรระดับดุษฎีบัณฑิตสาขาวิชาวรรณคดี และวรรณคดีเปรียบเทียบอีกด้วย
นอกจากนี้ ในปี พ.ศ. 2551 สาขาได้เริ่มจัดการเรียนการสอนวิชาภาษาญี่ปุ่นบรรยายเป็นภาษาญี่ปุ่น และอังกฤษ ให้แก่นิสิตหลักสูตรปริญญาบัณฑิต นานาชาติของคณะอักษรศาสตร์ (BALAC) ควบคู่ไปกับการจัดการเรียนการสอนภาษาญี่ปุ่นชั้นต้นให้กับหลักสูตรนานาชาติต่างคณะ
1. อ.ม.ล. นีลนารา ทองใหญ่ (2511-2517)
2. อ. จินตนา ประมุขชัย (2513-2517)
3. ผศ. ปิยะจิต ทาแดง (สกุลเดิม จันทรางศุ) (2513-2547)
4. อ. วิมล มูนจินดา (2514-2519)
5. ผศ.ดร. กัลยาณี สีตสุวรรณ (2515-2550)
6. รศ. มณฑา พิมพ์ทอง (2517-2555)
7. รศ. ประเสริฐ จิตติวัฒนพงศ์ (2519-252? ย้ายไปสังกัดคณะรัฐศาสตร์ มหาวิทยาลัยธรรมศาสตร์)
8. ผศ. สุชาดา สัตยพงศ์ (2520-2553)
9. ผศ.ดร. รัชนี ปิยะมาวดี (2520-2549)
10. ศ.กิตติคุณ ดร. สิริมนพร สุริยะวงศ์ไพศาล (ชื่อเดิม เสาวลักษณ์) (2520-2559, ศาสตราภิชาน 2559-2561)
11. อ. กาญจนา ประสพเนตร (2525-2540)
12. อ. บัณฑิต ลิมเพชรากุล (2538-2539)
13. อ. วิสุทธิกัญญา ต่อศรีเจริญ (2538-2540)
14. ผศ.ดร. วรวุฒิ จิราสมบัติ (2540-2565)
15. รศ.ดร. เดือนเต็ม กฤษดาธานนท์ (สกุลเดิม สายหอม) (2541-ปัจจุบัน)
16. ศ.ดร. กนกวรรณ เลาหบูรณะกิจ คะตะกิริ (2542-2545, 2549-ปัจจุบัน)
17. รศ.ดร. ชมนาด ศีติสาร (2542-ปัจจุบัน)
18. อ.ดร. ลัดดา แก้วฤทธิเดช (2543-2547)
19. อ.ดร. รังสิมา บุญสินสุข (2544-2545)
20. ผศ.ดร. ชวาลิน เศวตนันทน์ (2546-2550)
21. ศ.ดร. อรรถยา สุวรรณระดา (2547-ปัจจุบัน)
22. รศ.ดร. น้ำทิพย์ เมธเศรษฐ (2548-ปัจจุบัน)
23. ผศ.ดร. อัษฎายุทธ ชูศรี (2551-ปัจจุบัน)
24. อ.ดร. อาทยา อาโอคิ (2554-2555)
25. ผศ.ดร. มัทนา จาตุรแสงไพโรจน์ (2555-ปัจจุบัน)
26. รศ.ดร. ยุพวรรณ โสภิตวุฒิวงศ์ (2556-ปัจจุบัน)
27. ผศ.ดร. สรัญญา ชูโชติแก้ว (2561-ปัจจุบัน)
28. ผศ.ดร. สลิลรัตน์ กวีจารุมงคล (2562-ปัจจุบัน)
1. ศ. ตาเกยิโร โทมีต้า(冨田竹二郎)
2. ศ. ฮิเดะโอะ นิฌิโอะกะ(西岡ひでお)
3. อ. โซคิชิ คิมุระ(木村宗吉)
1. ศ. โอะซะมุ มะท์ซุยะมะ(松山納)
2. อ. มะกิโอะ คะท์ซุระ(桂満希郎)
3. อ. มิกิโอะ โมะริ(森幹男)
4. ศ. เคนจิโร อิชิกะวะ(市川健二郎)
5. อ. โทะฌิฮะรุ โยะฌิกะวะ(吉川利治)
6. อ. ยะซุอะกิ ซะกะโมะโตะ(坂本恭章)
7. ศ. ยะซุฌิ ยะซุบะ(安場保吉)
8. อ. ทะกะฌิ คะวะโมะโตะ(かわもとたかし)
9. อ. ยะซุฮิโกะ บะบะ(馬場やすひこ)
10. อ. ยูจิโร อิวะกิ(2513-2520)
11. ศ. เคนซุเกะ ทะมะอิ(玉井乾介) (2519-2522)
12. อ. ทะเกะดะ (ไม่ปรากฏข้อมูลชัดเจน)
13. ศ. ยะซุโอะ คุระโมะจิ(倉持保男)(2523-2525)
14. อ. คิโนะฌิตะ (ไม่ปรากฏข้อมูลชัดเจน)
15. ศ. คะโอะรุ ทะกะซะกะ(高坂薫)(2524-2525)
16. อ. ฮินะโกะ ซะกะโมะโตะ
17. อ. อะกะงิ (ไม่ปรากฏข้อมูลชัดเจน)
18. อ. อะดะจิ (ไม่ปรากฏข้อมูลชัดเจน)
19. อ. ยะซุโกะ โดะอุระ(堂裏泰子)(2527-2529 อาจารย์พิเศษจาก JF, 2529-2530 อาจารย์จุฬาฯ)
สมัยอาจารย์สังกัดจุฬาลงกรณ์มหาวิทยาลัย (2530-ปัจจุบัน)
1. อ. ทาเคชิ คิตะมูระ(北村武士)(2530-2534 อาจารย์พิเศษจาก JF)
2. อ. ชูโกะ ทานากะ(田中周子)(2534-2548, 2548-2550 อาจารย์จุฬาฯ)
3. อ. เคสุเกะ โองาตะ(尾形佳助)(2534-2535 อาจารย์พิเศษจาก JF)
4. อ. โจจิ อิเคะสึ(池津丈司)(2535-2538 อาจารย์พิเศษจาก JF)
5. อ. โยชิดะ คะสึฮิโกะ(吉田一彦)(2538-2541 อาจารย์พิเศษจาก JF)
6. อ. มิชิโกะ อิมะอิ(今井己知子)(2548-2554, 2555-2559 อาจารย์พิเศษทุนโตโยต้า)
7. อ.ดร. อะท์ซุฌิ โมะริ(森篤嗣)(2548-2549)
8. ผศ.(พิเศษ) คิโยะมิ อิเกะตะนิ(池谷清美)(2549-2562)
9. อ. อะซะโกะ ฮะยะฌิ(林麻子)(2549-2550 อาจารย์พิเศษทุนโตโยต้า)
10. อ.ดร. ฮิเดะกิ ฮิระมะท์ซุ(平松)(2550-2551 อาจารย์พิเศษทุนโตโยต้า)
11. อ.ดร. ฌิเงะกิ อิวะอิ (2550-2555 อาจารย์พิเศษทุนโตโยต้า)
12. อ.ดร.เอะอิจิ นะกะยะมะ(中山英治)(2550-2552 อาจารย์พิเศษทุนโตโยต้า)
13. อ.ดร.เรโกะ อิชิบาชิ(石橋玲子)(2550-2554 อาจารย์พิเศษทุนโตโยต้า)
14. อ.ดร. ทะกะเอะ ฮะงิวะระ(萩原孝恵)(2552-2557 อาจารย์พิเศษทุนโตโยต้า)
15. อ. นะท์ซุกิ มะท์ซุอิ(松井夏津紀)(2554-2559)
16. อ.ดร. ริวเอ็น ฮิระมัตสึ(平松隆円)(2556-2557 อาจารย์พิเศษทุนโตโยต้า)
17. อ.ดร. ทะกะฌิ มะซุโนะ(増野高司)(2558-2560 อาจารย์พิเศษทุนโตโยต้า)
18. อ. เมงุมิ คนโด(近藤めぐみ)(2559-2562)
19. อ.ยะซุโกะ นะกะอิ(中井靖子)(2559-2561 อาจารย์พิเศษทุนโตโยต้า)
20. อ. อิกุมิ มะท์ซุอิ(松井育美)(2559-2560 อาจารย์พิเศษทุนโตโยต้า)
21. อ. ยะสุโกะ เซ็นซุอิ(泉水康子)(2562-2562 อาจารย์พิเศษทุนโตโยต้า)
22. อ. คะสุมิ ซะอิโต(齋藤和美)(2562-2563)
23. อ. ดร.ยูโกะ มิโยะฌิ(三好裕子)(2563-2565)
24. อ. ฮิเดะฮิโร โคบายาชิ(小林英弘)(2563-ปัจจุบัน)
25. อ. อะยะเมะ วะตะนะเบะ(渡邉あやめ)(2565-2568)