"עַל נַהֲרוֹת בָּבֶל, שָׁם יָשַׁבְנוּ, גַּם בָּכִינוּ בְּזָכְרֵנוּ אֶת צִיּוֹן" (תְּהִלִּים קל"ז). אָמַר רַב יְהוּדָה אָמַר רַב: מְלַמֵּד שֶׁהֶרְאָה הקב"ה לְדָוִד חֻרְבַּן בַּיִת רִאשׁוֹן וְחֻרְבַּן בַּיִת שֵׁנִי. בַּיִת רִאשׁוֹן: "עַל נַהֲרוֹת בָּבֶל". עַל בַּיִת שֵׁנִי: "זְכֹר ה' לִבְנֵי אֱדוֹם אֶת יוֹם יְרוּשָׁלִָם". כֵּיוָן שֶׁהִגִּיעַ יִרְמְיָהוּ לִנְהַר פְּרָת, עָנָה נְבוּזַרְאֲדָן, וְאָמַר לוֹ: אִם טוֹב בְּעֵינֶיךָ לָבוֹא אִתִּי בָבֶל. חָשַׁב יִרְמְיָהוּ בְּלִבּוֹ: אִם הוֹלֵךְ (אני) עִמָּהֶם לְבָבֶל, אֵין מְנַחֵם לַגָּלוּת הַנִּשְׁאָר מֵהֶם. נָטְלוּ הַגָּלֻיּוֹת אֶת עֵינֵיהֶם, וְרָאוּ אֶת יִרְמְיָהוּ, שֶׁפֵּרֵשׁ מֵהֶם. גָּעוּ כֻּלָּם בִּבְכִיָּה, וְצָוְחוּ: רַבֵּנוּ, יִרְמְיָהוּ, הֲרֵי אַתָּה מַנִּיחֵנוּ! שָׁם בָּכוּ, שֶׁנֶּאֱמַר: "עַל נַהֲרוֹת בָּבֶל, שָׁם יָשַׁבְנוּ, גַּם בָּכִינוּ". עָנָה יִרְמְיָה וְאָמַר לָהֶם: מֵעִיד אֲנִי עָלַי שָׁמַיִם וָאָרֶץ, אִלּוּ בְּכִיתֶם בְּכִיָּה אַחַת עַד שֶׁאַתֶּם בְּצִיּוֹן, לֹא גְּלִיתֶם. "שָׁם יָשַׁבְנוּ, גַּם בָּכִינוּ". מְלַמֵּד שֶׁלֹּא הָיָה לָהֶם יְשִׁיבָה מִשֶּׁיָּצְאוּ מִירוּשָׁלַיִם עַד שֶׁהִגִּיעוּ לִפְרָת...
מָה רָאוּ יִשְׂרָאֵל לִבְכּוֹת עַל נַהֲרוֹת בָּבֶל? רַבִּי יוֹחָנָן אָמַר: הָרַג בָּהֶם (נְהַר) פְּרָת בְּיִשְׂרָאֵל יוֹתֵר מִמָּה שֶׁהָרַג נְבוּכַדְנֶצַּר הָרָשָׁע. כְּשֶׁהָיוּ יִשְׂרָאֵל שְׁרוּיִין בָּאָרֶץ, לֹא הָיוּ שׁוֹתִין אֶלָּא מִמֵּי גְּשָׁמִים וּמִמֵּי נוֹזְלִים וּמִמֵּי מַעְיָנוֹת. כֵּיוָן שֶׁגָּלוּ לְבָבֶל, שָׁתוּ מֵי הַפְּרָת, וּמֵתִים. לְפִיכָךְ הָיוּ בּוֹכִים עַל הַהֲרוּגִים שֶׁהָרְגוּ בָּהֶם אוֹיְבֵיהֶם, וְעַל מֵתִים שֶׁמֵּתוּ בַּדֶּרֶךְ, וְעַל הַהֲרוּגִים שֶׁהָרַג בָּהֶם פְּרָת, וְלֹא עוֹד, אֶלָּא שֶׁהָיָה נְבוּכַדְנֶצַּר יוֹשֵׁב בִּסְפִינָה, הוּא וְכָל גְּדֹלָיו וְכָל שָׂרָיו, וְעִמָּהֶם כָּל מִינֵי זֶמֶר, שֶׁנֶּאֱמַר (יְשַׁעְיָה מג יד): "כַּשְׂדִּים בָּאֳנִיּוֹת רִנָּתָם". וְכָל מַלְכֵי יְהוּדָה מֻשְׁלָכִים בְּשַׁלְשְׁלָאוֹת שֶׁל בַּרְזֶל, וְהוֹלְכִין עֲרוּמִים עַל שְׂפַת הַנָּהָר. נָשָׂא נְבוּכַדְנֶצַּר הָרָשָׁע אֶת עֵינָיו, וְרָאָה אוֹתָם. אָמַר לַעֲבָדָיו: מִפְּנֵי מָה הַלָּלוּ הוֹלְכִין בְּקוֹמָה זְקוּפָה בְּלֹא מַשּׂאוֹי? אֵין לָכֶם מַשָּׂא, שֶׁיִּתְּנוּ עַל צַוָּארָם? בְּאוֹתָהּ שָׁעָה הֵבִיאוּ סְפָרִים, וְעָשׂוּ אוֹתָם כְּחֵמוֹת, וּמִלְּאוּ אוֹתָם חוֹל, וְהִנִּיחוּ עַל כְּתֵפָם, עַד שֶׁנִּכְפַּף קוֹמָתָם, וְאָמְרוּ עַל עַצְמָם (אֵיכָה ה ה): "עַל צַוָּארֵנוּ נִרְדַּפְנוּ". בְּאוֹתָהּ שָׁעָה גָּעוּ כָּל יִשְׂרָאֵל בִּבְכִיָּה, עַד שֶׁעָלְתָה שַׁוְעָתָם לַמָּרוֹם. א"ר אַחָא בַּר אַבָּא: בְּאוֹתָהּ שָׁעָה בִּקֵּשׁ הקב"ה לְהַחֲזִיר כָּל הָעוֹלָם לְתֹהוּ וָבֹהוּ.
מדרש תהלים
מזמור קל"ז, שהוא יצירה שירית מרגשת במיוחד, מעורר בחז"ל את הרצון לספר עוד על הטראומה של ההגליה מארץ ישראל לבבל עם חורבן הבית הראשון. המזמור קצר, וכמעט כל מילה בו היא מקפצה דרשנית יצירתית במיוחד.
דוד, משורר התהלים על פי המסורת, זוכה לראות בחזון את העתיד לקרות – גם את חורבן בית ראשון (על נהרות בבל) וגם את חורבן בית שני (זְכֹר ה' לִבְנֵי אֱדוֹם). וכך הופכים בני ממלכת אדום, שהיו אויביה של ממלכת יהודה בתקופת בית ראשון, ונבנו מחורבנה, לרומאים, שכינויים, 'אדומים' , היה מקובל מאד בתקופת חז"ל.
האם יש צורך להסביר על מה בכו גולי בבל? השבר על אבדן ממלכת יהודה, על חורבן המקדש ועל העקירה מארץ ישראל היה גדול מאד; אבל חז"ל מציעים כאן עוד כמה סיבות לבכי.
ירמיהו, נביא החורבן, הזדהה עמוקות עם בני עמו. על פי המקרא, נשאר ירמיהו בארץ ישראל, ואחר ירד עם חלק מהגולים מצרימה. המדרש אומר, כי נטישת גולי בבל על ידי ירמיהו היתה גם היא סיבה לבכי. ירמיהו השיב לבכיינים, שלוּ היו בוכים וחוזרים בתשובה לפני כמה שנים, לא היתה סיבה לבכי כעת...
"שָׁם יָשַׁבְנוּ, גַּם בָּכִינוּ" מוסבר על ידי המדרש כך: מסע הגולים ברגל מיהודה לבבל היה קשה במיוחד. לגולים לא ניתן רגע לנוח באמצע הדרך. רק משהגיעו לבבל, הותר להם לשבת. הנה לכם עוד סיבה לבכי.
התנאים בבבל עם הגעתם של הגולים היו קשים גם הם. המים הזמינים לשתיה היו רק מי נהר הפרת, ואלה היו מזוהמים, וגרמו למחלות ולתמותה, בנוסף לאלה שנספו במלחמה עם הבבלים, ולאלה שמתו בדרך הקשה לבבל. גם על זה בכו הגולים. מאוחר יותר, כך אנו לומדים מהתלמוד, פרחה יהדות בבל, עד שמרכזי התורה בה עלו בחשיבותם על אלה של ארץ ישראל; אך כל זה קרה הרבה שנים אחרי התקופה הנוראה הזאת.
על פי המזמור, הלוויים, שנשאו עמם את כלי הנגינה מהמקדש, איבדו כל חשק לנגן, ותלו את כינורותיהם על ענפי הערבות שעל גדות הנהרות. אבל מוסיקה לא חסרה שם, שכן, על פי הפסוק המוזר מישעיהו, "כַּשְׂדִּים בָּאֳנִיּוֹת רִנָּתָם", ישב נבוכדנצר בספינה על הנהר, מלווה בכלי זמר, וצפה בשיירת הגולים ההולכת, כבולה בשלשלאות, לשפת הפרת. 'מדוע הם הולכים זקופים?' – שאל המלך הרשע, וציווה לכפוף את קומתם באמצעות נאדות עור, שנעשו ממגילות, ומולאו בחול, ונתלו על צואריהם. על כן נכתב במגילת איה: "עַל צַוָּארֵנוּ נִרְדַּפְנוּ". גם זו סיבה לבכי!
ואם תחילת הטרגדיה תוכננה על ידי אלוהים, התברר לו בהמשך, שהבבלים הוסיפו משלהם עוד יוזמות אכזריות, מה שהעלה לו, לקב"ה, את הסעיף, ובאותה שעה חשב לרגע להחזיר את העולם לתוהו ובוהו. הוא שכח, שאחרי המבול הוא התחייב לנוח ולאנושות לא לצאת מן הכלים...