Rema O.C. 583:2:
וגם נוהגים שלא לישן ביום ראש השנה (ירושלמי), ומנהג נכון הוא.
(Yerushalmi Kodshim, maybe? And perhaps this minhag depends on whether we get up early on Yom Tov.)
Magen Avraham (copied in Mishna Berurah):
האר”י אמר שאחר חצות מותר לישן שכבר נתעורר המלאך ע”י התפלות והתקיעות ובב”ח כתב שהר”ם ישן בר”ה והיושב בטל כישן דמי.
The source is the Shelah. I didn’t see it inside.
Eliyahu Rabba, perhaps unaware this is “Mussar language” from the Shelah, takes this on face value and tries to find the logic, based on the Arizal (583:5).
(By the way, I can never figure out when the Chasam Sofer in a Teshuvah: אני אומר כל המערב דברי קבלה עם ההלכות הפסוקים חייב משום זורע כלאים פן תוקדש המלאה אשר תזרע gets to apply.)
… כתב רמ”א נוהגין שלא לישן ביום ראש השנה ומנהג נכון הוא, והלבוש שהשמיטו נראה לי דסבירא ליה דשרי כמו שכתב הב”ח סימן תקפ”ז בשם מהרש”ל היה רגיל לישן כמו בשאר יום טוב, וכן מגן אברהם בשם האר”י דמותר לישן אחר חצות שכבר נתעורר המלאך על ידי התפילות ותקיעות, ולפי זה גם היושב ובטל כישן דמי, ועיין סימן תקצ”ז מדין לילך לנהר.
Were it true one’s Mazel sleeps when he wastes time, shouldn’t we have heard this, the greater Chiddush? (Also see regarding the Kohen Gadol on Yom Kippur, בקש להתנמנם, פרחי כהונה מכין לפניו באצבע צרדה.) Can one do Kal Vachomers on customs, to add to them?!
But another way to understand this is as a cute reminder to study Torah on Rosh Hashana in spite of the long prayers, no more.