據史料記載，人們找到了關於這些書的記載:“德國牧師惠特曼曾有幸看過《伊凡雷帝》的書，……克裏姆林宮地下室的兩個房間……”
1724，事情似乎有了端倪。當時，彼得大帝將俄羅斯首都遷至聖彼得堡。在搬遷過程中，壹名教會成員向聖彼得堡報告說，在克裏姆林宮的地下室發現了兩扇密封的鐵門，裏面裝有許多神秘的大箱子。據推測，這是伊凡四世藏匿的那批書籍和珍寶，聖彼得堡派人對克裏姆林宮的地下室進行了詳細的調查。開始後不久，聖彼得堡中止了調查。後來反映情況的教會工作人員向有關部門詢問調查結果，他們也不了了之。聖彼得堡給出了這樣的回答:“沒有發現秘密。”
19世紀初，拿破侖攻占莫斯科時，雖然收藏了不少稀世珍寶和藝術品，但可惜找不到圖書館。蘇聯時期，有傳言說克裏姆林宮二樓某處藏著古書，當局甚至雇傭了擁有特殊功能的克格勃去尋找。這些通靈者利用他們特殊的生物能量探測到克裏姆林宮地下的許多金屬物體。壹些靈媒認為尋找這個圖書館存在嚴重的風險，黑暗勢力會讓人生病甚至突然死亡。
2005年，為了慶祝克裏姆林宮200周年，俄國專門安排了壹名城堡維修人員對其進行維修。工人們在修復宮殿裏的單柱式房間時，揭開了墻上的舊瓷磚，突然發現墻上有秘密走廊和樓梯。這壹事件成為近年來俄羅斯考古史上的壹個突破。據調查，這些秘密通道可能是通往著名沙皇伊凡的地下圖書館。但是直到最後，都沒有關於它的故事。
但人們仍然堅信地下圖書館之謎總有壹天會被解開。