أشار الدكتور جابر عصفور إلى جذوره المعرفية من خلال علاقته بالكتب والمكتبات، وذكر أنه كان يبقى وقتاً طويلاً بجامعة وسكنسن ماديسون يقرأ ويكتب.. وقد خصص له إحدى الكبائن التي تضم طاولة للكتابة وعدداً من الأرفف التي يضع عليها الكتب والأوراق. وقال في حديث الذكريات: كانت المكتبة تعمل من الثامنة صباحاً إلى العاشرة ليلاً، ولما لاحظ أحد الأمناء تأخري في العمل والقراءة أخبرني أن من حقي الحصول على نسخة من مفتاح الباب الرئيسي للمكتبة كي أقضي الوقت الذي أريده كاملاً في الاطلاع دون التقيد بمواعيد العمل الرسمية، لكنني اعتذرت؛ فلست في حاجة إلى ذلك، ولم أكن أستريح إلى فكرة البقاء وحيدا في مكتبة مترامية الأطراف. ويؤكد الدكتور جابر عصفور أنه بدأ منذ ذلك الحين قراءة وترجمة ما يشتريه من كتب.. وبعد العودة إلى مصر استمر مغرماً بالسياحة الحرة بين عناوين الكتب وأسماء مؤلفيها.