1978年底，山东省图书馆提出了新建综合阅览楼的计划，经过一系列方案论证和设计，阅览楼于1981年9月正式动工，历时两年，在1983年竣工，并在1984年投入使用。这标志着馆内进入了持续发展的时期。阅览楼的建成使组织机构进行了调整，扩充为13个中层部门，包括采编部、阅览部、报刊部、外文部、图书保管部、书目参考部、特藏部、研究辅导部、图书馆学研究室、缩微复制部、办公室、人事保卫科和印刷厂。在业务建设方面，1985年至1994年期间，图书馆引进了现代技术设备，如缩微技术设备和声像技术设备，进一步提升了服务水平。1994年以后，图书馆的工作重点转向计算机业务自动化和新馆建设规划，标志着进入了现代化建设的新时期。