这首诗分为三部分，共13节。在第一部分中，诗人通过描述自己与大堰河的血肉联系，强调了尽管阶级出身不同，但心灵的纽带却是无法割断的。诗人反复咏叹“大堰河，是我的保姆”，奠定了全诗浓郁的抒情基调。
第二部分从第3节到第10节，诗人以第一人称叙述了大堰河的生活。第3节中，诗人回忆了大堰河去世后的凄凉景象，表达了深切的怀念之情。第4节则回忆了与大堰河一起度过的温暖时光，连续使用8个“在你……之后”的句式，生动再现了大堰河的勤劳与慈爱。
第5节虽然只有4行，但诗人捕捉了离别时最令人心碎的一幕，表达了对大堰河的深情。第6节通过对比自己在自己家中的陌生感和在大堰河家中的温暖，表现了诗人内心的复杂情感。
第7节至第10节，诗人详细描绘了大堰河为了家庭的辛勤付出，以及她对乳儿的慈爱。连续使用六个“她含着笑……”，展示了大堰河乐观的态度和对家庭的付出。第9、10节中，诗人描述了大堰河临终前的遗憾与不舍，表达了深深的同情。
最后，第三部分从第11节到第13节，诗人将自己的情感扩大，将对大堰河的敬爱之情延伸到对所有劳动人民的敬爱。在监狱中，诗人用儿子对母亲的情感为大堰河“写着一首呈给你的赞美诗”，直接抒发了对广大劳动人民的敬爱之情。
