Insurgentes del Talibán y del grupo Estado Islámico están activos en el oriente de Afganistán y han reivindicado ataques en Kabul anteriormente.
El Talibán negó participación alguna en el ataque del sábado.
Rahimi dijo que la operación de seguridad en el Ministerio de Telecomunicaciones terminó "después de que las fuerzas afganas de seguridad mataron a tiros a los cuatro atacantes".
El ataque ocurrió un día después de que las negociaciones de paz fueron canceladas en Qatar. Habría sido la primera vez que el Talibán y funcionarios del gobierno de Kabul se sentaran para negociar el cese de la guerra en Afganistán y el retiro de los soldados estadunidenses.
Rahimi dijo que las fuerzas de seguridad bloquearon todos los caminos cercanos al lugar del ataque y que mataron a disparos a otros cuatro terroristas suicidas antes de que ellos pudieran llegar a su objetivo en la cercana oficina central de correos.
Dijo que las fuerzas de seguridad rescataron hasta 2 mil 700 empleados del gobierno y otras personas después de quedar atrapados en varios edificios del gobierno, incluso la oficina central de correos.
Las imágenes en vivo en la televisión local mostraban a empleados del gobierno huyendo de los edificios vecinos del Ministerio de Información y Cultura, y algunos salían por las ventanas.