袁世凱在小站練兵時，把旗營舊例全都推翻了，有人參了他一本，兵部尚書榮祿奉命前往查辦，陳夔龍隨同前往。

　　對于這次出行，文史學者王學斌在《官運盈而國運盡——也談陳夔龍》一文中有如下記述：這次赴天津辦案，純屬走過場。不過這對于陳夔龍而言，不啻是一次展示自己、博取榮祿好感的機會。途中，榮祿問陳夔龍年歲幾何，補缺約計何時。陳夔龍回答：“行年已四十，到部亦十年，敘補名次第八。即每年出缺一次，亦須八年始能敘補?？执松择T唐老矣。”榮祿說：“觀君骨相氣色，五年內(nèi)必有非常之遇。而部中補缺例須計俸，未可躁進。”

　　所謂“骨相氣色”，恐怕是三分經(jīng)驗七分忽悠，并不靠譜。然其弦外之音則至為明顯：陳夔龍若聽命行事，不節(jié)外生枝，保你補缺升官。陳夔龍自然明白榮祿的暗示，一路察言觀色，唯唯諾諾。

　　當檢閱操練時，榮祿問陳夔龍：“君觀新軍與舊軍比較何如？”陳夔龍回答：“素不知兵，何能妄參末議。但觀表面，舊軍誠不免暮氣，新軍參用西法，生面獨開。”榮祿說：“君言是也。此人（袁世凱）必須保全，以策后效。”其實若按兵部條例，僅新軍擅殺營門外賣菜傭一條，袁世凱便可遭到嚴懲。但陳夔龍曲意迎合榮祿，在撰寫奏稿時筆下留情，淡化過程，抹去罪證，終致此案不了了之。

　　待此事辦妥，回到兵部，排在陳夔龍前面的七名競爭對手，要么病退，要么調(diào)走，要么受罰，要么棄權，于是他名次飆至第一，順利頂補缺位。