清光绪二十五年(1899)“海圻号”舰长随萨镇冰率舰队访问南洋、欧、美各国，考察世界海军。宣统元年，任海军部军械司司长，奉海军部统制萨镇冰之命，赴欧洲购买军舰10余艘。在英国购买军舰时，英商照例以购价5%的回扣相赠，吴佩之分文不收，英商坚持赠予，他即利用英商所赠回扣的白银数十万两，悉数添购军火运载回国交公，此事为英商所惊诧，亦为国人所赞誉。宣统二年，应段祺瑞之邀，任保定陆军大学(后改为陆军军官学校)教育长，主持军事教学，为我国造就了一大批军事人才。1924年，段祺瑞任“执政”，委任吴佩之为海军部次长，并一度代理海军总长，被授予中将衔。民国15年，段祺瑞下野，吴佩之亦随之辞退，闲居北京。民国16年，蒋介石电邀吴佩之到南京国民政府任职，他以年老辞不赴命，隐居于芜湖，过着清贫生活。

民国26年，抗日战争爆发，吴佩之化名逃难到西南，在贵阳乡下的清镇中学教书，借以维持生计。抗战胜利后，他携带子女，回到了故乡六家畈，依靠国民政府海军部寄来的退休金过活。这时，他虽已年过古稀，但仍执著家乡的教育事业，主动担任养正小学(即六家畈小学)校长。他常对亲友说：“我不想在外做大官。总想回乡办教育，当个小学教员，于愿足矣。”他任校长后，每日起早散步田野，锻炼身体，也教学生早操，要求学生既要有深厚的文化素养，又要有强健的体魄，将来好为社会效力。每逢周会，他都向师生发表讲话。养正小学享有校风正、文风盛的美誉，成了湖滨乡一带培养人才的摇篮。