Alsósiménfalván született papi családban. Székelykereszturon és Kolozsvárt tanult. Teológus korában a gr. Eszterházy családnál volt nevelő.
Kozma 1875-ben polgáriskolai tanító képesítést, majd három év múlva középiskolai tanári oklevelet szerzett és Budapesten tanított. 1878-ban házasodott. Felesége Tiszay Józsa, Buda egyik régi, tekintélyes családjának volt tagja.
Kozma 1884-től a Budapest, II. kerületi polgári leányiskola igazgatója volt. Mint ilyen a nőnevelés eszméjének volt előmozdítója. Női kereskedelmi tanfolyamokat szervezett és részt vállalt a fővárosi polgári iskolák, tanítóképzők és a felsőbb leány iskolák reform munkájában. 1887 óta külső bírálója, majd rendes tagja volt az Országos Közoktatásügyi Tanácsnak. 1895-ben a csongrádi iskolák miniszteri biztosává nevezték ki.
Hivatásának tekintette a nemzeni nyelv védelmét. Nevéhez fűződött a budapesti III. kerületi takarékpénztár alapítása. Tagja volt a törvényhatósági bizottságnak és a budapesti egyházközségnek. A Dávid Ferenc Egyletben alelnöki tisztséget töltött be.
Mint a szakirodalom művelője földrajzi, csillagászati és történelmi tan- és kézikönyveket írt. Értekezései, ismeretterjesztő cikkei, tan-könyvbírálatai a szak- és a napi lapokban jelentek meg. Két évig szerkesztette a Polgári Iskola c. tanügyi folyóiratot. Nevét alapítvány is őrzi.
Fölhasznált irodalom:
Ürmösi Gyula: "Kozma Gyula." Unitárius Közlöny. 1909.
- : "Egyházi és iskolai mozgalmak." Unitárius Közlöny. 1910.