Kaji był twórcą pierwszego w Japonii magazynu z łamigłówkami. W połowie lat 80-tych łącząc elementy już istniejących łamigłówek stworzył łamigłówkę, które nazwał "sudoku" - skrót od japońskich słów "cyfry muszą być pojedyncze".
Sudoku polega na uzupełnieniu brakującymi cyframi diagramu 9 na 9 w taki sposób, aby w każdym wierszu, w każdej kolumnie i w każdym z dziewięciu pogrubionych kwadratów 3 na 3 (zwanych „blokami” lub „podkwadratami”) znalazło się po jednej cyfrze od 1 do 9.
Skala trudności uzależniona jest od tego ile cyfr jest umieszczonych w diagramie przez jego twórcę przed rozpoczęciem rozwiązywania łamigłówki.
Firma Nikoli założona przez Kajiego informując o jego śmierci "wyraziła mu wdzięczność" i podkreśliła, że był "uwielbiany przez miłośników łamigłówek z całego świata".
Przyczyną śmierci Kajiego był rak dróg żółciowych.
Poza Japonią sudoku zyskało na popularności dwie dekady temu, gdy łamigłówki zaczęły drukować gazety spoza Japonii. Regularnie sudoku ma rozwiązywać obecnie ponad 100 mln osób na świecie. Od 2006 roku organizowane są mistrzostwa w sudoku.
W lipcu Kaji, ze względu na stan zdrowia, ustąpił ze stanowiska prezesa swojej firmy.
W rozmowie z BBC w 2007 roku mówił, że tajemnicą stworzenia udanej łamigłówki jest to, aby miała proste zasady.