Jan Karski, czyli Jan Romuald Kozielewski, urodził się 24 kwietnia 1914 roku w Łodzi. Był jednym z ośmiorga dzieci w niezamożnej rodzinie o korzeniach szlachecko-mieszczańskich. Swojego ojca Stefana, który prowadził zakład rymarsko-kaletniczy, właściwie w ogóle nie pamiętał. Matka Walentyna zmarła w 1934 lub 1935 roku. Razem z rodziną mieszkał w kamienicy przy ul. Kilińskiego 71, na samym dole. W tym samym budynku mieszkali głównie Żydzi. Karski wspominał, że jego matka czasem kazała mu pilnować najmłodszych żydowskich sąsiadów, żeby nic im się nie stało i żeby nie robili głupstw. Była bardzo tolerancyjna wobec nich i innych Żydów. 

Największy wpływ na Jana miał jego najstarszy brat Marian oraz matka. Tradycje rodzinne Walentyny Kozielewskiej, pełnej uwielbienia dla Józefa Piłsudskiego gorliwej katoliczki, sprawiły, że Jan od najmłodszych lat wychowywany był jednocześnie w kulcie Maryi i Pierwszego Marszałka Polski. Brat Marian i jego wierność sanacji od najwcześniejszych lat były dla młodego Jana przykładem oddania idei. Jego poczucie moralne zaś rozwijało się pod wpływem gorliwej matki i Sodalicji Mariańskiej, do której należał w młodości, o czym w późniejszych latach często wspominał, mówiąc o sobie „żołnierz Maryi”. 

Do szkoły powszechnej poszedł wcześniej niż inne dzieci – w wieku sześciu lat. Według jego biografów była to prowadzona przez jezuitów Szkoła Powszechna nr 4 przy ul. Targowej 14. W 1926 wstąpił do Miejskiego Gimnazjum Męskiego im. Józefa Piłsudskiego w Łodzi. Obie szkoły były publiczne, więc chodziło do niej także wielu Żydów. Karski wspominał, że jego żydowscy koledzy mieli talenty matematyczne, do chemii i fizyki, do czego on nie miał uzdolnień, za to nie mieli serca do języka polskiego i historii, co uwielbiał Jan. Współpracowali więc, pomagając sobie wzajemnie na sprawdzianach i egzaminach. 

Inaczej już jednak wyglądały jego kontakty z żydowskimi znajomymi na studiach. W 1931 r. Jan przeniósł się do Lwowa, gdzie jego brat Marian pełnił funkcję komendanta wojewódzkiego policji. Karski rozpoczął tam studia prawnicze na Uniwersytecie Jana Kazimierza, które wspomina jako pierwsze zetknięcie się z prześladowaniem Żydów.