Karski zmobilizowany został 23 sierpnia 1939 roku. Początkowo potraktował to bardzo poważnie, z pełnym przejęciem. Jednak reakcja jego zwierzchnika w MSZ, Tomira Drymmera, że to wszystko tylko po to, by postraszyć Hitlera, że to dwa tygodnie, kiedy Karski będzie mógł pojeździć konno i trochę się opalić, zmieniły jego nastrój. Atmosfera jednak znowu zmieniła się diametralnie, gdy 1 września o piątej rano Niemcy zbombardowali obóz postoju jego dywizjonu.

Parę godzin później wraz z całym Piątym Dywizjonem podporucznik Jan Kozielewski wycofywał się na wschód. Po kilku dniach w drodze, w tłumie między uciekającymi cywilami, wojsko rozpierzchło się i szło polami. Późnym wieczorem 17 września dotarli do Tarnopola, gdzie napotkali oddziały radzieckie. Po krótkich rozmowach między reprezentującymi oddziały oficerami ogłoszono, że Polacy mają złożyć broń, która zostanie im potem zwrócona, oraz żeby oficerowie stanęli oddzielnie od pozostałych żołnierzy. „A my jak barany to zrobiliśmy” – wspominał Jan Karski.

Radzieccy jeńcy przetransportowani zostali do obozu na Kozielszczyźnie, gdzie oficerowie trzymani byli w oborze, żołnierze zaś w cerkwi. Po paru tygodniach okazało się, że będzie dokonana wymiana jeńców – więźniowie pochodzenia niemieckiego lub z terenów, które zostały inkorporowane do III Rzeszy, mogą się zgłosić i przejść w ręce Niemców. Zarządzenie to dotyczyło tylko zwykłych żołnierzy, nie oficerów, Karski więc wymienił się z jednym z żołnierzy na buty i udając, że w Łodzi czeka na niego ciężarna żona, zgłosił się do wymiany, jako że Łódź już przemianowana była w tym czasie na Litzmannstadt.  Tym sposobem uniknął nie tylko radzieckiej niewoli, jak się okazało potem, ale i śmierci w katyńskich lasach.

Kiedy Karski znalazł się już w niewoli niemieckiej, udało mu się uciec dzięki – jak wspominał – kwiecistej przemowie o obowiązku żołnierza, która to miała skłonić współpasażerów, by ci podsadzili go i pomogli mu wydostać się z pędzącego pociągu przez małe okienko. Po ucieczce skrył się w jednej z pobliskich chat i dostał od mieszkającej tam rodziny cywilne ubranie. Tak przebrany ruszył do Warszawy.