Nach dem Überfall auf die Sowjetunion wurden im Rücken der Front zunächst vier Einsatzgruppen gebildet und entsprechend der Bezeichnung der Heeresgruppen, in deren Gebiet sie eingesetzt wurden, mit den Buchstaben A bis D (von Nord nach Süd laufend) benannt.
Jede der Einsatzgruppen bestand aus mehreren Teilkommandos, die als Sonderkommandos (SK) bzw. Einsatzkommandos (EK) mit einer durchlaufenden Nummer versehen wurden. Von den Führern der 18 Einsatzkommandos stammten alleine 7 aus dem Reichssicherheitshauptamt (RSHA). Dabei sollten die Sonderkommandos im Armeeoperationsraum und die Einsatzkommandos im rückwärtigen Armeegebiet eingesetzt werden. Diese Aufteilung wurde in der Praxis mehr und mehr aufgegeben. Die Einsatzgruppen waren trotz ihrer horrenden Tötungsziffern im Grunde relativ kleine Einheiten. Eine Einsatzgruppe entsprach etwas einem Bataillon, die Sonder- bzw. Einsatzkommandos hatten etwa Kompaniestärke. Insgesamt dürfte die gesamte Stärke der Einsatzgruppen bei ca. 3.000 Mann gelegen haben. Die Rekrutierung erfolgte meist bei den Angehörigen der Gestapo, des SD, der Kriminalpolizei und der Waffen-SS.
Am 25. Juni rückte ein Vorkommando der Einsatzgruppe A unter Dr. Walter Stahlecker in Kowno ein. Die Einsatzgruppen folgten den regulären Wehrmachtseinheiten und hatten in den besetzten Gebieten nur eine Aufgabe: So viele Juden zu töten, wie nur irgend möglich. In der Nacht vom 25. auf den 26. Juni 1941 ermordeten von Stahlecker ermunterte litauische Partisanen 1.500 Juden, mehrere Synagogen wurden niedergebrannt. In der darauffolgenden Nacht wurden 2.300 Juden in Kowno ermordet. In den Aufzeichnungen der ursprünglich in Jena geborenen Helene Holzman, die 1941 in Kowno lebte heißt es dazu: „Dem deutschen Heer war der schreckliche Geier, der Judenhaß, mit schwarzen Schwarzen Schwingen vorangeflogen. Schon bevor die deutschen Soldaten einrückten, hatten die Partisanen ihre antisemitschen Befehle bekommen.“[1b] Als das SK 1b der Einsatzgruppe A unter der Führung Erich Ehrlingers Kowno erreichte, war der Höhepunkt des einheimischen Pogroms erreicht, das Morden aber keineswegs beendet. Am 8. Juli wurde den Vertretern der jüdischen Bevölkerung mitgeteilt, dass alle Juden bis zum 15. August 1941 „zum Schutz vor litauischen Partisanen“ in ein Ghetto umzuziehen hatten. Der Stadtteil Vilijampole (jiddisch Slabotka), jenseits des Flüßchens Vilija, die arme Vorstadt mit seinen kleinen Holzhäusern wurde als Ghetto bestimmt. Hatten dort vorher etwa 4.000 bis 5.000 Juden in relativ primitiven Verhältnissen – es gab z.B. keine Kanalisation – gelebt, mußten nun etwa 35.000 Menschen auf dem engen Raum leben. Die meisten Menschen stammten aus Kowno und den umliegenden Regionen. Frauen und Kinder fanden sich in der Überzahl, weil man viele Männer bereits ermordet hatte. Die Mordplätze und Erschiessungsstätten bis 1944 waren die beiden ehemaligen zaritischen Forts VII und IX. Helene Holzman: „Das Stadtbild stand die folgenden Wochen unter dem Zeichen der Umzugswagen, die die Straßen füllten. Sie fuhren hochbepackt mit dem nötigsten Hausrat, mit Brennholz und oft mit der ganzen Familie. Man sah Kranke, Mütter mit Säuglingen zwischen ihr Habe gepfercht. Die Gesunden gingen zu Fuß daneben. Das Wetter war herrlich. Seit dem deutschen Einzug ein sonniger Tag nach dem anderen. Es war wie ein Hohn auf das Leid, das die Sonne beschien.“[2]
Nach den Mordaktionen vom Herbst, hatte sich die Zahl der Einwohner des Ghettos bis Ende Oktober 1941 bereits auf 17.000 halbiert.[3] Doch bereits wenige Tage nach den Mordaktion an den einheimischen Juden, wurden im Fort IX von Kowno auch die ersten aus dem deutschen Reichsgebiet deportierten deutschen Juden ermordet. Die Züge mit den Reichsbahnnummern Da26 bis Da30 wurden nach Kowno geleitet. Mitglieder des damaligen Begleitkommandos der Ordnungspolizei sagten nach Kriegsende aus, das das veränderte Fahrtzeil Kowno erst auf dem Bahnhof in München bekannt gegeben wurde. Die Menschen stammten aus Berlin (17. November)[a], München (20. November)[b] und Frankfurt/Main (25. November)[c]. Neben den drei Zügen aus dem Reich wurden noch ein Zug aus Wien und ein Zug aus Breslau nach Kowno geleitet.[d]
[a] Dies war der sechste Deportationszug aus Berlin mit 1.006 Menschen
[b] Dies war der erste Deportationszug aus München mit 999 Menschen. Abfahrt war das Auffang-, Kontroll- und Durchgangslager in Milbertshofen in der Knorrstraße 148. Es handelte sich um das Sammellager für den Gau München-Oberbayern. Insgesamt sind über dieses Lager 4.000 Juden aus Oberbayern und München deportiert worden
[c] Deportiert wurden 988 Menschen
[d] Gottwaldt/Schulle; Die Judendeportationen aus dem Deutschen Reich (1941 – 1945); Seite 103 ff.