Johann-Karl Kolowrat-Krakowsky naît le 21 décembre 1748, à Prague. Il reçoit son éducation dans la maison familiale (son professeur est le jésuite Seidel). Après avoir terminé son éducation, il entre en 1766, à l'âge de 18 ans, comme sous-lieutenant dans le régiment de dragons de son  oncle, le général de cavalerie Emanuel Kolowrat. Après deux années de service dans la cavalerie, il s'achète une commission de capitaine au 34e régiment hongrois d'infanterie Batthyány, où il va nouer avec Mélas, alors major du régiment, une étroite amitié qui durera jusqu'à la mort de celui-ci, en 1806. Le régiment est alors en garnison à Prague. 

Durant la guerre de succession bavaroise, il n'a pas l'occasion de se distinguer particulièrement, ce qui ne sera pas le cas durant la guerre en Turquie, qu'il commence comme lieutenant-colonel. Le 2 juin 1788, il est nommé colonel, et commandant le 19e régiment d'infanterie (Alvintzy) et recevra, à la fin de la campagne, des mains du général en chef Lacy, un certificat élogieux pour la tenue de son régiment. L'année suivante, il se distingue à nouveau, lors de l'attaque de Belgrade, le 30 septembre 1789, où il emmène la troisième colonne, musique en tête et drapeau au ve ! Une blessure à la tête l'oblige à quitter le champ de bataille, mais ses hommes continuent leur attaque, repousse les turcs, les met en fuite, se saisi de ses canons, prend possession de la place. Loudon, dans son rapport, fait état de la bravoure de Kolowrat, ce qui lui vaut encore des félicitations, et, bien qu'il soit alors l'un des plus jeunes colonels de l'armée, il est nommé général major.

C'est dans ce grade qu'il prend le commandement d'une brigade de l'armée d'observation (prince Hohenlohe-Kirchberg), en Bohème, face à la Prusse. Lorsque cette armée est dissoute, c'est lui qui remet au représentant de la Porte, en tant que commissaire impérial, la forteresse de Belgrade, conformément aux stipulations de la paix de Szistow (23 octobre 1791)

En janvier 1792, à la demande du général directeur de l'artillerie, le feldmarschall  Joseph Colloredo, Kolowrat est transféré dans cette arme. Il reçoit le commandement d'une brigade et est nommé "propriétaire" ("Inhaber") du 2e régiment d'artillerie.

Il se montre un excellent officier d'artillerie dès la première campagne contre la France révolutionnaire. Il est nommé feldmarschall-lieutnant et chargé du commandement de l'ensemble de l'artillerie de l'armée principale du Rhin, sous les ordres du feldmarschall Clerfayt. Il se fait tellement aimer que les officiers sous ses ordres adressent, à l'empereur, le 10 janvier 1797,  une pétition (elle porte les signatures de noms aussi célèbres alors dans l'artillerie que Schwarzinger, Schuhay, Reisner, Vega) pour que l'on récompense leur général. Durant la retraite de Cleyrfait, Kolowrat avait rapidement approvisionné toutes les fortifications et sauvé les dépôts, et, lorsque l'armée s'était avancée sur la Sieg et sur le Rhin, l'avait alimenté  avec les munitions nécessaires. A chaque occasion, il sait où mettre ses batteries en position, les diriger et les utiliser avec succès contre l'ennemi. Malgré les déplacement fréquents de l'armée, du Danube au Main, et de la Sieg jusqu'à la frontière suisse, l'artillerie ne manqua jamais de munitions, et sa participation à l'équipement de l'artillerie de siège, devant Kehl fut si importante qu'elle lui valut les honneurs du Feldzeugmeister Latour.

Il reçoit, le 15 mai 1797, en récompense la Croix de Commandeur de l'Ordre de Marie-Thérèse (sans passer par le rang de Chevalier)

Le 28 octobre 1800, il est promu Feldzeugmeister. Il entre au Conseil de Guerre, le 12 avril 1801, ainsi qu'au Conseil secret (13 avril), et propriétaire de 36e régiment d'infanterie (le 21 avril, après la mort de Furstenberg, à la bataille de Stockach). Lorsque le général Melas, en 1803, abandonne, atteint par la limite d'âge, le commandement général en Bohême, Kolowrat est nommé à sa place. A ce poste il se fait remarquer par le zèle avec lequel il soutient toutes les dispositions de l'archiduc Ferdinand lors de sa retraite à travers la Franconie et les entreprises heureuses de ce dernier à la frontière morave, en particulier en défendant les districts de Tabor et Budweis.

Lorsque la guerre reprend en 1809, Kolowrat prend le commandement du IIe corps d'armée, avec lequel il entre en Bavière. Le 19 avril, il occupe Hof, le 20, Regensburg (Ratisbonne). Les évènements le forcent ensuite à retraiter en Bohême du sud, puis en Autriche.

Pour la bataille de Wagram, il se réunit de nouveau avec l'armée principale, et, à la tête du IIIe corps d'armée (divisions  Saint-Julien et Vukassovich, un peu plus de 20.000 hommes), contribue à l'honneur des armes impériales. Après la défaite, il est décidé de former une armée de 50.000 hommes, chargée de protéger  sous les ordres de l'archiduc Ferdinand, pour protéger la Bohême du sud. Il est prévu que Kolowrat sera son conseiller. Mais la signature de la paix de Schönbrunn met un terme à ce projet. Le 10 septembre 1809, il est élevé au grade de feldmarschall.

Il ne peut, pour des raisons de santé, participer aux campagnes de 1813, 1814 et 1815. Mais, comme commandant général en Bohême, il apporte son soutien, en 1813, aux armées alliées, alors que les Français se font menaçant, par des dispositions avisées. Il s'occupe également avec zèle des blessés et des malades,  des deux bords, et des prisonniers, ce qui lui vaudra, de a part e Louis XVIII, en mai 1815, la Légion d'honneur.

Tant d'évènements et d'engagement ont affaibli la santé de Kolowrat. Il demande alors à être relevé de son commandement, ce qui lui est accordé le 15 mai 1816. Il ne jouira pas longtemps de sa retraite. Le 5 mai 1816, Johann-Karl Kolowrat-Krakowsky meurt, à l'âge de 68 ans.