Die Eltern Kramers wanderten in den ersten Lebensjahren Franks nach den USA aus. Frank arbeitete später mit seinen beiden jüngeren Brüdern im Holzgeschäft des Vaters, nutzten ihre Freizeit aber immer mit Unterstützung der Mutter mit großer Hingabe dem Sport. Neben dem Radfahren war es vor allem das Boxen, das den Brüdern eine hohe Popularität beschert haben soll.

Mit 17 Jahren stellten sich bei Frank die ersten Erfolge als Radfahrer ein. Mit 19 Jahren war er bereits Amateur-Meisterfahrer Amerikas und träumte von einem Zusammentreffen mit 'Major' Taylor. Hierzu mußte er aber Professional werden. Sein Vater widersetzte sich Frank's Wunsch Berufsfahrer zu werden, doch ebenbürdige Gegener fand der junge Kramer unter den Amateuren nicht mehr, so gelang es doch noch den Vater die Erlaubnis zum Wechsel abzuringen.

Es kam zu dem erhofften Duell mit Major Taylor, das Kramer für sich entschied. Amerikas Radsportfans teilten sich fortan in zwei Lager: in die Krameristen und die Tayloristen.

1905 unternahm er einen ersten Ausflug nach Europa und gewann viel Aufmerksamkeit durch sein liebenswürdiges Auftreten und seine 'eminente' Geschwindigkeit. "Alte Rennfahrer gaben unumwunden zu, dass sie noch nie eine so fabelhafte Geschwindigkeit gesehen hätten und Kramer bei etwas mehr Technik für unbesiegbar erklären müssten."

Doch noch ein weiterer Charakterzug machte ihn vielen sympathisch: "So gut es Kramer verstand, seine Gegner im regelrechten Kampfe zu schlagen, so gut verstand er es auch, Niederlagen entgegen zu nehmen, die ihm ein ebenbürdiger Fahrer beigebracht hatte; eine Kunst, die nicht jedem Rennfahrer eigen ist, der sich auf der Höhe seiner Form weiss."

Quelle: Sport-Album der Radwelt, 4. Jahrgang, 1906