Graf wurde in der Werkstatt seines Vaters Hug Graf in Solothurn zum Goldschmied ausgebildet. 1503 ging er auf Gesellenwanderung nach Straßburg und Zürich. 1507 ist er als Geselle des Goldschmieds Lienhart Triblin in Zürich nachweisbar, der ihn auch zum Glasmaler ausbildete. 1509 war Graf in Basel tätig und entwarf Buchholzschnitte für Baseler Drucker. Ab 1510 nahm er als Reisläufer an Kriegszügen nach Oberitalien und Burgund teil. 1511 heiratete er Sibylla von Brunn, die Angehörige eines Baseler Patriziergeschlechts. Graf wurde mehrfach angeklagt und in Haft gesetzt wegen Verspottung, nächtlicher Unruhestiftung und Schlägereien. 1512 wurde er in die Baseler Goldschmiedezunft aufgenommen und bekleidete dort ein herausgehobenes Amt. Von 1519 bis 1523 war er als Münzeisenschneider der Stadt Basel tätig. Grafs Frühwerk steht unter dem Einfluss der Kunst Schongauers, dessen Kupferstiche er kopierte. Bis 1515 war Graf der gefragteste Buchillustrator Basels. Seine ungewöhnliche Themen- und Motivwelt spiegelt das Alltagsleben der Stadt Basel im frühen 16. Jahrhundert sowie die Ereignisse seiner zahlreichen Kriegsteilnahmen wider.
