Nach einer erfolgreichen Karriere als Controller und Finanzvorstand in der Automobilindustrie sowie als Mitgründer eines börsennotierten IT-Logistik Unternehmens, wechselte Frank-Jürgen Weise 2002 als Finanzvorstand zur Bundesagentur für Arbeit. 2004 bis 2017 war er Vorstandsvorsitzender der Bundesagentur für Arbeit.
Von September 2015 bis Jahresende 2016 wurde er gleichzeitig Leiter des Bundesamtes für Migration und Flüchtlinge. 2010 war er Vorsitzender der Bundeswehr-Strukturkommission. Seine Erfahrung in der Privatwirtschaft gab ihm Erfahrung und Unabhängigkeit, um die Bundesanstalt im Rahmen des politischen Führungswillens in den Reformen zum Arbeitsmarkt zu einer leistungsfähigen Bundesagentur für Arbeit zu entwickeln. Hier galt es mit den Beschäftigten, den Betriebsräten, den Gewerkschaften und den Arbeitgeber-Verbänden gemeinsam gute kundenorientierte Abläufe zu entwickeln und umzusetzen. Das Ergebnis nach 17 Jahren Arbeit war, belegbar besserer Kundenservice für die Menschen und die Unternehmen, stabile gute digitalisierte Arbeitsabläufe und daraus hohe Einsparungen. Mit Milliarden Rücklagen für die Altersversorgung von Beschäftigten und als Risikovorsorge für den Arbeitsmarkt und den guten Abläufen wurde die Bundesagentur für Arbeit auch zum Modell für europäische Arbeitsmarktservices. Und entsprechend führte dies auch für zwei Jahre zum Vorsitz der Public Employment Services in der EU in Brüssel.