İstanbul’da dünyaya gelen Osman Gündüz, Galatasaray Lisesi’nin basketbol takımında oynarken, Galatasaray Spor Kulübü’nde yüzme ve su topu branşlarında faaliyet gösterdi.

Tercihini basketboldan yana kullanan Gündüz, İTÜ’de yıldız takımdan başlayarak A takıma kadar yükseldi. Bordo-beyazlılar ile üç lig şampiyonluğu kazandı. 1973-74 sezonunda Muhafızgücü forması giyen Osman Gündüz, burada şampiyonluklarına bir yenisini ekledi.

Sırasıyla Galatasaray, Efes Pilsen ve Fenerbahçe’de oynayan Gündüz, sakatlığı nedeniyle parkelere veda etmek zorunda kaldı. Efes Pilsen 1977-1978 sezonunda 2.Lig’de şampiyonluğu kazanarak tarihinde ilk kez 1.Lig’e çıkarken Osman Gündüz de kadrodaydı.

Kendisi gibi Mekteb-i Sultani’de okuyan milli basketbolcu Yılmaz Gündüz’ün yeğeni olan Osman Gündüz, 34 kez Genç Milli Takım formasını giydi. 1972 Avrupa Gençler Şampiyonası’nda kadroda yer aldı. 11.6 sayı ortalamasıyla bu tunuvada Doğan Hakyemez’in ardından Türkiye’nin en skorer ikinci ismi oldu.