28 Şubat 1926 tarihinde Erzurum'da doğdu. Babasının vefatı üzerine annesiyle birlikte İstanbul'a taşındı ve ailesine yardım etmek için okuldan ayrılarak çeşitli işlerde çalıştı. Askerden sonra Cankurtaran'da bir iplik fabrikasında çalışmaya başladı. 1947 yılında boksta İstanbul ve Türkiye ikincisi oldu.
İzledikleri bir film çekimine mahalledeki serserilerin musallat olması üzerine arkadaşlarıyla olaya müdahale etti. Bu olayın ardından bir kavga sahnesinde rol almak için teklif aldı. Sinemaya figüranlık ve küçük rollerle adım atan ünlü oyuncunun ilk filmi Mümtaz Alpaslan'ın 1957 yılında çektiği "Acı Günler" oldu.
Bir çobanı oynadığı Metin Erksan yönetmenliğinde 1958'de çekilen "Dokuz Dağın Efesi" filminin yanı sıra "Peçeli Efe", "Dikenli Yollar", "Şoför Nebahat", "Köyde Bir Kız Sevdim", "Dişi Kurt" ve "Gecelerin Ötesi" filmlerinde rol aldı.
Usta oyuncu Meksikalı general Ramon rolünü üstlendiği "Maskeli Beşler" ve "Maskeli Beşler'in Dönüşü" filmleri ilgi gördü.
"Kızıl Maske"de müze müdürü, "Hakanların Savaşı"nda Kubilay Han ve "Küçük Kovboy"da çiftlik kahyası, "Hudutların Kanunu" filminde "Ali Cello" rollerini oynayan Taş, "Dertli Pınar", "Gecelerin Ötesi", "Duvarların Ötesi" ve "Sürgün" filmlerinde de rol aldı.
Türkan Şoray ile başrolü paylaştığı 1967 yapımı "Ana" filmi ile Süleyman Çavuş karakterini oynadığı 1992 yapımı "Sürgün" filmi iyi adam rolünü oynadığı az sayıda yapımlar arasında yer aldı.
"Mapushane Çeşmesi", "Kanlı Kale", "Efenin İntikamı", "Eşkiya Kanı/Hakimo", "Konuşan Gözler" ve "Katırcı Yani Efenin Definesi" filmlerinde başrol oynayan Taş, festivallerde çok sayıda ödül aldı.
Antalya Altın Portakal Film Festivali'nde 1965, 1968 ve 1975 yıllarında "Duvarların Ötesi", "İnce Cumali" ve "Diyet" filmleriyle "En İyi Yardımcı Erkek Oyuncu Ödülü" aldı. "Susuz Yaz" ile de çeşitli festivallerde ödüle değer görüldü.
Sinemanın yanı sıra İstanbul'un Cankurtaran semtinde kahvecilik de yaptı. Genellikle "Kötü adam" rolleriyle hafızalarda yer bulan Taş, Türk sinemasında 600'e yakın filmde oyunculuk yaptı.
İlk eşi Hafize Taş'tan ikiz çocukları oldu. 1965'te eşinin vefatının ardından evlendiği Elmas Hanım'dan bir kızı daha dünyaya geldi. Geçirdiği bir kalp krizi sonucu Samatya SSK Hastanesi'ne kaldırıldı. 8 Kasım 1998 tarihinde İstanbul'da vefat etti.