Öğrenim gördüğü liseyi ikinci sınıfta bırakan Palay, memurluk ve futbolculuktan sonra amatör olarak ilgilendiği sanat hayatında profesyonelliğe 1951 yılında Saat 6 Tiyatrosu`nda başladı. 1952'de Mahmut Moralı'nın desteği ve davetiyle Şehir Tiyatrolarında çalışmaya başladı. Ekrem Reşit Rey'in davetiyle İstanbul Radyosu Temsil (tiyatro) Kolu`nda görev yaptı. Bir dönem Oraloğlu Tiyatrosu'nda çalışan sanatçı, 1954 yılından itibaren kamera karşısında da oyunculuk yaptı, seslendirme çalışmalarında bulundu.

1964'te kendi adına bir tiyatro topluluğu kuran Abdurrahman Palay, daha sonra Arena Tiyatrosu'nda rol aldı. 1963 yılından sonra senaryo yazarlığı, film yönetmenliği ve sinema oyunculuğuna yönelen sanatçı, bir filmde yapımcılık deneyimi de yaşamış, ölümünden önceki yıllarını pansiyon işletmeciliği yaparak geçirmiştir.

Abdurrahman Palay, Yılmaz Güney, Cüneyt Arkın, Ediz Hun, Orhan Gencebay, Göksel, Arsoy, Ümit Besen gibi birçok sanatçıyı seslendirmiş, seslendirme yönetmenliği yapmıştır.

Sanatçı; Türk sineması'na n'ayır, n'olamaz sözcüklerini kazandırmış olmasıyla ünlüdür.

• Sen Misin Değil Misin? Sezon 1 2005 - Oyuncu
• Aşk Nöbeti 1999 - Oyuncu
• Yumuşak Ten 1994 - Oyuncu
• Sevmek Yeniden Doğmak 1984 - Oyuncu
• Yıkılan Gurur 1983 - Oyuncu
• Gazap Rüzgarı 1982 - Oyuncu
• Yalan 1982 - Oyuncu
• Ben Topraktan Bir Canım 1980 - Oyuncu
• Vazgeç Gönlüm 1980 - Oyuncu
• Benim Gibi Sevenler 1977 - Oyuncu
• Arzu 1976 - Oyuncu
• Hesapta Bu Yoktu 1972 - Yönetmen, Yapımcı, Oyuncu, Senarist
• öldüren Yumruk 1971 - Oyuncu
• Cingöz Recai 1969 - Oyuncu
• ömrümün Tek Gecesi. 1968 - Seslendirme
• Acı Türkü 1967 - Yönetmen
• Garipler Sokağı 1967 - Yönetmen
• Çifte Yürekli 1966 - Oyuncu
• Garibim Çalıkuşu 1966 - Senarist, Yönetmen
• Kırık Saz 1966 - Yönetmen, Senarist
• Zehirli Kucak 1966 - Senarist, Yönetmen
• Ayşecik Boş Beşik 1965 - Oyuncu
• Adalardan Bir Yar Gelir Bizlere 1964 - Senarist, Yönetmen
• Ahtapotun Kolları 1964 - Oyuncu
• Erkek Fatma Evleniyor 1963 - Senarist, Oyuncu, Yönetmen
• Yaralı Ceylan 1963 - Yönetmen
• Kısmetin En Güzeli 1962 - Oyuncu
• Derbeder (kırık Aşk) 1961 - Oyuncu, Yönetmen
• Suçlu Aşıklar 1961 - Oyuncu
• Utanmaz Adam 1961 - Yönetmen, Oyuncu, Senarist
• Şeytan Kız 1960 - Oyuncu, Senarist, Yönetmen
• Erkek Fatma 1959 - Yönetmen, Senarist, Oyuncu
• Kendi Düşen Ağlamaz 1959 - Oyuncu, Yönetmen
• Ayşe'nin Çilesi 1958 - Oyuncu
• Çoban Kızı 1958 - Oyuncu
• İhtiras Rüzgarları 1958 - Oyuncu
• Sokak Çocuğu 1958 - Oyuncu
• Anası Gibi 1957 - Oyuncu
• Kanlı Çevre (sönen Ocak) 1957 - Oyuncu
• Kurt Mustafa 1957 - Yönetmen
• Aşıklar Kabesi Mevlana 1956 - Oyuncu
• Günahsız Yavrular 1956 - Oyuncu
• Katibim 1956 - Oyuncu
• Babaların Günahı 1955 - Oyuncu, Yönetmen, Senarist
• Görünmeyen Adam İstanbul'da 1955 - Oyuncu
• Hayatımı Mahveden Kadın 1955 - Oyuncu
• Her Yerde Tehlike 1955 - Senarist, Oyuncu
• Beklenen Şarkı 1953 - Oyuncu
• Bu Kadın Benimdir (Zavallı Necdet) 1953 - Oyuncu
• Delideli 1952 - Oyuncu
• Kahpenin Kızı 1952 - Oyuncu