Rudy Linka se narodil 29. května 1960 v Praze a už jako teenager si zamiloval jazz. Alba si tehdy půjčoval od dalších milovníků jazzu a dokonce i z americké ambasády v Praze. V roce 1979 absolvoval klasickou kytaru na Pražské konzervatoři a začátkem 80. let pak emigroval do Švédska, kde čtyři roky studoval skladbu na Stockholm Music Institute. Získal švédské občanství a také tam potkal amerického baskytaristu Reda Mitchella a začal s ním spolupracovat. Ten Linku také později doporučil na Jim Hall Fellowship na bostonské Berklee College of Music. Ve studiu pokračoval na The New School v New Yorku, kam se v roce 1986 přestěhoval. Soukromě pak studoval u Johna Scofielda, Jima Halla nebo Johna Abercrombieho! Sám se výuce hry na kytaru věnuje od revolučního roku 1989.