Aproveitando a onda folk(Folclóricapq vc n deve usar o wikipédia denise) da época, lançaram pela gravadora Columbia um álbum acústico em 1964, que não teve repercussão. Reunia canções folk tradicionais como "Pretty Peggie-O", espirituais como "Go tell in the Mountain" e canções de Simon, como a conhecida "The Sound of Silence", já com as belas e características harmonias vocais da dupla. Como venderam muito pouco, Paul Simon foi tentar a sorte no circuito folk inglês e ao retornar à América em 1965, encontrou "The Sound of Silence", lançada em [[single]], com acompanhamento de baixo, guitarra e bateria, agora conhecida no circuito musical.<ref name="stone">{{citar web|url=http://www.rollingstone.com/music/news/simon-and-garfunkel-to-tour-20030909|título=Simon and Garfunkel to Tour|autor=|data=|publicado=[[Rolling Stone]]|acessodata=18 de abril de 2012}}</ref> A gravadora acrescentara estes instrumentos à gravação acústica de 1964 e transformou-o num clássico do folk-rock.
Reencontrando-se com Garfunkel, Paul Simon entrou rapidamente em estúdio para gravar um novo álbum, desta vez com instrumentos elétricos e devidamente chamado ''The Sound of Silence''. Aproveitaram canções que Paul Simon vinha compondo de longa data e chegaram ao sucesso. Entre seus hits históricos estão: "I Am A Rock", "Richard Cory", "America", "The boxer", "Cecilia", entre outras. Contribuíram com diversas canções para a trilha sonora do filme ''[[The Graduate|A Primeira Noite de um Homem]]'' (''The Graduate''), em 1968, em especial "Mrs.Robinson", que representou o auge do sucesso da dupla.
