Fåre-Svingel danner en tæt, tueformet vækst med grundstillede blade, der ligger sammenlagde og fremstår trådformede og stive. Bladene er ru på den yderste del, og bladskederne gulner tidligt, hvilket kan give planten et halvvissent udseende. Stænglerne er længere end bladene og hæver blomsterne fri af tuen, mens rodsystemet er trævlet og når både vidt omkring og dybt ned.
Blomsterne sidder samlet i endestillede, kun lidt forgrenede toppe og er reducerede og 3-tallige, som det er typisk for græsser. Hvert småaks rummer 3–9 blomster, og dækbladene bærer en kort stak. Blomsterne er grønne og blomstrer i maj og juni, hvor de små toppe lyser op i landskabet.