Najwcześniejsze ślady osadnictwa na terenie gminy Rossosz pochodzą z IV w. p.n.e., późniejsze z okresu rzymskiego z około IV w. n.e. Pierwsze wzmianki w źródłach historycznych pochodzą z połowy XVI w., lecz wielce prawdopodobne jest, że historia wsi bierze swój początek w XIV bądź nawet w II połowie XIII wieku. Do 1447 roku wieś Rossosz należała do dóbr królewskich a następnie znalazła się dzierżawie kniazia Andrzeja Połubińskiego w Wielkim Księstwie Litewskim. W początkach XVI w. Rossosz otrzymał kniaź Wasyl Połubiński. Pierwsze wzmianki o mieście Rossosz pochodzą z 1551 r. W 1569 r. Rossosz został przyłączony do Korony do powiatu mielnickiego. Praktycznie jednak przez wiele lat znajdował się na terenach spornych.
     W 1561 roku uzyskując akceptację Zygmunta Augusta Rossosz otrzymał prawo magdeburskie ze wszystkimi wolnościami z tego wynikającymi. Kolejni właściciele miasta Kasper i Maryna Dembińscy w 1599 r. wznieśli nowy kościół rzymskokatolicki pw św. Stanisława BM, ufundowali mansjonarię przy probostwie, przytułek dla ubogich i uposażyli je w ogrody, łąki i 5 włók gruntu na terenie miasta. Miasto rozwijało się dzięki położeniu na szlaku handlowym, prowadzącym z Korony na Litwę. Kolejnym właścicielem Rossosza był Mikołaj Firlej kasztelan wojnicki z Dąbrowicy. Przez cały wiek XVII właścicielami Rossosza byli Firlejowie. W 1640 r. Rossosz został spalony przez Lisowczyków. W 1645 r. Zbigniew Firlej potwierdził prawo magdeburskie dla miasta Rossosza.
     Rozwój miasta przerwał potop szwedzki 1655-1660. Rossosz został zniszczony i ograbiony przez wojska szwedzkie z następnie przez oddziały księcia siedmiogrodzkiego Rakoczego. Wojny i panujące w tamtym okresie epidemie spowodowały, że znacznie spadła liczba mieszkańców Rossosza.

     Z początkiem XVIII w. Rossosz stał się własnością Potockich a następnie Ossolińskich. Pod koniec XVIII w. rozpoczął się spór mieszczan rossoskich z dziedzicami miasta, którzy nie chcieli uznać przywilejów mieszczan wynikających z prawa magdeburskiego. Procesy sądowe trwały kilkadziesiąt lat.

     17 listopada 1863 r. w Rossoszu doszło do zwycięskiej bitwy powstańców styczniowych pod dowództwem Karola Krasińskiego z wojskami rosyjskim. W walkach zginęło 13 powstańców i 65 Rosjan. Zbiorowa mogiła poległych powstańców znajduje się na starym cmentarzu w Rossoszu.

     W połowie lat 60. XIX w. miasto liczyło 1667 mieszkańców, 206 domów mieszkalnych i 241 posesji, w tym 190 rolniczych.

1 stycznia 1870 r. Rossoszowi odebrano prawa miejskie i zamieniono na osadę.

     W latach nasilonej rusyfikacji Rossosz był miejscem prześladowań religijnych, co skutkowało m.in. bojkotem szkoły prawosławnej.

     W 1905 r. ludność Rossosza wzięła udział w zjeździe polityczno-religijnym w lesie Sumierz. Manifestowano przywiązanie do mowy polskiej i religii rzymskokatolickiej.

     W 1915 roku wycofujące się wojska rosyjskie spaliły Rossosz. Spłonęła większość budynków mieszkalnych i gospodarskich. Rossosz znalazł się pod zarządem niemieckiej wojskowej Komendy Etapów Ober-Ost. Wielu mieszkańców Rossosza należało do powołanej w 1916 r. Polskiej Organizacji Wojskowej.

     W latach II wojny światowej Rossosz był aktywnym ośrodkiem konspiracyjnym. To tu powstały pierwsze w okupowanej Polsce konspiracyjne gazetki „Polska Ludowa" i „Nowa Chłopska Wieś". Działały Ludowy Związek Kobiet. Rossosz był miejscem zakonspirowanej komórki ZWZ a następnie AK. Proboszcz parafii ks. dr Stanisław Foryś był inicjatorem a później komendantem podlaskim organizacji Kadra Powstańców Niepodległościowych. Na plebanii funkcjonowała tajna radiostacja. Rossosz był silnym ośrodkiem działalności Batalionów Chłopskich. W 1944 r. w okolicach Rossosza powstała i działała leśna Szkoła Podchorążych BCh. Założycielem i pierwszym komendantem był Stefan Skoczylas. Jego imię nosi Szkoła Podstawowa w Rossoszu.

     W 1973 r. Rossosz włączono do gminy Łomazy. Po wielu latach starań mieszkańców 1 stycznia 1984 r. ponownie utworzono gminę Rossosz.

 Opracował: Marek Kulawiec