Teigiama, jog Vilniaus vyskupas Jonas iš Lietuvos kunigaikščių 1523 m. lankydamas Kuršo pasienį aptiko pagonis, garbinančius pagonių dievus, tad 1526 m. šalia Joniškio esančio Kalnelio vietoje buvo įsteigta parapija bei pastatyta medinė bažnyčia. XVI a. gyvenvietė kūrėsi šalia Joniškio esančiame Kalnelio kaimo vietoje. Į dabartinę Joniškio vietą gyvenvietė buvo perkelta XVI a. pabaigoje, kuomet 1594 m. kilusio gaisro metu sudegė didžioji dalis pastatų. Kita persikėlimo priežastis – regiono ūkio permainos, kuomet augant Šiaulių ekonomijos reikšmei, ilgainiui įvyko pokyčiai svarbiausių prekybinių sausumos kelių tinkle, kas pastūmėjo gyvenvietės perkėlimą į patogesnę vietovę. XVII a. pradžios šaltiniuose Joniškis vadinamas miestu, turinčiu turgaus aikštę ir keturias gatves. Miesto augimą paskatino 1616 m. Lenkijos karaliaus ir Lietuvos didžiojo kunigaikščio Zigmanto III Vazos suteiktos Magdeburgo teisės.
Pastarojoje privilegijoje žydams įsikurti mieste nebuvo leista, ta pati nuostata buvo pakartota ir 1650 m. patvirtintoje Magdeburgo teisių privilegijoje, nurodant, jog visi miesto gyventojai turi būti vieno tikėjimo. XVII a. žydų įsikūrimui itin priešinosi krikščionys miestiečiai, baimindamiesi žydų pirklių ir amatininkų konkurencijos. Gaisrai ir plėšikaujančios priešų kariuomenės XVIII a. pradžioje nustekeno Joniškį, kas privertė peržiūrėti politiką žydų atžvilgiu. 1737 m. valdovas Augustas III privilegija pakvietė žydus apsigyventi Joniškyje. Iš 1753 m. skundo, kuriame skundžiamasi dėl žydo galimai padegusio kaimyno namą, sužinome, jog tuo metu Joniškyje jau gyveno žydai, tačiau tikslių duomenų apie bendruomenės dydį neturime iki XVIII a. pabaigos. 1795 m. mieste gyveno 88 žydai. 1836-1858 m. per Joniškį buvo nutiestas Rygos-Tilžės plentas, turėjęs didelės reikšmės miesto plėtrai. 1897 m., praėjus kiek daugiau nei šimtui metų, Joniškyje jau gyveno 4774 gyventojai, iš kurių 2272 buvo žydai. Tarpukario metais dėl vis didėjančios žydų migracijos į JAV, tuometinę Palestiną ir Pietų Afrikos Respubliką, bendruomenė pradėjo trauktis, antai 1936 m. Joniškyje gyveno tik apie 700 žydų.
Dauguma Joniškio žydų gyveno miesto centre, į pagrindinę turgaus aikštę vedančiose Livonijos, Upytės ir Šiaulių gatvėse. 1797 m. vietos žydams buvo leistą pasistatyti sinagogą, tačiau pirmąjį kartą šaltiniuose ji užfiksuojama tik 1823 m., stovinti į rytus nuo pagrindinės turgaus aikštės. Per XIX a. susiformavo Joniškio kompleksas, kurį sudaro greta stovinčios iki šių dienų išlikusios Baltoji ir Raudonoji sinagogos.
Šalia svarbaus prekybinio kelio, jungusio Vilnių ir Rygą, esantis Joniškis nuo senų laikų garsėjo karčemų gausa, XVIII a. pabaigoje tarp jų savininkų minimi ir žydai. Be karčiamų laikymo, žydai vertėsi įvairiomis kitomis veiklomis. Nemaža dalis užsiėmė prekyba ir amatais. Tarpukariu žydai minimi užsiimantys laikrodininko, kirpėjo, kepurininko, dailidės, skardininko, mėsininko amatais, o Joniškio krašte garsėjo gydytojai Gitelis ir Jakobas Garberiai. Vietos žydai nemaža dalimi prisidėjo prie miesto industrializacijos: Vilniaus g. veikė Norunskio ir Mildvidskio motorinis malūnas, M. Verstermanas turėjo vilnos vėlimo ir dažymo dirbtuves, M. Šatenšteinas atidarė pirmąją degalinę, o krašte garsėjusiam fotografui J. Fišeriui priklausė kino teatras „Lira“. Nors įprastai žydai yra siejami su aukščiau aptartomis veiklomis, tačiau Joniškio krašte dalis žydų vertėsi žemės ūkių, augino galvijus.
Tarpukariu Joniškyje buvo įsteigta hebrajų mokykla, veikė darželis ir biblioteka. Vietos žydų tarpe buvo populiarios sionistų organizacijos, veikė „Makabi“ sporto organizacija, žydų liaudies bankas, labdaros draugijos. Žydai buvo aktyvūs ir savivaldoje: 1933 m. Joniškio burmistro pavaduotoju buvo išrinktas Izaokas Šapira, o vietos žydai buvo miesto ir valsčiaus tarybų nariai.
