První písemně doložená zmínka o vesnici Konojedy (nepochybně
se jedná o posměšný název sídla lidí, kteří jedí koně, starší podoba názvu
zřejmě byla Konějedy) pochází z roku 1057, kdy je zmiňovaná v nadačních listinách
litoměřické kapituly. Prvním vlastníkem této vesnice byla tedy církev a její
obyvatelé byli povinní odvádět daně litoměřické kapitule. Už tehdy zřejmě zde
stála i tvrz a malý kostelík.
Ve 14. století se stali majiteli vesnice a tvrze vladykové z Konojed. Nejstarší písemná připomínka konojedské tvrze je však až z roku 1451, kdy Běta, dcera Kuneše z Konojed převedla Konojedy na svého manžela Ctibora z Tloskova. Oba však už před tím panství Konojedy zadlužili natolik, že ho v následujícím roce museli prodat Aleši Berkovi z Dubé za podstatně sníženou cenu 1600 kop (96 tisíc) míšeňských grošů. Berkové z Dubé však drželi Konojedy jen velmi krátce a už v roce 1545 je jako nový majitel tohoto panství připomínán Albrecht Kunetzký z Pojetic, patrně zbohatlý pražský měšťan původem ze Saska.
Jeho potomek Vilém Konojedský z Pojetic nechal v polovině 16.
století nevelkou gotickou tvrz přestavět na renesanční zámek, jak to odpovídalo
dobové módě a pohodlnějšímu životnímu stylu. Jeho syn Albrecht Kunetzký z
Konojed a Pojetic se v roce 1618 účastnil stavovského povstání na straně
vzbouřených stavů a po porážce povstalců mu byl veškerý majetek včetně
konojedského zámku zabaven. Jeho dcerám
Magdaléně, Ludmile a Anně sice Česká královská komora přislíbila vyplacení náhrady,
ale po urgencích jim byla vyplacena až v březnu 1629.
Panství Konojedy mezitím koupil horlivý katolík hejtman
kladského hrabství Adam Gottfried Berka z Dubé. Poté se zde střídali
majitelé, až v roce 1647 nebo 1650 ho získal generálporučík císařské armády
Johann Sporck (Jan Špork). O tom, jak se Konojedy staly jeho vlastnictvím existují dvě verze. Podle první
z nich je Sporck dostal darem od císaře Ferdinanda III., podle druhé je koupil
od zadluženého jezuity Václava Františka Liebsteinského, vzdáleného příbuzného
Adama Gottfreida Berky z Dubé.