In Japan werden de huizen, paleizen en boerenwoningen lange tijd alleen van onbewerkte materialen gebouwd, zoals hout, gevlochten stro en papier. De grote ruimte in een huis werden verdeeld in kamers door schermen of met ingebouwde schuifdeuren.
Door het gebruik van lichte materialen waren de huizen in de zomer koel en eenvoudig uit te breiden. Bij sommige huizen was het mogelijk om de wandpanelen open te schuiven, waardoor het huis haast onderdeel van de natuur werd. Maar dit ideaal gold maar voor een klein deel van de Japanse huizen. Boeren leefden in boerderijen die meestal nogal donker waren. En de winkeleigenaren en andere middenstanders beschermden hun huizen met houten luiken tegen al te nieuwsgierige blikken.
In de winter waren de huizen vaak koud. Gietijzeren schalen met gloeiende kooltjes op een laag zand zorgden voor warmte in de verschillende ruimten. Door 's avonds een heet bad te nemen, thuis als men een bad had of anders in een badhuis in de buurt, en daarna snel te gaan slapen, had men wat minder last van de kou.
In huis zaten de bewoners op de grond op kussens of lage stoelen rondom een lage tafel. Onder de tafel was een kuil waarin een zelfde gietijzeren schaal werd geplaatst. Door een overhangend kleed bleef de warmte onder de tafel. In wat rijkere huizen werd het eten opgediend aan individuele kleine tafeltjes en moesten de schalen met kooltjes voor de warmte zorgen.
Er waren geen ramen van glas maar verschuifbare panelen die met papier waren bespannen. De panelen konden verschoven worden om licht en lucht toe te laten. Ervoor zaten houten luiken of panelen die zorgden dat het huis kon worden afgesloten. Het papier in de panelen moest regelmatig worden vervangen. Zeker in een huis met kinderen, die stilletjes gaatjes in het papier prikten met hun vingers, om de volle maan te kunnen zien, zoals enkele haiku gedichten ons vertellen.
Boerenwoningen hadden een vloer van aangestampte aarde en enkele ruimten met een plankenvloer. Huizen van de middenstand hadden ook plankenvloeren en enkele ruimte met tatami matten. Deze matten van 10 tot 12 centimeter dik, zijn gemaakt van gevlochten stro die rondom een vulling is vastgenaaid en waarvan de randen zijn afgezet met een donkere bies. In Japan wordt de omvang van huizen en kamers afgemeten aan de hand van het aantal tatamimatten. Een mat is doorgaans rond de 90 centimeter breed en 180 centimeter lang, hoewel maten soms wat kunnen verschillen. Deze maatvorming maakt dat kamers in een Japans huis veelal vaste afmetingen hebben, dikwijls 3,60 meter bij 3,60 meter, wat een kamer van acht tatami vormt. Er zijn meerdere regels om de matten in verband te leggen.
Een ander vast onderdeel van een Japans huis is een nis, de tokonoma, waarin een inkt schildering of kalligrafie wordt opgehangen boven een vaas of schaal met een ikebana bloemschikking. Het langwerpige schilderij of de tekening wordt kakemono genoemd. Volgens traditioneel gebruik wordt de kakemono en het bloemstuk aangepast aan de seizoenen, aan feestdagen zoals nieuwjaar en bijvoorbeeld de dagen rondom volle maan.
Er was lange tijd geen vaste slaapkamer in de huizen. 's Avonds werden 2 of 3 gewatteerde futon dekens uitgelegd en afgedekt met een of meer minder dikke gewatteerde dekens. Overdag werden deze futons in een diepe kast opgeborgen.
Tegenwoordig woont het merendeel van de Japanse bevolking in forse appartementenblokken. De woningen zelf zijn niet erg groot. De meubels kunnen een mengeling van Europese en Japanse stijl zijn. De woningen zijn vaak gevuld met elektronische apparaten die het leven van de bewoners aangenamer maken, zoals kleine wasmachines en rijstkokers.
In Nederland zijn er geen traditionele Japanse woningen te bezichtigen. Wel hebben sommige Japanse restaurants een traditionele tatami kamer. Ook de dojo's waar Japanse vechtsport wordt beoefend hebben vaak een tatami vloer.