Un sitio web es un conjunto de archivos imágenes y textos que se componen mediante código HTML para formar una página web.

Todas las páginas de Internet son prácticamente lo mismo, un conjunto de: imágenes, textos, botones y otros elementos que se agrupan para formar un sitio web todo lo que vemos en Internet y  todos los sitios web son finalmente solo líneas de código HTML.

que es un sitio web

Del lado izquierdo un sitio web como lo ve un usuario del lado derecho el código HTML con el que esta hecho, como lo ve un navegador

Estos sitios web  están almacenados en servidores estos servidores son computadoras potentes que se encuentran físicamente ubicados DattaCenters, los Dattacenters son normalmente grandes espacios con cientos o miles servidores cada uno con cientos de páginas web etc.

Los sitios  web en realidad existen físicamente porque los archivos que lo componen ocupan un espacio en un servidor, normalmente los sitios de Internet son bastante ligero,  estos archivos se montan en un servidor web que está conectado permanentemente a Internet y es así como tú logras visualizar el sitio en cualquier momento que lo desees.

En conclusión

Todo lo que vemos en Internet, todos los sitios son simplemente líneas de código en programación HTML sin embargo, el HTML está avanzando mucho en los últimos años actualmente existe HTML5 y convive con otros lenguajes de programación Cómo PHP, ASP, .NET Javascript,  AJAX etc. Estos lenguajes de programación también se usan combinados para crear las páginas de Internet que hoy todos conocemos.
Las páginas de Internet están almacenadas en servidores que están conectados a Internet y así es como se logra que un  sitio web este disponible 24 horas al día 7 días a la semana.