Oui, pas évident de choisir la bonne formule entre des systèmes clés en main (très simples à mettre en route mais pas très souples si on veut faire évoluer les fonctionnalités de son site) et l'hébergement de son propre site (qui demande en général de mettre un peu les mains dans le cambouis pour l'installation, ou pour changer de thème, installer d'éventuels plugins, et penser un peu maintenance comme sauvegarder sa bdd de temps en tps en tps)
A une époque pas si lointaine, on pouvait aussi se poser la question de quel type de CMS il fallait choisir, en fonction du type de contenu qu'on avait à diffuser. La distinction était facile à faire entre les portails (comme l'ancêtre phpnuke et ses menus partout), les blogs (orientés "diffusion de news") et les wikis (formidables pour du travail collaboratif et/ou la simplicité de l'édition).
Aujourd'hui, les CMS ont repris en général le meilleur de ces systèmes et sont devenus moins "sectaires"... tout en gardant quand même évidemment leur orientation initiale. Bon, pas sûr que ça aide à choisir, à la limite, le meilleur serait peut-être celui qui a la partie administration la plus facile à apprivoiser !
La plupart des CMS à installer soi-même sont en open source et gratuits, souvent en php/mysql. En voici quelques-uns:
http://www.scriptol.fr/cms/liste.php (oui, ça va pas aider)
Installé sur free, ça coute pas un kopeck.
L'achat d'un nom de domaine, non indispensable évidemment, permet de donner un nom plus sympa à son site ou plus facile à retenir (mais cette fois-ci faut passer à la caisse pour une dizaine d'€ par an pour un .com)
Sinon, Wordpress in French est à télécharger là:
http://www.wordpress-fr.net/ A l'origine un blog, il permet aussi de diffuser des articles de fond.
Wordpress a une partie admin parfois un peu pénible je trouve.
Par contre, un outil à voir absolument parce qu'il simplifie considérablement l'édition des articles de Wordpress, c'est Windows Live Writer :
http://www.windowslive.fr/writer/ (ça fonctionne aussi avec d'autres blogs, comme DotClear par exemple, faut juste pas être allergique aux produits crosoft... mais pour une fois, celui là est gratuit)
Eventuellement, dans les trucs ultra simples, gratuits, sans pub et pas prise de tête, tu peux aussi jeter un oeil du coté de Google Sites:
http://sites.google.comC'est plutôt prévu pour de l'article de fond, sur le concept wiki, mais c'est pas si mal foutu.