Breve guida all'uso dei caratteri estesi su Usenet

Indice

1. Introduzione
2. Le accentate su Usenet:
3. Il problema particolare delgli header
4. Il simbolo dell'Euro
5. Istruzioni per configurare correttamente alcuni newsreader
1. MacSOUP, tin, Pan, KNode, Mozilla (Netscape 4), Knews, NewsWatcher/Thoth, XanaNews, Dialog
2. GnusEmacs
3. Outlook Express
4. PINE
5. slrn
6. Xnews
7. Gravity
6. Mime-Proxy
7. Ringraziamenti
8. Storia delle revisioni

1. Introduzione

Viene riportato di seguito un interessante articolo sul problema delle accentate su Usenet (e più in generale sull'utilizzo dei caratteri estesi), apparso un po' di tempo fa su it.comp.software.newsreader.
L'averlo reso disponibile su wiki consentirà un aggiornamento continuo che (si spera) consentirà di evitare l'obsolescenza precoce di parte del suo contenuto (specificatamente, la parte dedicata alle impostazioni dei vari newsreader)

L'origine del presente documento è l'articolo:

 From: Marvin <marvin_gpp*despammed.com>
 Newsgroups: {it.comp.software.newsreader}
 Subject: E allora vuoi usare le accentate nei tuoi articoli?
 Date: Sun, 06 Jan 2002 22:46:52 +0100
 Organization: Sirius Cybernetics Corporation
 Lines: 211
 Message-ID: <a1ak4s.3vue6h7.1@marvin.gpp.despammed.com>

2. Le accentate su Usenet:

E allora vuoi usare le accentate nei tuoi articoli?

Per molti anni, una delle regole d'oro di Usenet in generale, e di it.* in particolare, è stata quella di non usare caratteri accentati, sostituendoli con apostrofi e apici: questa raccomandazione compare ancora in molte FAQ e manifesti di gruppi. Le ragioni di tale divieto sono legate alle difficoltà con le quali si è arrivati a definire gli standard per la trasmissione dei messaggi (sia di posta elettronica che dei newsgroup), e alla lentezza con cui i produttori di newsreader hanno implementato tali standard.

Oggi (a più di trenta anni dallo sbarco sulla Luna) questi problemi sono stati in buona parte risolti, e quindi non c'è più ragione di mantenere un ostracismo completo verso i caratteri accentati. Questo però non significa che l'uso dei medesimi non richieda qualche attenzione supplementare. In sintesi, occorre:

1. Configurare correttamente il proprio programma per le news (newsreader);

2. Ricordarsi di non usare caratteri accentati negli header dei propri articoli, se possibile. In particolare, per la loro importanza, negli header "Subject" ("Oggetto") e "From" ("Da").

Questo è quanto. È inoltre ovvio che in lettura vada adoperato lo stesso charset di chi ha composto l'articolo, altrimenti i caratteri non saranno mostrati come originariamente desiderato dall'autore del post.
Se non sei interessato ai dettagli tecnici, puoi anche saltare all'ultima sezione di questo documento, dove sono riportate le istruzioni per configurare correttamente alcuni newsreader. Altrimenti, quella che segue è una breve spiegazione delle regole appena esposte.

Alla base del problema-accenti sta il fatto che originariamente i messaggi Usenet erano codificati unicamente in ASCII standard a 7 bit, che come noto non comprende le vocali accentate. L'adozione di set ASCII estesi (a 8 bit) è successivo, e se da una parte ha permesso l'utilizzo di un vasto numero di caratteri alfabetici localizzati, dall'altra ha creato una notevole fonte potenziale di confusione. Infatti esistono decine di versioni differenti di set ASCII estesi, ognuno creato per scopi particolari (ad esempio, per rappresentare i numerosi segni alfabetici europei, ma non solo).
Fortunatamente, alcuni di questi sono ora degli standard ISO: per le lingue europee, hanno particolare importanza i charset della famiglia iso- 8859, ognuno dei quali è un set ASCII esteso formato da 256 caratteri. Ad esempio: Latin1 (iso-8859-1, Europa occidentale), che contiene i caratteri alfabetici comunemente usati in italiano, francese, tedesco, e altri; Latin2 (iso-8859-2, Europa centrale); Cyrillic (iso-8859-5, Europa dell'est), ecc.¹

Ovviamente è necessario specificare, in ogni articolo, quale charset si è usato per comporre il proprio messaggio. Il rischio è, altrimenti, che A usi un charset per scrivere un messaggio, e che B ne usi uno diverso per leggerlo! Il posto giusto per fornire questa informazione è ovviamente tra gli header², che comprenderanno qualcosa del tipo:

  Content-Type: text/plain; charset=iso-8859-1

O magari:

  Content-Type: text/plain; charset=iso-8859-2

Nel primo caso, se il newsreader incontrerà, ad esempio, il carattere nella posizione 0xE8 (cioè 232), farà apparire una "e" accentata; nel secondo, una specie di "c".
L'unica circostanza in cui l'indicazione del charset può essere omessa è quella in cui il messaggio contenga solo i 128 caratteri dell'ASCII standard a 7 bit (quindi le 26 lettere, i numeri, la punteggiatura, e poco altro). In quel caso, il newsreader assumerà per default che stiamo usando il buon vecchio ASCII standard, senza possibilità di equivoci.

Per l'italiano, è consigliabile usare il ben noto charset Latin1 (iso-8859-1), che comprende tutti i caratteri utili per scrivere in italiano corretto, o il più recente Latin9 (iso-8859-15), che comprende anche il simbolo dell'Euro (si veda anche il paragrafo dedicato al problema-Euro).
Altri tipi di charset (in particolare quelli della famiglia Windows, come il windows-1252) sono invece da evitare: non offrono nulla in più rispetto a quelli ISO, e non sono standard (quindi possono non essere supportati dai newsreader).

Questo per quanto riguarda la corretta indicazione del charset. Adesso ogni singolo carattere deve essere codificato (encoding): il metodo raccomandato è l'"8 bit". Ciò significa che, almeno per

Questa frase a mio parere confonde un po'. Intendiamoci, il testo è corretto, 
ma per un non esperto di queste cose per me rimane una frase ambigua. 
Andrebbe chiarita magari con una nota. 

Mi spiego meglio. I "charset" equivalgono già ad una codifica, 
quello di cui parla Marvin qui è l' opportunità di usare una codifica ad 8 bit 
(che appunto equivale al Latin1, Latin9, UTF ecc.) oppure di ridurre le lettere 
"over 128" ad una rappresentazione "under 128" col QP o il base64. Sono entrambi 
delle codifiche, mutualmente esclusive e questo da come viene detto non si capisce 
bene. Sembra che il "charset" sia una cosa e la "codifica" un'altra.
-- CarloFusco

Charset ed encoding sono cose diverse, è importante soprattutto quando si introduce
Unicode (un charset) che può essere codificato in vari modi (UTF-8, UTF-16, eccetera).
Un charset senza encoding è solo un'astrazione (il testo qui sotto va corretto).
Le codifiche come QP sono un ulteriore layer, per esempio è possibile avere un testo
contenente Unicode rappresentato con l'encoding UTF-8 codificato in QP.
Suggerisco la lettura di: http://www.wikipedia.org/wiki/Character_encoding e
http://www.unicode.org/unicode/reports/tr17/ .

-- Md

Scusa Marco, ma se e` vero che un charset di per se` sia una entita` astratta, in genere
si parla di *coded* character set (CCS), riferendosi a cose, come l'ASCII, ISO-8859, 
ISO-10646 (UNICODE), nelle quali ai charset vengono associati dei set di numeri interi che 
arrivano (nel caso dell'UNICODE) ad essere grandi fino a 32 bit.

Poi, quando e` necessario, viene usato il CES (Character Encoding Scheme) per rimappare 
i CSS su gruppi di parole a 8 bit (ottetti), come l'UTF-8 fa per esempio con l' ISO-10646.

Infine esiste la codifica sul trasporto (Transport Encoding Syntax), come il il Base64, che 
rimappa il CSS o il CES per il trasporto su codifica ASCII. 

Insomma, resta il fatto che il termine "codifica" e` troppo generico per essere usato 
disinvoltamente senza le opportune definizioni, che a mio parere queste andrebbero 
fornite al presente documento per *chiarire* meglio il testo, il quale pero` a me sembra 
comunque corretto nella sua presente formulazione.

Non ho capito quindi a cosa ti riferisci quando dici che il testo qui sotto
andrebbe "corretto". Vuoi dire che fornisce delle informazioni errate?

Per quanto riguarda l'uso del termine "mutualmente esclusivo" nella mia nota 
effettivamente occorreva una precisazione visto che cosi` viene fuori una frase 
certamente sbagliata. Io comunque quando ho scritto quella frase stavo pensando al 
fatto che su Usenet nel trasporto di testo (e non di binari) il CES e` una codifica 
sufficiente, essendo Usenet 8 bit clean e quindi sarebbe inutile e ridondante 
stratificarci sopra anche una codifica TES, che quindi non andrebbe usata nel 
trasporto di testo ed eventualmente e` da applicare per il trasporto di binari 
qualora lo si voglia fare nel framework del MIME e non con quegli hack come UUENCODE 
o yenc (ma qui divago e vado fuori tema).


In ogni caso una fonte autorevole da aggiungere secondo me ai tuoi link (e che a me 
personalmente ha aiutato a capire parecchie cose prima confuse) e`la RFC2130.

-- CarloFusco

Voglio dire che dovrebbe essere reso preciso, come hai indicato
-- Md

Ehm... ho letto e riletto ma continua a non essermi chiaro cosa e come dovrebbe
venir specificato meglio... non è che può farlo uno di voi due, o eventualmente
potete dirmi chiaramente quello che va scritto?
Mi pare di capire che si debba specificare che anche la scelta del charset è in
in poche parole una codifica e che, di conseguenza, andrebbe specificato che si
hanno due livelli (o strati): scelta del charset e scelta del <come si chiama>,
tra quoted printable etc... Insomma, io ho grossa crisi a riassumere...
-- Gesu`

quanto riguarda il charset iso-8859-1, il carattere "è" sarà rappresentato semplicemente dal byte 0xE8.
Altri tipi di codifica, come ad esempio il Quoted-Printable (in cui i caratteri over-127 vengono rappresentati tramite una sequenza di escape a 7 bit: la "è" del caso precedente sarebbe codificata con i tre caratteri "=E8"), o il Base64, sono invece sconsigliati, perché non forniscono maggiori informazioni di una normale codifica a 8 bit, appesantiscono inutilmente il messaggio, e aumentano il rischio di errori nella decodifica. Un discorso a parte merita l'UTF-8, che è una codifica di Unicode compatibile con ASCII e usata su Usenet. Rispetto ai charset descritti precedentemente, ha il vantaggio di rendere disponibile l'intero set di caratteri Unicode, superando il limite dei 256 caratteri per volta; purtroppo però molti newsreader non lo interpretano ancora correttamente, e quindi si raccomanda di limitarne l'uso ai casi in cui non se ne può fare a meno.

Concludendo, il tipico messaggio news dovrà avere degli header che saranno di solito simili a questi:

   Mime-Version: 1.0
   Content-Type: text/plain; charset=iso-8859-1
   Content-Transfer-Encoding: 8bit

Indicati talvolta semplicemente come "header MIME"³.

3. Il problema particolare delgli header

Con le adeguate precauzioni, quindi, il messaggio verrà letto e scritto correttamente. C'è però un problema: tutto questo riguarda il corpo (body) del messaggio; che succede quando il carattere accentato è negli header? Un certo numero di newsreader inserisce in essi informazioni supplementari su charset e codifica. Così l'oggetto di un messaggio:

   Subject: Perché non mi funziona il threading?

Può diventare, ad esempio:

   Subject: =?iso-8859-1?Q?Perch=E9?= non mi funziona il threading?

L'effetto negativo è duplice: chi usa un newsreader non attrezzato a decodificare il MIME vedrà un subject incomprensibile; inoltre il thread sarà, di fatto, composto da articoli con subject differenti, che dipendono dal newsreader e dal tipo di codifica (con tutte le conseguenze che ciò può avere per la corretta gestione del thread).
Questo è il motivo per cui, fino a che non verranno adottate regole comuni sulla codifica degli header, sarebbe bene scrivere questi ultimi (e quindi anche il subject) usando solo caratteri dell'ASCII standard a 7bit.

4. Il simbolo dell'Euro

Il simbolo dell'Euro è stato recentemente introdotto nel charset Latin9 (iso-8859-15), nella posizione 164. Tuttavia un buon numero di newsreader non è ancora attrezzato per gestire tale charset, e quindi il simbolo verrà a volte mostrato come la posizione 164 del Latin1 (una specie di "o"), o con un punto interrogativo.
Per essere sicuro che chiunque possa leggere correttamente il tuo messaggio, forse è meglio continuare a scrivere "euro", "EUR", o simili. Se proprio ci tieni ad usare il simbolo, devi almeno assicurarti che il tuo newsreader lo codifichi in maniera corretta:

Con Forté [Free] Agent 1.93, versione italiana sono necessarie le seguenti modifiche solo se avete effettuato l'installazione come aggiornamento di una precedente versione (se avete effettuato una nuova installazione non è necessario fare nulla):

In Opzioni | Preferenze generali | Lingue dei messaggi:
Code Page: Europa occidentale (Codepage 1252)
Invio messaggi Usenet: Occidentale con Euro (US-ASCII, ISO 8859-1, ISO 8859-15, UTF8)
Invio messaggi Email: Occidentale con Euro (US-ASCII, ISO 8859-1, ISO 8859-15, UTF8)
Predefinito per messaggi ricevuti: ASCII (us-ascii)
Testo Usenet: 7/8 bit [X] Codifica MIME dei campi header
Testo email: 7/8 bit [X] Codifica MIME dei campi header

Con Forté [Free] Agent 1.93, versione inglese, la stessa configurazione di cui sopra è necessaria in ogni caso, e si legge:

In Options | General Preferences | Languages:
Code Page: Western Europe (Codepage 1252)
Send Usenet as: Western with Euro (US-ASCII, ISO 8859-1, ISO 8859-15, UTF8)
Send email as: Western with Euro (US-ASCII, ISO 8859-1, ISO 8859-15, UTF8)
Default Charset: ASCII (us-ascii)
Usenet Text: 7/8 bit [X] MIME headers
Email Text: 7/8 bit [X] MIME headers

Il charset "Occidentale no unicode" ("Western no unicode") è anche utilizzabile, ma in quel caso bisognerà evitare di inviare il messaggio con il set di caratteri denominato "Occidentale Windows-compatibile" ("Western Windows-compatible") che Agent può proporre in alcuni (rari) casi.

==

Con Xnews da solo non è possibile, occorre usare Mime-Proxy (vedi sotto) avendo "caricato" anche il charset "iso-8859-15".

5. Istruzioni per configurare correttamente alcuni newsreader

5.1. MacSOUP, tin, Pan, KNode, Mozilla (Netscape 4), Knews, NewsWatcher/Thoth, XanaNews, Dialog

Questi programmi sono configurati correttamente di default, e non occorre fare nulla.

NB: La versione gratuita di Agent (Forté Free Agent), riesce a gestire correttamente i caratteri estesi solo a partire dalla versione 1.93.

5.2. GnusEmacs

Aggiungere in .emacs la linea:

   (standard-display-european 1).

5.3. Outlook Express

Nel menu:

   Strumenti | opzioni | invio | formato news | imposta testo normale | MIME 

Impostare:

   metodo codifica: nessuno 
   consenti 8 bit: si 

Nel menu:

   Strumenti | opzioni | invio | impostazioni internazionali

scegliere "Europa Occidentale (ISO)".

5.4. PINE

A partire dal menu principale, andare in (S)etup | (C)onfig, e:

- selezionare (X) l'opzione enable-8bit-NNTP-posting - nella casella "character-set", aggiungere (premendo la A), il valore ISO-8859-1.

Forse è più pratico premere W per ricercare l'opzione giusta, data la lunghezza della lista. Uscire premendo E.

5.5. slrn

Non occorre fare nulla, se il sistema operativo è configurato correttamente.
Per generare gli header MIME, aggiungere in ~/.slrnrc:

   set use_mime 1 
   set mime_charset "iso-8859-1".

5.6. Xnews

In:

   Special | Setup Xnews | Compose | Custom Headers

Aggiungere queste 3 righe:

   *Mime-Version: 1.0 
   *Content-Type: text/plain; charset=iso-8859-1 
   *Content-Transfer-Encoding: 8bit 

Inoltre se si adopera come sistema operativo Win2000 o WinXP, è necessario sostituire la dll "Riched32.dll", altrimenti le accentate non appariranno nel testo quotato o incollato. Basta scaricare la dll aggiornata dal sito ufficiale del programma (http://xnews.newsguy.com/), e decomprimerla della cartella del programma.

Nota: Xnews (ad oggi) non supporta il MIME; se ti appaiono caratteri strani al posto delle accentate (nei tuoi articoli o in quelli altrui), le istruzioni sopra esposte non miglioreranno la situazione. In questo caso è necessatrio adoperare Mime-Proxy (oppure Morver) - per decodificare correttamente i caratteri.

5.7. Gravity

Gravity non permette l'uso di caratteri accentati (o, in generale, non compresi nell'ASCII 7bit). Chi lo adopera deve continuare ad usare apici e apostrofi, oppure scegliere un newsreader con un miglior supporto per MIME o, come nel caso di Xnews, usare Mime-Proxy.

6. Mime-Proxy

Mime-Proxy è un piccolo programmino gratuito creato proprio per risolvere i problemi causati dai newsreader che non riescono a gestire correttamente i charset, come i succitati Gravity ed XNews. È un programma da console, può venir avviato silenziosamente e lasciato in background senza che consumi grosse risorse o crei fastidi, e quello che fa è molto semplice: si interpone tra il client news ed il server e "aggiusta" tutti gli articoli in entrata ed in uscita, aggiungendo le dichiarazioni corrette negli header e correggendo eventuali errori nei body.
Il programma è disponibile qui: http://plamaiziere.free.fr/mp_pagen.html
Una buona guida in italiano si può invece trovare presso: http://web.lacasadialice.it/alanford/mimeproxy/mime.html (mirror: http://digilander.libero.it/xnews/mimeproxy/mime.html).

7. Ringraziamenti

Ringrazio tutti i partecipanti del gruppo it.comp.software.newsreader, senza l'aiuto dei quali non avrei potuto scrivere questo documento.

[6 gennaio 2002, Marvin]

8. Storia delle revisioni