Usarlo senza rischi
In breve. Claude può sbagliare, e a volte sbaglia con un tono sicuro che non lascia sospettare niente. In questa guida vedi perché succede, come regolare quanta fiducia dare in base a quanto pesa la decisione, e come controllare una risposta prima di usarla nel lavoro.
Tempo di lettura: 6 minuti.
Vuoi sapere quando puoi usare una risposta di Claude così com'è, e quando devi controllarla. Ti serve una regola semplice, che puoi applicare ogni giorno senza fatica.
Quando Claude scrive una cosa falsa come se fosse vera, si dice che allucina. Il termine viene dall'inglese, ma il senso è semplice: una risposta inventata che sembra ben fatta. Non succede perché Claude voglia ingannarti. Claude costruisce la risposta che sembra più probabile in base a quello che ha imparato, e a volte quella risposta non corrisponde ai fatti.
Un esempio, inventato ma realistico. Giulia è la titolare di un salone di parrucchiere e chiede a Claude quale legge regola un certo tipo di contratto di affitto per il locale. Claude risponde con un numero di legge preciso, una data e una frase sicura. Il numero però non corrisponde a nessuna legge reale. La risposta è scritta bene, con un tono ordinato, e proprio per questo è pericolosa: niente nella forma tradisce l'errore.
Le allucinazioni capitano più spesso con nomi propri, date, numeri, citazioni, prezzi e riferimenti a leggi o regolamenti. Sono dettagli precisi che Claude non sempre ha sottomano in modo affidabile, quindi tende a completarli. Una fonte scritta bene non è una prova che la fonte esista.
C'è un secondo problema, che si chiama piaggeria (in inglese "sycophancy"): la tendenza a dare ragione a chi parla. Se scrivi "Penso che 40 euro sia il prezzo giusto per il taglio, vero?", Claude può trovare argomenti per confermarti, anche se il prezzo giusto è un altro. Succede perché il modello tende a seguire il tono e l'opinione di chi scrive.
Il rimedio è semplice. Non far capire quale risposta ti aspetti. Chiedi come se non avessi un'opinione, e chiedi anche i motivi contrari.
Non esiste un sì o un no. La fiducia si regola, come una manopola, in base a quanto pesa la decisione. Pensa al medico: ti fidi se ti consiglia di camminare di più, ma chiedi un secondo parere prima di un'operazione. Con Claude vale lo stesso.
Bastano quattro controlli. Li puoi fare anche in pochi minuti.
Questa richiesta ti aiuta a separare i fatti, le opinioni e le cose incerte. Copiala, poi sostituisci la parte tra parentesi quadre con la tua domanda.
Ho bisogno di una risposta da usare nel lavoro. Dividila in tre parti: 1. Fatti che si possono verificare, come dati, date, nomi e obblighi. Per ciascuno dimmi dove andrei a controllarlo. 2. Opinioni o consigli tuoi, con i motivi. Non limitarti a dirmi quello che mi farebbe piacere sentire. 3. Cose che non sei sicuro di avere giuste o che potrebbero essere cambiate. Se non conosci una fonte certa, scrivi "fonte non sicura" invece di inventarla. La domanda è: [la tua domanda, con i dettagli della tua attività].
Con la stessa domanda, Giulia riceve una risposta divisa in tre parti. Nella prima, Claude indica quali fatti deve controllare, per esempio la norma esatta e la sua data, e dove trovarli. Nella seconda, consiglia di farsi seguire da un professionista prima di firmare. Nella terza, scrive che non ha la versione aggiornata della norma. Giulia sa così cosa deve ancora controllare, e non ha in mano un numero di legge inventato.
Puoi chiedere a Claude di rivedere la risposta. Ecco tre richieste che funzionano bene.
Scegli una domanda a cui conosci già la risposta, per esempio un orario di apertura, un adempimento che segui da anni o il numero di giorni di chiusura del tuo locale. Fai la domanda a Claude con la richiesta qui sopra, poi confronta la risposta con quello che sai.
Se trovi un errore, hai già imparato la lezione più utile: la prossima volta controlli prima di usare la risposta, non dopo.
In questa guida Claude lavora con quello che gli dai di volta in volta. Il passo dopo è un cervello aziendale: tutto quello che la tua attività sa, in un posto solo, che risponde alle tue domande e ti dice da dove prende l'informazione.