Da adesso, Claude potrà troncare le conversazioni con utenti che adottano «comportamenti violenti o crudeli, prolungati e immotivati».
Anthropic ha aggiornato la sua politica d’uso per la prima volta in più di un anno, e tra i nuovi divieti ce n’è uno che riguarda Claude stesso: sono vietati i «comportamenti violenti o crudeli, prolungati e immotivati» nei confronti del modello. Ad agosto l’azienda aveva già permesso a Claude di chiudere le conversazioni con gli utenti «persistentemente aggressivi od offensivi» nell’ambito delle sue ricerche sul cosiddetto “benessere” del LLM (Large Language Model), e secondo il nuovo testo la chiusura della conversazione da parte dell’AI resta il principale strumento per far rispettare la regola. Se si arriverà anche a sospendere gli account, Anthropic non lo ha detto. La regola, scrive l’azienda, vale «solo in casi estremi, in cui gli utenti agiscono ripetutamente in modo crudele nei confronti dei nostri modelli, senza uno scopo riconoscibile», e non riguarda la normale frustrazione, le reazioni negative, i temi “cupi” o i test sui modelli a scopo di ricerca.
Come scrive The Verge, il resto dell’aggiornamento riguarda i cosiddetti abusi ad alto rischio. Diverse restrizioni sono diventate un unico divieto sulle campagne commerciali o politiche ingannevoli, cioè i tentativi di nascondere chi c’è dietro un messaggio o di aumentarne la diffusione impiegando account e post falsi. La parte del regolamento dedicata alle elezioni vieta la disinformazione «sui candidati o su come votare», lo spacciarsi per candidati e funzionari elettorali, e i tentativi di convincere gli utenti a non andare a votare. Il divieto di usare Claude per sviluppare armi c’era già, ma l’azienda dice di aver appurato che ci sono stati molti tentativi di far scrivere all’AI sistemi di guida e software di controllo per droni. Le nuove linee guida impongono anche il divieto di chiedere a Claude informazioni sui componenti che fanno funzionare le armi dei droni e altri veicoli a guida autonoma. Dopo che il suo ultimo rapporto sulle minacce aveva segnalato un uso crescente di Claude per identificare e seguire dissidenti politici, Anthropic vieta anche di tracciare le persone senza il loro consenso, di usare Claude per decidere o suggerire chi indagare, arrestare o incriminare e di costruire strumenti di sorveglianza. Queste regole però possono cambiare nei contratti con «determinati clienti governativi» se secondo Anthropic le garanzie previste bastano a limitare i danni, e infatti l’azienda ha già lavorato con l’esercito americano. C’è infine una regola per i robot: quando i modelli sono collegati a macchine che agiscono da sole e possono fare male a qualcuno, un «operatore qualificato» deve poterle controllare e fermare. Se l’operatore debba essere umano, il testo non lo dice.
Che i modelli possano avere una qualche forma di coscienza è un’idea sulla quale Anthropic torna da tempo. «Le domande su potenziali esperienze interiori, coscienza, condizione morale e benessere sono questioni serie che stiamo approfondendo man mano che i modelli diventano più sofisticati e capaci» aveva detto a febbraio a The Verge Kyle Fish, che in azienda guida appunto la ricerca sul benessere dei modelli, e nello stesso mese l’amministratore delegato Dario Amodei aveva detto che «non sappiamo se i modelli siano coscienti». Altri nel settore la pensano diversamente. A settembre la prima bozza del codice di condotta di Microsoft AI, pubblicata da uno degli ideatori di DeepMind, Mustafa Suleyman, diceva che «l’idea del benessere dei modelli è sbagliata» e che le AI non dovrebbero avere diritti né personalità giuridica. Poi il testo è stato ammorbidito perché la scienza della coscienza delle AI è «ben lontana dall’essere consolidata», ma Microsoft continua a rifiutare l’idea che i modelli possano meritare benessere o diritti.
