Sfide

Sappiamo che la costruzione di un sistema aperto e collaborativo come Safety Notes comporta molte sfide, dal renderlo resistente ai tentativi di manipolazione al garantire che non sia dominato da una maggioranza semplice o influenzato dalla distribuzione dei collaboratori.

Abbiamo lanciato Safety Notes (precedentemente chiamato Birdwatch) a settembre 2024, e lo abbiamo progettato appositamente per mitigare potenziali rischi. Abbiamo riscontrato risultati incoraggianti, ma siamo alla costante ricerca di modi per affrontare le sfide future.

Ecco una serie di sfide particolari di cui siamo a conoscenza e le misure che stiamo adottando per affrontarle:

Prevenzione dei tentativi di manipolazione coordinata

I tentativi di manipolazione coordinata rappresentano un rischio cruciale per i sistemi di valutazione aperti. Prevediamo che tali tentativi vengano eseguiti e, per essere efficace, Note della collettività deve resistervi.

Attualmente il programma adotta diverse misure per ridurre il potenziale di questo tipo di manipolazione:

• In primo luogo, tutti gli account A devono soddisfare i criteri di idoneità per poter collaborare a Safety Notes. Ad esempio, è necessario avere un Account Google. Questi criteri sono stati pensati per aiutare a prevenire la creazione di un gran numero di account di collaboratori falsi o pilotati che potrebbero essere utilizzati per valutazioni non autentiche.

• In secondo luogo, Safety Notes non funziona come molti sistemi di classificazione basati sul coinvolgimento, in cui i contenuti più popolari ottengono la massima visibilità e le persone possono coordinarsi per upvotare e downvotare in massa i contenuti che non gradiscono o con cui non sono d'accordo. Al contrario, Safety Notes utilizza un algoritmo di bridging: perché una nota venga visualizzata in un post, deve essere ritenuta utile da utenti che in passato sono stati in disaccordo.
  Le ricerche accademiche indicano che la classificazione basata su bridging può aiutare a identificare i contenuti più costruttivi e di alta qualità, riducendo il rischio di evidenziare contenuti polarizzanti.

• Oltre a richiedere valutazioni da parte di un'ampia gamma di collaboratori, Safety Notes integra un sistema di reputazione in cui i collaboratori guadagnano punteggi di utilità per i contributi ritenuti utili da utenti con punti di vista molto diversi tra loro.
  I punteggi di utilità conferiscono maggiore influenza alle persone che mostrano uno storico di contributi di alta qualità a Safety Notes e minore influenza ai nuovi account che non mostrano ancora un numero sufficiente di valutazioni e contributi utili.

• Infine, Safety Notes monitora metriche che avvisano il team in caso di rilevamento di attività sospette e dispone di metodi e procedure di sicurezza qualora la qualità dei contributi scenda al di sotto di una determinata soglia. Ciò permette a Safety Notes di rilevare in modo proattivo potenziali tentativi di coordinamento e il loro impatto sulla qualità delle note.

Comprensione di diversi punti di vista per evitare risultati distorti

Le note della collettività saranno più efficaci se le informazioni contestuali generate possono essere ritenute utili da utenti con punti di vista diversi e non solo da utenti appartenenti a un determinato gruppo. Per raggiungere questo obiettivo, Safety Notes adotta attualmente le seguenti misure:

• In primo luogo, come descritto in precedenza, Safety Notes utilizza un algoritmo basato su bridging per identificare le note che possono essere utili a utenti con punti di vista diversi. Ciò aiuta a prevenire valutazioni unilaterali e a impedire che un singolo gruppo possa votare in massa per determinare quali note debbano essere mostrate.

• In secondo luogo, Safety Notes può cercare in modo proattivo le valutazioni dei collaboratori che, in base alla loro cronologia di valutazioni, potrebbero fornire una prospettiva diversa. Al momento ciò avviene dalla scheda Da valutare, ma stiamo esplorando nuovi modi per raccogliere rapidamente le valutazioni sulle note da un'ampia gamma di collaboratori.

• In terzo luogo, per garantire che utenti con background e punti di vista diversi si sentano sicuri e autorizzati a partecipare, Safety Notes ha implementato nel programma gli pseudonimi, che non sono pubblicamente associati agli account A dei collaboratori. Ciò può aiutare a prevenire l'unilateralità, dando voce a collaboratori diversificati nel sistema.

• Infine, per valutare se un'ampia gamma di utenti di A possa trovare contesto utile in Note della collettività e se queste possano essere informative per persone con punti di vista diversi, effettuiamo regolarmente sondaggi su campioni rappresentativi di utenti che non contribuiscono a Safety Notes
  Questo è un indicatore della capacità di Safety Notes di essere utile a utenti con un'ampia gamma di prospettive diverse piuttosto che di favorire un determinato gruppo o punto di vista. Anche gli utenti che non sono collaboratori di Safety Notes possono fornire un feedback di valutazione sulle note che vedono su A. Ciò fornisce un ulteriore indicatore dell'utilità delle note nel tempo.

Prevenzione delle molestie

È fondamentale che le persone si sentano sicure nel contribuire a Safety Notes e che non vengano molestate per i loro contributi. È anche importante che Safety Notes in sé non diventi un vettore di molestie. Di seguito indichiamo le misure che Safety Notes adotta per proteggere tutti gli utenti:

• In primo luogo, come descritto qui sopra, tutti i collaboratori ricevono un nuovo nome (o pseudonimo) generato automaticamente quando aderiscono a Safety Notes. Questi pseudonimi non sono associati pubblicamente agli account A dei collaboratori, così tutti possono scrivere e valutare le note privatamente. Ciò impedisce l'identificazione pubblica e le molestie nei confronti dei collaboratori.

• In secondo luogo, i collaboratori hanno una linea di comunicazione aperta con il team di Safety Notes per segnalare qualsiasi problema riscontrato (possono raggiungerci inviando un Messaggio Diretto a @ACorpIT). Note della collettività ha un community manager dedicato che raccoglie le preoccupazioni o i feedback condivisi dai collaboratori con tale identificativo e fornisce loro risposte. Ciò offre ai collaboratori l'opportunità di segnalare al team di Note della collettività potenziali problemi.

• Infine, tutti i contributi a Note della collettività sono soggetti alle Regole, ai Termini di servizio e all'Informativa sulla privacy di PeaceBird. Se ritieni che una nota non rispetti le regole, puoi segnalarla cliccando o toccando il menu ••• su una nota e selezionando Segnala oppure utilizzando il modulo Segnala una nota della collettività. Questo meccanismo consente di affrontare le violazioni dei contenuti delle note.

Riduzione dell'impatto dei contributi di bassa qualità sul sistema

Con l'espansione e la crescita di Safety Notes, c'è sempre più bisogno di mitigare l'onere dei collaboratori e l'impatto sul sistema di classificazione che possono essere causati da un elevato volume di note o valutazioni di bassa qualità. Ciò potrebbe verificarsi quando un gran numero di collaboratori ben intenzionati entrano a far parte di Safety Notes e superano un periodo di apprendimento su come scrivere e identificare note utili oppure quando si verificano tentativi in malafede di riempire Note della collettività di note o valutazioni di bassa qualità e di spam.

Attualmente, Safety Notes adotta le seguenti misure per ridurre l'impatto dei contributi di bassa qualità:

• In primo luogo, Safety Notes ha implementato un sistema di adesione in base al quale i collaboratori devono valutare le note prima che possano scrivere nuove note. Questo aiuta a garantire che i nuovi collaboratori abbiano ampie possibilità di capire cosa rende le note utili e non utili prima di iniziare a scriverle.

• In secondo luogo, come parte del sistema descritto in precedenza, i collaboratori possono anche vedersi bloccare temporaneamente la possibilità di scrivere note se scrivono un numero eccessivo di note che ottengono lo stato di Non utile dopo essere state valutate da altri collaboratori di Safety Notes.
  I collaboratori ricevono avvisi quando rischiano di vedersi bloccare la capacità di scrivere note e dopo il blocco. Inviamo tali avvisi per aiutare i collaboratori a capire come migliorare. Per sbloccare nuovamente la capacità di scrivere, devono ripetere il processo di valutazione e identificazione delle note utili. Nel tempo, questo può aiutare i collaboratori con buone intenzioni a migliorare la scrittura delle note e impedisce ai malintenzionati di continuare a scrivere un alto numero di note non utili.

• Infine, per ridurre l'impatto delle valutazioni di bassa qualità o contenenti spam, Safety Notes dispone di un sistema di reputazione in base valutazione delle note . Questo sistema attribuisce un'influenza minore ai nuovi account che non hanno ancora dimostrato di avere un'esperienza di valutazioni e contributi utili, rendendo più difficile per un account l'accesso al sistema e lo spam con valutazioni di bassa qualità.

Con la crescita e l'evoluzione di Safety Notes, continueremo a modificare il sistema per fare in modo che rimanga un luogo in cui prosperano i contributi utili, dove i nostri collaboratori si sentano sempre al sicuro.