Gli articoli di notizie di Yahoo hanno molti commenti sgradevoli, proprio come il resto di Internet, quindi il team di Yahoo ha deciso di utilizzare la sezione dei commenti per sviluppare un algoritmo in grado di identificare con successo i peggiori trasgressori. Loro nuovo algoritmo di rilevamento degli abusi funziona il 90% delle volte, il che, secondo loro, lo rende più efficace dei tentativi di altre organizzazioni di intraprendere imprese simili e descritto come un importante passo avanti nel campo. 90 percento lo fa? suona abbastanza bene, lo ammetto.
Cablata riporta che Yahoo sta anche rilasciando il primo database curato disponibile pubblicamente di incitamento all'odio online come parte del loro progetto per combattere gli abusi. Ciò significa che altri siti potranno utilizzare il database dei commenti di Yahoo per progettare i propri algoritmi. L'algoritmo di Yahoo è stato sviluppato sulla base dell'apprendimento automatico e anche sui dati riportati dagli utenti sulle sezioni dei commenti.
La parte più difficile di qualsiasi algoritmo di moderazione dei commenti è gestire i falsi positivi. Molti algoritmi di rilevamento degli abusi cercano parole o frasi specifiche, come insulti o insulti comuni, e contrassegnano automaticamente i commenti per la moderazione. Tuttavia, ciò si traduce in commenti che vengono contrassegnati anche se fanno riferimento a un insulto nel contesto del dire che non è appropriato, ad esempio, o se il commento è un'imitazione sarcastica di un troll. Apparentemente l'algoritmo di Yahoo è in grado di rilevare determinati schemi vocali ed è progettato per essere in grado di distinguere tra il sarcasmo scherzoso e l'abuso effettivo. (Naturalmente, se il tuo commento esilarante è indistinguibile dall'abuso effettivo, allora sono abbastanza sicuro che l'algoritmo lo segnalerà ancora, ma non posso dire con certezza come funziona quella parte dell'intelligenza artificiale.)
Yahoo ha arruolato moderatori di commenti addestrati per aiutare a perfezionare l'algoritmo, e hanno anche pagato alcuni moderatori non addestrati, e hanno scoperto che i moderatori addestrati erano molto più bravi a capire quali commenti erano appropriati (una specie di gioco da ragazzi, ma ehi). Nel corso della creazione dell'IA, Yahoo ha scoperto che il lavoro di questi moderatori umani addestrati era essenziale per mantenere l'efficacia dell'algoritmo e perfezionare le sue tecniche di rilevamento.
Ovviamente, gli algoritmi hanno ancora dei pregiudizi , il che richiederebbe un team (si spera diversificato) di moderatori umani per continuare a ripetere le metodologie utilizzate per classificare i commenti. Sembra un lavoro duro, ma almeno Yahoo ora comprende l'importanza di formare e valutare i ruoli sia dei loro moderatori umani ben addestrati che del loro nuovo collega di intelligenza artificiale.
Jane Austen Saints riga 4
(attraverso Il prossimo Web , immagine via Michael Cordedda/Flickr )
