Grammarly rimuove la funzionalità AI che utilizzava identità di autori reali e affronta un’azione legale collettiva

Grammarly ha ritirato la sua funzionalità di revisione degli esperti basata sull’intelligenza artificiale dopo essere stata chiamato per l’utilizzo identità di giornalisti e autori senza permesso. Il software program di assistente alla scrittura si trova ora advert affrontare un problema azione legale collettiva accusandolo di sfruttare i nomi degli scrittori per il proprio profitto.

Lanciato insieme advert altri sette agenti AI lo scorso agosto, Knowledgeable Assessment period disponibile sui piani Gratuito e Professional da $ 12 di Grammarly al momento del lancio ed è stato promosso per fornire agli utenti suggestions sul contenuto dei loro scritti. Una pagina sul sito internet di Grammarly, che da allora è stata rimossa, affermava che Knowledgeable Assessment “[drew] sugli approfondimenti di esperti in materia e pubblicazioni attendibili” e ha fornito suggestions generati dall’intelligenza artificiale “sulla base di contenuti di esperti disponibili al pubblico” (tramite Wayback Machine). Gli utenti potevano anche personalizzare le fonti “esperte” da cui Grammarly attingeva selezionando i nomi di autori specifici.

“L’agente di revisione esperta offre competenza in materia e suggestions personalizzato e specifico per argomento per elevare la scrittura che soddisfa rigorosi commonplace accademici o professionali su misura per il campo dell’utente,” Grammarly ha scritto nel suo post sul blog annunciando la funzionalità.

La Knowledgeable Assessment di Grammarly ha attirato l’attenzione la settimana scorsa Lo ha riferito Wired che la funzionalità offriva modifiche generate dall’intelligenza artificiale in nome di veri scrittori e accademici, sia vivi che morti. La guida per l’utente dello strumento fornisce la dichiarazione di non responsabilità che i suoi riferimenti agli esperti “sono solo a scopo informativo e non indicano alcuna affiliazione con Grammarly o approvazione da parte di tali individui o entità”. Tuttavia, la stessa pagina afferma anche che Knowledgeable Assessment offre “approfondimenti da parte di importanti professionisti, autori ed esperti in materia”.

Molti hanno affermato che gli esperti in materia non hanno accolto di buon occhio il fatto che Grammarly utilizzi la loro identità a loro insaputa o senza il loro consenso.

“[Grammarly] ha curato un elenco di persone reali, ha dato libero sfogo ai suoi modelli per dare allucinazioni consigli apparentemente plausibili per loro conto, e ha messo tutto dietro un abbonamento,” ha scritto il fondatore di Platformer Casey Newton, che era tra quelli invocati da Grammarly. È una scelta deliberata quella di monetizzare le identità di persone reali senza coinvolgerle, e fa schifo.”

“Dev’essere una specie di diffamazione o qualcosa del genere” lo storico Mar Hicks ha pubblicato su Bluesky, aver condiviso uno screenshot della propria identità incluso nella revisione degli esperti. “Non puoi semplicemente rubare l’IP delle persone e poi far finta che stiano dicendo qualcosa che non hanno mai detto.”

Grammarly risponde al contraccolpo della revisione degli esperti

In risposta al contraccolpo, Grammarly ha detto lunedì a Platformer che avrebbe consentito agli scrittori di inviare loro un’e-mail per rinunciare all’inclusione nella sua funzione di revisione degli esperti. Ciò ha suscitato ulteriori critiche, poiché agli esperti non è stato detto che Grammarly stava usando la loro identità, né gli avevano concesso il permesso in primo luogo. Gli autori interessati non saprebbero di dover rinunciare a meno che un utente di Grammarly non vedesse il loro nome mentre utilizzava Knowledgeable Assessment e non li informasse.

Inoltre, fornire la possibilità di rinunciare non ha affrontato l’uso da parte di Grammarly delle identità degli autori morti. Secondo quanto riferito, gli scrittori deceduti utilizzati da Knowledgeable Assessment includevano l’astronomo Carl Sagan e i campanelli accademici intersezionali.

“Così Grammerly [sic] sta violando la memoria dei bell hooks E creando versioni IA di tutti noi prima ancora che siamo morti,” ha scritto la ricercatrice Sarah J. Jackson. “Qualcuno mi dica a chi fare causa, neanche per scherzo.”

Shishir Mehrotra, CEO dello sviluppatore Grammarly Superhuman, ha successivamente annunciato mercoledì che avrebbe messo offline Knowledgeable Assessment. Tuttavia, ha anche indicato che la società intende eventualmente ripristinarlo in qualche forma.

“La scorsa settimana abbiamo ricevuto suggestions critici validi da parte di esperti preoccupati che l’agente abbia travisato le loro voci”, Mehrotra ha pubblicato su LinkedIn. “Come contesto, l’agente è stato progettato per aiutare gli utenti a scoprire prospettive influenti e conoscenze rilevanti per il loro lavoro, fornendo allo stesso tempo modi significativi agli esperti per costruire relazioni più profonde con i loro fan. Ascoltiamo il suggestions e riconosciamo di non essere stati all’altezza. Voglio scusarmi e riconoscere che riconsidereremo il nostro approccio in futuro.

“Dopo un’attenta considerazione, abbiamo deciso di disabilitare la revisione degli esperti mentre reinventiamo la funzionalità per renderla più utile per gli utenti, dando allo stesso tempo agli esperti il ​​controllo reale su come vogliono essere rappresentati – o non rappresentati affatto.”

“Il fatto che ciò sia esistito in primo luogo suggerisce una totale disconnessione dalla normale società umana”, Lo scrittore sul clima Ketan Joshi ha risposto al post di Mehrotra. “Avrebbe dovuto essere immediatamente ovvio che si trattava di sfruttamento, inquietante e crudele.”

“Con tutti i discorsi su come l’intelligenza artificiale ‘costruisce da’ (leggi: ‘ruba’) contenuti esistenti, creando uno strumento che in realtà costituisce ‘consigli’ di persone reali che passano la vita a preoccuparsi della scrittura e dell’esperienza… è difficile da capire,” ha scritto Dan Saltzstein del New York Times. “Ci dovrebbero essere delle conseguenze a questo riguardo oltre al ‘stiamo rivalutando.’ La promessa di non fare mai più nulla del genere, come minimo.”

Un’azione legale collettiva accusa Grammarly di utilizzare l’identità degli scrittori senza consenso

Anche se al momento Grammarly non ha preso story impegno, sta già affrontando ripercussioni per le sue azioni che vanno oltre il danno alla reputazione. La scrittrice del New York Instances Julia Angwin ha presentato istanza un’azione legale collettiva contro Superhuman mercoledì, dopo aver scoperto che Grammarly’s Knowledgeable Assessment aveva usato la sua identità senza il suo consenso. Lo studio legale che la rappresenta, Peter Romer-Friedman Legislation PLLC, ha lanciato un appello a tutti gli scrittori coinvolti affinché si uniscano all’azione collettiva.

Sebbene non sia chiaro esattamente quante identità di scrittori siano state presumibilmente applicable indebitamente, potrebbe trattarsi di un gruppo considerevole. Guardando solo i giornalisti tecnologici, Lo riporta The Verge quella Knowledgeable Assessment ha nominato diversi membri del suo employees editoriale, nonché scrittori di Wired, Bloomberg, The New York Instances, The Atlantic, PC Gamer, Gizmodo, Digital Foundry, Tom’s Information e i siti gemelli di Mashable IGN e Rock Paper Shotgun. Angwin lo ha affermato “molta gente” hanno già fatto domande in merito unirsi alla causa.

“Sto intraprendendo questa azione non solo per conto mio, ma per tutti coloro che hanno trascorso anni e decenni advert affinare le proprie capacità di scrittore ed editore, solo per trovare un’intelligenza artificiale che li impersona,” Angwin ha scritto in un post su LinkedIn.

“Per oltre 100 anni, la legge di New York ha proibito alle aziende di utilizzare il nome di una persona per scopi commerciali senza il suo consenso”, ha affermato Peter Romer-Friedman di Peter Romer-Friedman Legislation PLLC. “La legge non prevede un’eccezione per le aziende tecnologiche o l’intelligenza artificiale.”

Presentata presso un tribunale distrettuale di New York, l’azione collettiva chiede danni e un’ingiunzione per impedire a Grammarly di utilizzare le identità degli scrittori senza il loro consenso.

Mashable ha contattato Superhuman per un commento.