Yhdysvaltalainen mielenterveyspalvelu CTL lopettaa tietojen jakamisen Lorisin kanssa. Aiemmin Loric.ai on käyttänyt Crisis Text Linen (CTL) anonyymejä tietoja tekoälyjärjestelmien kehittämiseen. Datanjakosuhteen päätavoitteena oli auttaa asiakaspalvelijoita ymmärtämään chateissa esiintyviä tunteita.
Hiljattain yksi CTL:n hallituksen jäsenistä twiittasi, että he olivat olleet “väärässä” suostuessaan suhteeseen.” Helpline mainitsi myös, että he haluavat kuunnella yhteisönsä huolia. CTL:n varapuheenjohtaja Shawn Rodriguez sanoi: “Loris ei ole päässyt käsiksi mihinkään tietoihin vuoden 2020 alun jälkeen.”
Aiemmin Lorisin edustaja sanoi, että “tekoälykäyttöinen chat-ratkaisu auttoi asiakaspalvelijoita ymmärtämään asiakkaan tunteita ja laatimaan dynaamisesti tehokkaita vastauksia asiakkaan sävyn perusteella“. Loris selitti myös, “tulevat erittäin arvostetusta Crisis Text Line -palvelusta, jossa kyky käsitellä vaikeimpia keskusteluja on kriittinen. Tekoälyn ytimenä on tämä lähes 200 miljoonan viestin analysoinnista saatu älykkyys“.
CTL:n mukaan kaikki jaetut tiedot on täysin anonymisoitu. He väittivät olevansa avoimia tietojen jakamisen suhteen käyttäjiensä kanssa. Se sanoi: “automaattisena automaattisena vastauksena jokaiseen Crisis Text Line -tekstiviestiin, jonka se saa ja johon kaikki tekstiviestin lähettäjät antavat suostumuksensa“.
Politico kuitenkin väitti, että tietoja käytettiin liiketoimintatarkoituksiin. Stanfordin yliopiston tekoälyinstituutin yksityisyydensuojaa ja datapolitiikkaa tutkiva tutkija sanoi: “Heillä voi olla laillinen suostumus, mutta onko heillä todellista, merkityksellistä, emotionaalista ja täysin ymmärrettyä suostumusta?”.
Niinpä CTL on nyt lopettanut tietojen jakamisen Se sanoi: “Kuulimme palautteenne siitä, että kaikkien kriisitilanteissa olevien pitäisi olla selvää ja helppoa ymmärtää, mihin he antavat suostumuksensa, kun he pyytävät apua.“