Facebookin ihmisen ja AI: n sekoitus äänen transkriptioon on nyt Euroopassa tietosuojavalvonnassa – TechCrunch


Facebookin johtava tietosuojavalvontaviranomainen Euroopassa kysyy nyt yritykseltä yksityiskohtaisia ​​tietoja ääni-teksti -ominaisuuden toiminnasta Facebookin Messengerissä sovellus ja miten se on EU: n lainsäädännön mukainen.

Eilen Bloomberg kertoi, että Facebook käyttää ihmisen urakoitsijoita sovellusten käyttäjien ääniviestien transkriboimiseen – sen tietosuojakäytännössä ei kuitenkaan mainita selvästi sitä tosiasiaa, että ihmiset saattavat kuunnella tallenteitasi.

Facebookin ohjekeskuksen sivulla on myös ”muistiinpano”, joka sanoo ”Voice to Text käyttää koneoppimista” – mutta ei sano, että ominaisuutta käyttävät myös Facebookin kuuntelemiseen osallistuvat ihmiset.

Irlannin tietosuojakomission tiedottaja kertoi meille: "Jatkuvan sitoutumisenamme Googlen kanssa, Apple ja Microsoft koskevat henkilötietojen käsittelyä äänitallenteiden manuaalisen kopioinnin yhteydessä. Etsimme nyt Facebookilta yksityiskohtaista tietoa kyseisestä käsittelystä ja kuinka Facebook uskoo, että tällainen tietojenkäsittely on heidän GDPR-velvoitteidensa mukainen .”

Bloombergin raportti seuraa samankaltaisia ​​paljastuksia muiden tekniikan jättiläisten, kuten Applen, Amazonin, Googlen ja Microsoftin, tarjoamista AI-avustetustekniikoista – jotka ovat viime viikkoina herättäneet myös Euroopan yksityisyyden suojaa säätelevien viranomaisten huomioita.

Tämä kertoo meille, että AI-äänesavustajien hype on vielä kiilto paljon vähemmän huipputeknologian taustalla. Jopa kun koneoppimismarkkinoinnin guff-sidoksia on käytetty peittämään 'mekaaniset turkki' -komponentit (ts. Ihmiset), joita tekniikka tarvitsee väittämien täyttämiseksi.

Tämä on todella vanha tarina. Älykkäät: Täysi vuosikymmen sitten Yhdistyneen kuningaskunnan Spinvox-nimisen startupin, jonka väitettiin olevan kehittyneellä äänentunnistustekniikalla ääniviestien muuntamiseen tekstiviesteiksi, ilmoitettiin olevan nojaten erittäin voimakkaasti Etelä-Afrikan ja Filippiinien puhelinkeskuksiin…, joiden henkilökunta on jep.

Palattuaan nykyaikaiseen "huipputeknologiaan", Bloombergin raportin seurauksena Facebook sanoi, että se keskeytti ihmisten transkriptiot aikaisemmin tässä kuussa – liittymällä Appleen ja Google lopettamalla äänipiirrosten manuaaliset arvostelut heidän vastaavien äänentoistopisteidensä suhteen. (Amazon on sittemmin lisännyt luopumisen Alexa-sovelluksen asetuksiin.)

Kysyimme Facebookilta, missä Messenger-sovelluksessa se oli ilmoittanut käyttäjille, että ihmisten urakoitsijoita saatetaan käyttää puhekeskustelujensa / ääniviestiensä kirjoittamiseen; ja kuinka se keräsi Messenger-käyttäjien suostumuksen tähän tietojenkäsittelymuotoon – ennen ihmisten arvostelujen keskeyttämistä.

Yhtiö ei vastannut kysymyksiimme. Sen sijaan tiedottaja antoi meille seuraavan lausunnon: “Kuten Apple ja Google, keskeytimme ihmisten äänitarkistuksen yli viikko sitten. "

Facebook kuvaili myös urakataiheita, jotka se oli lähettänyt urakoitsijoille peitettyinä ja tunnistamattomina; kertoi, että ne kerättiin vasta, kun käyttäjät olivat valinneet transkription Messengerissä; ja niitä käytettiin vain AI: n transkription suorituskyvyn parantamiseen.

Se toisti myös yrityksen jo pitkään esittämän vastalauseen käyttäjien huolenaiheista Facebookin yleisestä salakuuntelusta sanomalla, että se ei koskaan kuuntele ihmisten mikrofoneja ilman laitteen lupaa tai ilman käyttäjien nimenomaista aktivointia.

Kuitenkin kuinka Facebook kerää luvan tietojen käsittelyyn, on avainkysymys.

Yhtiö on viime aikoina esimerkiksi käyttänyt manipulatiivista suostumusta virratakseen käyttäjiä Euroopassa siirtymään kasvojentunnistustekniikkaan – palauttamalla aikaisempaa kantaansa, joka on annettu vastauksena aikaisempaan sääntelyyn, että tekniikka on kytketty pois kokonaan.

Joten paljon riippuu siitä, kuinka tarkalleen Facebook on kuvannut tietojenkäsittelyn missä tahansa vaiheessa, jossa se pyytää käyttäjiä suostumaan heidän ääniviestiensä tarkistamiseen ihmisissä (olettaen, että se luottaa suostumukseen näiden tietojen käsittelyn oikeusperustana).

Suostumuksen niputtaminen yleisiin tuote- ja käyttöehtoihin tuotteen käyttämiseksi ei todennäköisesti myöskään ole EU: n yksityisyydensuojalakien mukaista, koska ryhmän yleinen tietosuoja-asetus edellyttää, että suostumuksen on oltava tarkoitukseltaan rajoitettu, samoin kuin täysin tietoinen ja vapaasti annettava.

Jos Facebook luottaa oikeutettuihin etuihin Messenger-käyttäjien äänikatkelmien käsittelemiseksi parantaakseen AI: n suorituskykyä, sen on tasapainotettava omat etunsa ihmisten yksityisyyteen kohdistuvien riskien kanssa.

Ääniohjaimet ovat tässä suhteessa erityisen ongelmallisia, koska äänitallenteet voivat myös tallentaa muiden kuin käyttäjien henkilökohtaisia ​​tietoja – ottaen huomioon, että laitteen lähellä olevat ihmiset (tai todellakin puhelinlinjan toisessa päässä oleva henkilö, joka jättää sinulle viestin) olisi voinut saada heidän henkilötietonsa vangiksi ilman, että heillä olisi koskaan ollut mahdollisuutta antaa suostumustaan ​​siihen, että Facebook-urakoitsijat saavat sen kuulla.

Google Assistant -katkelmien vuotaminen Belgian lehdistölle korosti äskettäin sekä nauhoitusten arkaluonteisuutta että tällaisten nauhoitusten aiheuttamaa uudelleen tunnistamisriskiä – toimittajien avulla pystytään tunnistamaan joitain tallenteissa olevia ihmisiä.

Useat lehdistöraportit ovat myös ehdottaneet tekniikan jättiläisten palkkaamia urakoitsijoita rutiininomaisesti yli-kuulemaan intiimejä yksityiskohtia, jotka on kaapattu tuotevalikoimalla, joka sisältää kyvyn nauhoittaa ääntä ja suoratoistaa nämä henkilötiedot pilveen käsittelyä varten.