Facebook sanoo uuden A.I. teknologia voi havaita ”revenge porn” – TechCrunch


Perjantaina julkaistu Facebook julkaisi uuden keinotekoisen älykäs työkalun, jonka avulla sosiaalinen verkosto tunnistaa kosto-pornon – ei-henkisesti jaetut intiimikuvat, jotka verkossa julkaistuna voivat aiheuttaa tuhoisia seurauksia niille, jotka näkyvät valokuvissa. Teknologia hyödyntää molempia A.I. ja koneen oppimisen tekniikat havaitsemaan aktiivisesti lähellä nude-kuvia tai videoita, jotka jaetaan ilman lupaa Facebookissa ja Instagramissa.

Ilmoitus perustuu Facebookin aikaisempaan valokuvien yhteensovittamistekniikkaan, jossa ihmiset lähettivät suoraan intiimi valokuvia ja videoita Facebookiin. Ohjelma, joka toteutettiin yhteistyössä uhrien edustajaorganisaatioiden kanssa, luo sitten digitaalisen sormenjäljen tästä kuvasta, jotta Facebook voisi estää sen jakamasta verkossa verkossa. Tämä on samanlainen kuin se, miten yritykset estävät lasten hyväksikäytön kuvien lähettämisen sivustoilleen.

Uusi A.I. Teknologia kosto-pornolle ei kuitenkaan vaadi uhrin osallistumista. Tämä on tärkeää, Facebook selittää, koska uhrit pelkäävät joskus liian ankarasti kertomaan sisällöstä itse. Muina aikoina he eivät yksinkertaisesti tiedä, että valokuvia tai videoita on jaettu.

Yrityksellä oli vähän tietoa siitä, miten uusi järjestelmä itse toimii, mutta totesi, että se ylittää yksinkertaisesti "alastomuuden havaitsemisen".

Kun järjestelmä on merkinnyt kuvan tai videon, Facebookin yhteisöoperaatioiden tiimi koulutettu jäsen tarkistaa kuvan ja poistaa sen, jos se rikkoo Facebookin yhteisön standardeja. Useimmissa tapauksissa yhtiö myös poistaa tilin käytöstä. Muutoksenhaku on käytettävissä, jos henkilö uskoo, että Facebook on tehnyt virheen.

Teknologian ja olemassa olevan pilottiohjelman lisäksi Facebook sanoo myös, että se arvioi, miten sen muita kostotyyppiä koskevaa raportointia koskevia menettelyjä voitaisiin parantaa. Se havaitsi esimerkiksi, että uhrit halusivat nopeampia vastauksia raporttiensa jälkeen ja he eivät halunneet robotti-vastausta. Muut uhrit eivät tienneet käyttämään raportointivälineitä tai edes sitä, että ne olivat olemassa.

Facebook totesi, että kosto-pornon käsitteleminen on kriittinen, koska se voi johtaa mielenterveyden seurauksiin, kuten ahdistuneisuuteen, masennukseen, itsemurha-ajatuksiin ja joskus jopa PTSD: hen. Ammattimaisia ​​seurauksia voi olla, kuten työpaikkojen menettäminen ja vahingoittuneet suhteet kollegoihin. Lisäksi perinteisemmissä yhteisöissä ympäri maailmaa olevat henkilöt voivat joutua siepatuksi tai pakolaisiksi, vainoiksi tai jopa fyysisesti vahingoittuneiksi.

Facebook myöntää, että se ei löytänyt tapaa "tunnustaa uhrien kärsimä trauma", kun vastataan heidän raportteihinsa. Siinä kerrotaan, että se arvioi uudelleen raportointivälineet ja -prosessin varmistaakseen, että ne ovat "suoraviivaisempia, selkeämpiä ja empatisia".

Se käynnistää myös "Not Without My Consent" -ohjelmaa Facebookin turvallisuuskeskuksessa, joka on kehitetty yhteistyössä asiantuntijoiden kanssa. Keskitin tarjoaa uhreille pääsyn organisaatioihin ja resursseihin, jotka voivat tukea niitä, ja se kertoo yksityiskohtaisesti, miten sisältöä voidaan raportoida Facebookiin.

Tulevina kuukausina Facebook sanoo, että se rakentaa myös uhrien tukivälineitä paikallisella ja kulttuurisesti tärkeämmällä informaatiolla yhteistyössä kumppaneiden kanssa, kuten Revenge Porn Helpline (UK), Cyber ​​Civil Rights Initiative (USA), Digital Rights Foundation (Pakistan), SaferNet (Brasilia) ja professori Lee Ji-yeon (Etelä-Korea).

Revenge porn on yksi monista asioista, jotka johtuvat siitä, että maailmalle tarjotaan julkinen jakamisfoorumi. Facebook on nyt alkamassa omistaa jopa sosiaalisen median epäonnistumisia monilla rintamilla – jotka sisältävät myös asioita, kuten tietosuojarikkomuksia, väärän tiedon leviämistä ja online-häirintää ja väärinkäyttöä.

Toimitusjohtaja Mark Zuckerberg ilmoitti hiljattain yksityisyyden kääntymisestä, jossa Facebookin tuotteet yhdistetään salatuksi, yhteentoimivaksi, viestintäverkoksi – mutta siirto on ravistellut Facebookia sisäisesti ja aiheuttanut sen, että se menettää huipputodistuksia.

Vaikka muutokset ovat sopusoinnussa sen kanssa, mitä yleisö haluaa, monet ovat jo menettäneet luottamuksensa Facebookiin. Edison Research totesi ensimmäistä kertaa 10 vuoden aikana Facebookin käytön vähenemisen Yhdysvalloissa 67 prosentista 62 prosenttiin 12-vuotiaista ja sitä vanhemmista. Silti Facebook on edelleen massiivinen foorumi, jossa on yli 2 miljardia käyttäjää. Vaikka käyttäjät itse kieltäytyisivät Facebookista, se ei estä heitä tulemasta koskaan kärsimään kostotyypin pornosta tai muusta online-väärinkäytöstä, jos he käyttävät edelleen sosiaalista verkostoa.