Itsemurhia ja Facebook AI
Sisällysluettelo:
Kun henkilö kuolee itsemurhan takia, heidän elämässään usein ihmetellään, mitä he voisivat tehdä estääkseen sen.
Sosiaalisen median käyttäjät saattavat jopa pahoitella, että henkilö on lähettänyt jotain huolestuttavaa, mutta ei tehnyt mitään siitä.
MainosMainosYritettäessä auttaa Facebook on ilmoittanut laajentavansa keinotekoisen älykkyyden (AI) työkalujaan selvittääkseen, milloin joku ilmaisee mielipiteitä itsemurhasta tai itsensä vahingoittamisesta sosiaalisen median verkkosivuilla.
Ennen tätä kuukautta Facebook käytti vain työkaluja joidenkin käyttäjien Yhdysvalloissa. Nyt se on käytettävissä useimmille sivuston 2 miljardin käyttäjille, paitsi Euroopan unionissa, jolla on tiukemmat yksityisyys- ja Internet-lait.
Facebookin toimitusjohtaja Mark Zuckerberg sanoo, että AI: n käyttö on myönteistä kehitystä.
MainosHän julkaisi äskettäin Facebook-aikataulussaan, että "AOL: n työkalut ovat auttaneet meitä lähinnä viime kuussa auttamaan meitä lähestyessä ensimmäisiä vastaajia nopeasti yli 100 kertaa. ”
Kuinka täsmällisesti työkalut tekevät?
MainosMainosFacebook ei paljasta perusteellisia yksityiskohtia, mutta näyttää siltä, että työkalu toimii kuvien läpi tai videoiden läpi ja merkitsemällä niitä, kun se herättää sanoja, videoita ja kuvia, jotka voivat osoittaa henkilön olevan vaarassa itsemurhia.
Facebook käyttää jo AI: tä samankaltaisessa asiassa skannata ja poistaa viestejä, jotka esittelevät lapsipornografiaa ja muuta epäilyttävää sisältöä.
Facebook-edustaja kertoi Healthlinea, että itsemurhien ehkäisyvälineet auttavat havaitsemaan sisältöä nopeammin. AI auttaa myös priorisoimaan raportit, mikä osoittaa, mitkä tapaukset ovat vakavampia.
Tämän jälkeen Facebookin yhteisöoperaatioryhmän koulutetut jäsenet tarkastelevat sisältöä ja määrittävät avun tyypin käyttäjälle.
Nämä jäsenet työskentelevät ympäri maailmaa ympäri vuorokauden ja tarkistavat molemmat raportit AI-työkaluista ja asianomaisilta Facebook-käyttäjiltä.
MainosMainosYksi tapa, jolla AI-työkalu havaitsee itsemurhan taipumukset, on kysyttäessä käyttäjiltä kysymyksiä, kuten "Oletko kunnossa? " "Voinko auttaa? "Ja" Tarvitsetko apua? "
Facebookin yhteisötoimintaryhmän tehtävänä on tarkastella sisältöä, joka on ilmoitettu olevan väkivaltainen tai huolestuttava.
Facebook ilmoitti toukokuussa lisäävänsä 3 000 työntekijää operaatioryhmään, jolla oli tuolloin 4 500 työntekijää.
MainosFacebookin tiedottajan mukaan tekniikka auttaa havaitsemaan sisältöä ja videoita, joita Facebookissa lähetetään usein usein nopeammin kuin ystävä tai perheenjäsenet voivat ilmoittaa aineistosta.
Kun nämä havaitaan, Facebook-käyttäjä on yhteydessä Facebook Live chat-tuki kriisin tukiorganisaatioiden kautta Messenger, ja pystyy keskustelemaan reaaliajassa.
MainosMainosItsemurhayritysten kannattajat aluksella
AI: n luomisessa itsemurhien ehkäisemiseksi Facebook toimii mielenterveysorganisaatioiden, kuten Savein kanssa. org, National Suicide Prevention Lifeline "1-800-273-TALK (8255)" ja Forefront Suicide Prevention.
Daniel J. Reidenberg, PsyD, Savein toimitusjohtaja. org, sanoo olevansa innoissaan siitä, että Facebook pyrkii edistämään itsemurhien ehkäisytoimia tavalla, jota ei ole vielä tehty.
"Jos katsomme viimeisten 50-60 vuoden aikana - puhumme lääkkeiden edistymisestä tai itsemurhien ja mielenterveyden hoitamisesta - emme ole nähneet vähennyksiä tai nähneet itsemurhien pudota näiden asioiden vuoksi, joten ajatus että ehkäpä teknologia voi auttaa, on paras mahdollisuus, jonka meillä on juuri nyt yrittää pelastaa ihmishenkiä ", Reidenberg kertoi Healthline.
MainosVaikka hän toteaa, että AI-välineet eivät ehkä ole täysin suunniteltuja ja saattavat olla vääriä positiivisia ihmisille, jotka ovat vaarassa, hän sanoo, että se on huippuluokkaa intervention itsemurhien ehkäisyyn, tehokkuutta.
"Ennen kuin AI saapui, oli vääriä positiivisia ihmisiä, jotka ilmoittivat asioita Facebookille, jotka ajattelivat, että ystävä voi olla itsemurha. AI vain nopeuttaa prosessia auttaakseen poistamaan joitakin näistä vääriin positiivisiin ja todella poistamaan niitä, jotka ovat todella vaarassa ", sanoi Reidenberg.
MainosMainosHän lisää, että ihmiset näyttävät itsemurhien suuntauksia sosiaalisessa mediassa ja että tämä ei ole hyvä tai huono asia.
"Sosiaalinen media on juuri siellä, missä ihmiset elävät elämäänsä tänään. Vuosia sitten he käyttivät sitä puistossa tai syksyllä tai kirjoitti muistiinpanoja toisilleen, ehkä jaettuina puhelimitse. Kun yhä useammat ihmiset elävät elämästään sosiaalisessa mediassa, he jakavat sekä onnellisia hetkiä että haasteita, joita he kohtaavat.
Muutos, hän lisää, sallii ihmisten tavoittaa satoja ja satoja ihmisiä kerrallaan.
Reidenberg sanoo, jos huomaat sosiaalisen median joku, joka voi olla masentunut tai itseuhan vaarassa, tavoittaa heille viestin, tekstin tai puhelun, jos olet läheisiä ystäviä. Facebook tarjoaa jopa valmiiksi asuttuja tekstejä helpottaakseen keskustelun aloittamista.
Jos et ole tyytyväinen tähän lähestymistapaan, Reidenberg ehdottaa raportointitoiminnon käyttämistä Facebookissa.
"Se on helppo ja nopea tapa tehdä. Teknologia ei voi tehdä yksin. Tarvitsemme ihmisiä, jotka ovat mukana. Ei tehdä jotain on pahin mahdollinen asia, joka voi tapahtua ", hän sanoi.
Entä yksityisyydensuoja?
Hyvän tarkoituksen lisäksi on vaikea olla ottamatta huomioon yksityisyyden hyökkäystä.
Charles Lee Mudd Jr., tietosuojavaltuutettu ja päämies Mudd Lawissa, sanoo, että Facebook-avainsanojen skannausta ei pidä pitää yksityisyyden loukkauksena, jos se on paljastettu ajoissa.
"Niin kauan kuin Facebook paljastaa, että se tarkastelee sisältöä, en näe mitään todellista yksityisyydensuojaa", Mudd kertoi Healthline. "On ymmärrettävä, että mikä tahansa julkaistu Internetissä missä tahansa, mukaan lukien sähköpostin kautta - yksityinen tai ei - tai sosiaalinen media, saattaa löytää tietä tahattomille vastaanottajille.Ainakin, jos Facebook kertoo meille, että sillä on robotteja, jotka lukevat postimme - tai ainakin hakusanoja tai lauseita - voimme mukauttaa käyttäytymistämme jos se on tarpeen. "
Vaikka laillisesti Facebook voi olla selvää, onko se eettisesti toimiva keskustelun aikana.
Keshav Malani, Powr of You -yrityksen perustaja, joka auttaa ihmisiä tekemään rahaa pois heidän digitaalisesta läsnäolostaan, sanoo riippumatta Facebookin aikomuksista. Jokaisen henkilön on voitava vapaasti päättää, miten heidän henkilötietojaan käytetään.
"Tai se on liukas kaltevuus siitä, mitä pidämme" hyvänä "vs." huonoa "käyttämämme henkilökohtaisia tietoja, joita jakamme Facebook-alustoilla. Myöskään aikomukset eivät riitä, koska tietojen ennakointi voi johtaa virheellisiin tai haitallisiin väitteisiin jopa vain perus historiallisesta korrelaatioanalyysistä ", Malani kertoi Healthline.
Hän lisää, että AI on vain yhtä hyvää kuin tiedot, jotka se saa syötteinä.
"Yksilöt, kuten Facebook yrittävät olettaa, että he tuntevat sinut tarpeeksi hyvin tekemään johtopäätöksiä hyvinvoistasi, olisi naitava. Facebook tai mikä tahansa muu mediapiste, joka kattaa vain pienen osan elämästämme ja usein maalaa kuvan, jonka haluamme jakaa, tekemällä johtopäätöksiä tällaisesta rajallisesta ja mahdollisesti puolueellisesta tietolähteestä olisi tehtävä äärimmäisen varovasti " hän sanoi.
Still, Reidenberg sanoo, että ihmiset eivät saa pelätä Facebooka AI: lla.
"Tämä ei ole Facebook stalking ihmisiä tai päästä ihmisten liiketoimintaan", hän sanoi. "Se käyttää teknologiaa ja ihmisiä yrittää pelastaa ihmisten elämää", hän sanoi. "Luota minuun, jos sinulla on rakastettu kriisissä, haluat, että kaikki on tehtävä heille, olitpa sitten hätäapua tai verkossa. "
Itse asiassa hän toivoo, että tekniikka voi puuttua kriisiin joutuneisiin ihmisiin.
"Kun joku on kriisissä, vaihtoehdot ja vaihtoehdot poistuvat niistä. Ne ovat hyvin keskittyneet siihen, mitä tapahtuu tällä hetkellä, eikä niillä ole tarvittavia välineitä saada ne läpi ", hän sanoi.
Aina kun tekniikka auttaa ihmisiä tarjoamaan enemmän vaihtoehtoja, Reidenberg sanoo, että he joutuvat kriisiin. Hän haluaisi nähdä, että tekniikka luo lisää tapoja tunnistaa vaarassa olevat ihmiset ennen kuin he ovat jopa vaarassa, kuten masennus.
Esimerkiksi hän sanoo, että jos me tiedämme, että kun meistä tulee enemmän masentuneita, että toimimme vuorovaikutuksessa vähemmän, eristämme enemmän, vetämme enemmän, saamme vähemmän energiaa ja puhumme ja kirjoitamme eri tavalla, sitten ohjelmointitekniikka havaitsemaan nämä muutokset voisi olla hyödyllistä.
"Oletetaan, että olet säännöllinen juliste Facebookissa, mutta sitten olet yhä masentuneempi elämässäsi ja aktiviteetti on hitaasti pudonnut. Sitten alkaa lähettää kuvia Instagramissa joku erittäin surullinen tai synkkä päivä ulkopuolella. Jos voimme saada teknologiaa pohtimaan, mitä sinulle tapahtuu elämässä käyttäytymisesi perusteella, voisimme aloittaa sinulle resurssien tai tuen ansiosta, ja ehkä voimme kääntää sen ", sanoi Reidenberg.
Zuckerberg jakautui samanlaiseen näkemykseen postissaan, viitaten tuleviin suunnitelmiin käyttää AI: ta muilla tavoilla.
"Meillä on paljon muuta, jotta voimme parantaa tätä entisestään", hän kirjoitti. "Tulevaisuudessa AI osaa ymmärtää enemmän hienovaraisia kielitaitoja ja pystyy tunnistamaan myös itsemurhasta pidättäytyviä asioita, mukaan lukien nopeammin havaittavissa olevan kiusaamisen ja vihamielisyyden. ”
