ÖNgyilkosság és Facebook AI
Tartalomjegyzék:
Ha valaki öngyilkosság miatt hal meg, az életükben gyakran azt kérdezik, mit tehettek volna megakadályozni.
A közösségi médiatulajdonosok is sajnálhatják, hogy valami bajlást észlelnek a személy, de nem csinálnak semmit róla.
AdvertisementMarketingA Facebook megpróbálta segíteni, hogy kiterjeszti a mesterséges intelligencia (AI) eszközök használatát, hogy azonosítsa, ha valaki öngyilkossággal vagy önsérüléssel kapcsolatos gondolatait fejezi ki a szociális média weboldalán.
E hónap előtt a Facebook csak az Egyesült Államok egyes felhasználóinak eszközeit használta. Jelenleg a legtöbb 2 milliárd felhasználó számára elérhető, kivéve azokat, amelyek az Európai Unióban szigorúbb adatvédelmi és internetes törvényekkel rendelkeznek.
Mark Zuckerberg, a Facebook vezérigazgatója szerint ez az AI használata pozitív fejlemény.
ReklámNemrégiben jelentette be a Facebook idővonalát, hogy "Az elmúlt hónapban ezek az AI eszközök segítettek bennünket az első válaszadókkal gyorsan összekapcsolni több mint 100 alkalommal. „
Hogy pontosan ezt csinálják az eszközök?
AdvertisementMirdetésA Facebook nem részletezi a részletes részleteket, de úgy tűnik, hogy az eszköz a bejegyzések vagy videók átfedésén dolgozik, és megjelöli azokat, amikor felveszi a szavakat, videókat és képeket, amelyek egy adott személyt jelezhetnek az öngyilkosság veszélyével.
A Facebook már az AI-t hasonló módon használja az olyan lapok beolvasásához és eltávolításához, amelyek gyermekpornográfiát és más kifogásolható tartalmat mutatnak.
A Facebook képviselője elmondta az Egészségügyi Minisztériumnak, hogy az öngyilkosság-megelőző eszközök gyorsabban érzékelik a tartalmat. Az AI segítséget nyújt a jelentések rangsorolásához, jelezve, hogy mely esetek súlyosabbak.
Ezután a Facebook közösségi műveleti csapatának képzett tagjainak áttekintik a tartalmat és meghatározzák a felhasználó számára nyújtott segítség típusát.
Ezek a tagok éjjel-nappal dolgoznak a világon, és áttekintik mindkét jelentést az AI eszközeiről és az érintett Facebook felhasználókról.
AdvertisementAdvertisementAz AI eszköz egyik módja az öngyilkossági tendenciák felderítésének, ha olyan kérdéseket tesz fel a felhasználóknak, mint például: "Jól vagy? " "Segíthetek? "És" Segítségre van szüksége? "
A Facebook közösségi műveleti csoportjának feladata, hogy az erőszakos vagy zavaró tartalmat tekintse át.
Májusban a Facebook bejelentette, hogy 3 000 munkatársat fog hozzáadni a műveleti csoporthoz, amelynek akkoriban 4, 500 alkalmazottja volt.
ReklámA Facebook szóvivője szerint a technológia segít felismerni azokat a tartalmakat és videókat, amelyeket az emberek a Facebookon gyakran küldnek gyorsabban, mint egy barát vagy a családtagok jelenthetik az anyagot.
Ha ezeket észlelik, a Facebook felhasználó kapcsolatba kerül a Facebook Live chat támogatással a válságkezelő szervezetek között a Messenger segítségével, és képes valós időben beszélgetni.
AdvertisementAdvertisementAz öngyilkosság tudatosítói a fedélzeten
Az öngyilkosság megelőzésére szolgáló AI létrehozásakor a Facebook mentális egészségügyi szervezetekkel dolgozik, beleértve a Mentést is. org, National Suicide Prevention Lifeline "1-800-273-TALK (8255)" és a Forefront Suicide Prevention.
Daniel J. Reidenberg, PsyD, Save ügyvezető igazgatója. org, azt mondja, örömmel fogadja, hogy a Facebook lépéseket tesz, hogy elősegítse az öngyilkosság megelőzésére irányuló erőfeszítéseket olyan módon, amilyet még nem végeztek el.
"Ha az elmúlt 50 vagy 60 évre tekintünk - függetlenül attól, hogy a gyógyszeres kezelésről, az öngyilkosságról és a mentális egészségről van szó - nem láttunk csökkentést, vagy láttunk öngyilkosságot a dolgok miatt, úgyhogy az ötlet hogy talán a technológia segíthet abban, hogy a legjobb lehetőség, hogy megpróbáljunk életeket menteni "- mondta Reidenberg az Egészségügyi Minisztériumnak.
AdvertisementBár megjegyzi, hogy az AI eszközeit nem lehet teljesen megtervezni, és veszélyt jelentő emberek hamis adottságait hordozhatja, azt állítja, hogy ez az élenjáró beavatkozás az öngyilkosság megelőzésére, ami időbe telhet, hogy megértse hatékonyság.
"Mielőtt az AI jött volna, hamis pozitívumok voltak azoktól az emberektől, akik jelentést küldtek a Facebook-nak, akik azt hitték, hogy egy barát öngyilkosság lehet. Az AI csak felgyorsítja a folyamatot, hogy segítsen kiküszöbölni néhány ilyen hamis pozitívumot, és ténylegesen felveszi azokat, akik valóban veszélyben vannak "- mondta Reidenberg.
AdvertisementAdvertisementHozzátette, hogy az emberek az öngyilkossági tendenciák jeleit mutatják be a közösségi médiában, és ez sem jó, sem rossz.
"A szociális média az, ahol az emberek napjainkban élnek az életükön. Évekkel ezelőtt élték ki a parkban, vagy üresen, vagy egymásnak írták meg jegyzeteiket, talán megosztottak a telefonon. Ahogy egyre többen élnek az életükben a közösségi médiában, megosztják mind a boldog pillanatokat, mind a kihívásokat, amiket szembesülnek "- mondta.
A változás, hozzáteszi, lehetővé teszi az emberek számára, hogy egyszerre több száz embert érjenek el.
Reidenberg azt mondja, ha valakit észlel a szociális médiában, akik depressziósak vagy az önhibájuk veszélyeztetetté válnak, ha közeli barátaikkal közelebb kerül hozzájuk egy üzenettel, szöveggel vagy telefonhívással. A Facebook még előtelepített szövegeket is kínál, hogy megkönnyítse a beszélgetést.
Ha nem érzi jól magát ezzel a megközelítéssel, a Reidenberg azt javasolja, hogy használja a jelentési funkciót a Facebookon.
"Ez könnyű és gyors feladat. A technológia ezt nem teheti egyedül. Szükségünk van az emberek bevonására. Ha nem csinál valamit, a legrosszabb lehetséges dolog, ami megtörténhet.
Mi a helyzet az adatvédelmi kérdésekkel?
A jó szándék mellett nehezen lehet figyelembe venni a magánéletet.
Charles Lee Mudd Jr., egy adatvédelmi ügyvéd és a Mudd Törvényszék vezetője szerint a Facebook szkennelése kulcsszavaknak nem minősül adatvédelmi jogsértésnek, ha korábban felfedezték.
"Mindaddig, amíg a Facebook nyilvánosságra hozza, hogy felülvizsgálja a tartalmat, nem látok valódi adatvédelmi aggályokat" - mondta Mudd az Egészségügyi Minisztériumnak. "Meg kell érteni, hogy bármi, amit az interneten bárhol közzé tesznek, beleértve az e-maileket - privát vagy nem - vagy a közösségi médiát, megtalálhatják az utat a nem szándékolt címzettekhez.Legalábbis, ha a Facebook lehetővé teszi számunkra, hogy olyan robotok vannak, amelyek elolvassák a levelünket - vagy legalábbis kulcsszavakat vagy kifejezéseket keresnek - beállíthatja magatartásunkat, ha erre szükség lenne. "
Miközben jogilag a Facebook is tisztában van, akár etikusan cselekszik vitába.
Keshav Malani, a Powr of You társalapítója, egy olyan cég, amely segít az embereknek pénzt keresni a digitális jelenlétükből, szerint a Facebook szándékaitól függetlenül mindenki szabadon dönthet arról, hogyan használják fel személyes adataikat.
"Máskülönben ez egy csúszós lejtés a" jó "és" rossz "felhasználás által a Facebookon keresztül megosztott személyes információkkal szemben. Továbbá a szándékok nem elegendőek, mert az adatokban elfoglalt adatok érvénytelen vagy káros kérdéseket eredményezhetnek akár csak alapvető történelmi korrelációs elemzéssel kapcsolatban. "- mondta Malani az Egészségügyi Minisztériumnak.
Hozzáteszi, hogy az AI csak annyira jó, mint a bemenetként kapott adatok.
"Az egyes platformok, mint például a Facebook megpróbálják feltételezni, hogy elég jól ismerik Önt ahhoz, hogy következtetéseket vonhassanak le jólétéről, naiv lenne. A Facebook vagy bármely más médiatár, csak az életünk egy kis részét fedezik fel, és gyakran festenek egy képet, amelyet megosztani akarunk, ezért az ilyen korlátozott és esetleg elfogult adatforrásokból levont következtetések levonása rendkívüli óvatossággal történjen. " ő mondta.
Mégis, Reidenberg szerint az emberek nem szabad félni a Facebooktól az AI használatával.
"Ez nem Facebook embereket követel, vagy bejut az emberek üzletébe" - mondta. "A technológia és az emberek használják, hogy megpróbálják megmenteni az emberek életét" - mondta. "Bízz bennem, ha szeretted van egy válságban, akkor mindent meg kell tenni nekik, akár sürgősségi szobában vagy online. "
Valójában reméli, hogy több technológia képes beavatkozni a válságos emberekbe.
"Amikor valaki válságban van, a lehetőségek és alternatívák elmenekülnek tőlük. Nagyon összpontosítanak arra, hogy mi történik ebben a pillanatban, és nem rendelkeznek a szükséges eszközökkel ahhoz, hogy átvehessék őket.
A technológia bármikor segíthet az embereknek több lehetőséget adni, Reidenberg azt mondja, annál kevésbé fog válni. Szeretné, ha a technológia több módot teremtene a veszélyeztetett emberek azonosítására, mielőtt még veszélybe kerülne, mondjuk, a depresszió.
Például azt mondja, hogy ha tudjuk, hogy amikor egyre kevésbé leszünk depressziósak, kevésbé kölcsönhatásba lépünk, többet izolálunk, visszavonulunk, kevésbé energiával, mással beszélgetünk és írunk, akkor a programozási technológia hasznos lehet ezeknek a változásoknak a megfigyeléséhez.
"Tegyük fel, hogy a rendszeres poszter a Facebookon, de az életedben egyre depressziósabb lesz, és tevékenységed lassan leesik. Ezután elkezdesz beilleszteni képeket Instagram-on valakinek, aki nagyon szomorú vagy egy komor napot kívülről. Ha képesek vagyunk arra, hogy felmérjék, mi történik veled az életedben az online viselkedésed alapján, kezdhetnénk olyan dolgokat adni neked, mint az erőforrások vagy a támogatások, és talán meg tudjuk fordítani. "- mondta Reidenberg.
Zuckerberg ugyanazt a hangot osztotta a posztján, utalva a jövőbeli tervekre az AI használatára más módon.
"Sokkal többet tehetünk, hogy tovább javítsuk ezt" - írta. "A jövőben az AI képes lesz megérteni a nyelv finomabb árnyalatait, és képes lesz azonosítani az öngyilkosságot követő különféle kérdéseket, beleértve a többféle zaklatást és gyűlöletet. „
