Suicídio e Facebook AI

Quando uma pessoa morre por suicídio, aqueles em sua vida muitas vezes se perguntam o que poderiam ter feito para preveni-lo.

Os usuários de redes sociais podem até se arrepender de ver algo preocupante publicado pela pessoa, mas não fazendo nada sobre isso.

Advertisement Publicidade

Em uma tentativa de ajudar, o Facebook anunciou que está expandindo seu uso de ferramentas de inteligência artificial (IA) para identificar quando alguém está expressando pensamentos sobre suicídio ou auto-lesão no site de redes sociais.

Antes deste mês, o Facebook só usava as ferramentas em alguns usuários nos Estados Unidos. Agora, está disponível para a maioria dos 2 bilhões de usuários do site, exceto aqueles na União Européia, que tem leis de privacidade e internet mais rígidas.

Mark Zuckerberg, diretor executivo do Facebook, diz que esse uso de AI é um desenvolvimento positivo.

Anúncio

Ele postou recentemente em sua linha de tempo do Facebook que, "No último mês sozinho, essas ferramentas de AI nos ajudaram a conectar-se com os primeiros respondentes rapidamente mais de 100 vezes. "

Como exatamente as ferramentas fazem isso?

Publicidade Publicidade

O Facebook não está revelando detalhes detalhados, mas parece que a ferramenta funciona através de mensagens ou vídeos e marcando-os quando ele pega palavras, vídeos e imagens que podem indicar que uma pessoa é em risco de suicídio.

O Facebook já usa a AI em um assunto semelhante para verificar e remover postagens que apresentam pornografia infantil e outros conteúdos censuráveis.

Um representante do Facebook disse à Healthline que as ferramentas de prevenção do suicídio ajudam a detectar o conteúdo mais rapidamente. A AI também ajuda a priorizar os relatórios, indicando quais casos são mais serioius.

Em seguida, membros treinados da equipe de operações da comunidade do Facebook avaliam o conteúdo e determinam o tipo de ajuda a fornecer ao usuário.

Estes membros trabalham em todo o mundo, 24 horas por dia, e analisam os relatórios das ferramentas da AI e dos usuários interessados do Facebook.

Publicidade Publicidade

Uma maneira pela qual a ferramenta AI detecta tendências suicidas é alertando usuários com perguntas como, "Você está OK? " "Posso ajudar? "E" Você precisa de ajuda? "

O time de operações da comunidade do Facebook é encarregado de revisar o conteúdo relatado como violento ou preocupante.

Em maio, o Facebook anunciou que acrescentaria mais 3 000 trabalhadores à equipe de operações, que tinha 4 500 funcionários na época.

De acordo com o porta-voz do Facebook, a tecnologia ajuda a detectar o conteúdo e os vídeos que as pessoas publicam no Facebook muitas vezes mais rápido do que um amigo ou familiares podem denunciar o material.

Quando estes são detectados, o usuário do Facebook é posto em contato com o suporte do Facebook Live chat de organizações de apoio a crises através do Messenger e capaz de conversar em tempo real.

Publicidade Publicidade

Advogados de conscientização do suicídio a bordo

Na criação de AI para a prevenção do suicídio, o Facebook trabalha com organizações de saúde mental, incluindo Save. org, National Lifecurity Lifeline "1-800-273-TALK (8255)" e Prefront Suicide Prevention.

Daniel J. Reidenberg, PsyD, diretor executivo da Save. org, diz que ele está emocionado de que o Facebook esteja dando passos para ajudar a avançar os esforços de prevenção de suicídios de maneiras que não foram feitas antes.

"Se olhamos nos últimos 50 ou 60 anos - se você está falando sobre avanços em medicamentos ou tratamento para suicídio e saúde mental - não vimos reduções ou visto queda de suicídio por causa dessas coisas, então a idéia que talvez a tecnologia possa ajudar seja a melhor oportunidade que temos agora para tentar salvar vidas ", disse Reidenberg à Healthline.

Embora ele note que as ferramentas da AI podem não ser totalmente projetadas e podem apresentar falsos positivos de pessoas em risco, ele diz que é uma intervenção de ponta para a prevenção do suicídio que pode levar tempo para entender a sua eficácia.

"Antes da IA surgir, havia falsos positivos de pessoas que relatavam coisas para o Facebook que achavam que um amigo poderia ser suicida. A AI apenas está acelerando o processo para ajudar a eliminar alguns desses falsos positivos e realmente pegar aqueles que estão realmente em risco ", disse Reidenberg.

Advertisement Publicidade

Ele acrescenta que as pessoas mostram sinais de tendências suicidas nas mídias sociais e que isso não é uma coisa boa ou ruim.

"A mídia social é apenas onde as pessoas estão vivendo suas vidas hoje. Anos atrás, eles viveram no parque ou no recesso ou escreveram notas um para o outro, talvez compartilhadas por telefone. À medida que mais e mais pessoas vivem suas vidas nas mídias sociais, compartilham os momentos felizes e os desafios que enfrentam ", disse ele.

A mudança, ele acrescenta, permite que as pessoas atinjam centenas e centenas de pessoas por vez.

Reidenberg diz se você notou alguém nas mídias sociais que pode estar deprimido ou em risco de se auto-ferir, comunicá-los com uma mensagem, um texto ou uma ligação telefônica se você for amigo íntimo. O Facebook ainda oferece textos pré-populados para facilitar a conversação.

Se você não se sente confortável com essa abordagem, Reidenberg sugere usar a função de relatório no Facebook.

"É uma coisa fácil e rápida de fazer. A tecnologia não pode fazer isso sozinha. Precisamos que as pessoas estejam envolvidas. Não fazer algo é a pior coisa possível que pode acontecer ", disse ele.

E quanto a questões de privacidade?

Além da boa intenção, é difícil não considerar a invasão de privacidade.

Charles Lee Mudd Jr., um advogado de privacidade e diretor da Mudd Law, diz que a busca de palavras-chave no Facebook não deve ser considerada uma violação de privacidade se ela for divulgada antecipadamente.

"Enquanto o Facebook revela que analisa o conteúdo, não vejo preocupações reais de privacidade", disse Mudd à Healthline. "Deve entender-se que qualquer coisa publicada em qualquer lugar na internet, inclusive por meio de e-mail - privado ou não - ou mídia social, pode encontrar o caminho para destinatários não intencionais.Pelo menos, se o Facebook nos permite saber que tem robôs que lêem nosso correio - ou, pelo menos, buscam palavras-chave ou frases - podemos ajustar nosso comportamento se for necessário fazê-lo. "

Embora legalmente o Facebook esteja em claro, se está agindo de forma ética está em debate.

Keshav Malani, co-fundador da Powr of You, uma empresa que ajuda as pessoas a ganhar dinheiro com a sua presença digital, diz não importa as intenções do Facebook, cada pessoa deve ser livre para decidir como seus dados pessoais são usados.

"Ou então, é uma inclinação escorregadio sobre o que é considerado" bom "versus" mau "uso das informações pessoais que compartilhamos em plataformas como o Facebook. Além disso, as intenções não são suficientes, porque os preconceitos nos dados podem resultar em reivindicações inválidas ou prejudiciais, mesmo da análise de correlação histórica básica ", disse Malani à Healthline.

Ele acrescenta que a AI é tão boa quanto os dados que recebe como entrada.

"Plataformas individuais, como o Facebook, tentando assumir que eles o conhecem bem o suficiente para tirar conclusões sobre seu bem-estar seria ingênuo. Facebook ou qualquer outro meio de comunicação para esse assunto, apenas cobrem uma pequena parte da nossa vida e, muitas vezes, criamos uma imagem que escolhemos para compartilhar, então tirar conclusões de uma fonte de dados tão limitada e possivelmente tendenciosa deve ser feita com extrema cautela " ele disse.

Ainda assim, Reidenberg diz que as pessoas não devem ter medo do Facebook usando AI.

"Este não é o Facebook perseguindo pessoas ou entrando no negócio das pessoas", disse ele. "Está usando tecnologia e pessoas para tentar salvar a vida das pessoas", disse ele. "Confie em mim, se você tiver um enteado em crise, você quer que tudo seja feito para eles, seja você em uma sala de emergência ou on-line. "

Na verdade, ele espera que mais tecnologia possa intervir com pessoas em crise.

"Quando alguém está em crise, opções e alternativas se afastam deles. Eles se tornam muito focados no que está acontecendo nesse momento e eles não têm as ferramentas necessárias para realizá-los ", disse ele.

Qualquer vez, a tecnologia pode ajudar a dar às pessoas mais opções, Reidenberg diz que menos estarão em crise. Ele gostaria que a tecnologia criasse mais maneiras de identificar as pessoas em risco antes mesmo de estarem em risco de, digamos, de depressão.

Por exemplo, ele diz que se sabemos que, à medida que nos tornamos mais deprimidos, interagimos menos, isolamos mais, retiramos mais, temos menos energia, conversamos e escrevemos de forma diferente, então a tecnologia de programação para perceber essas mudanças pode ser benéfica.

"Digamos que você é um cartaz regular no Facebook, mas então você está ficando mais deprimido na vida e sua atividade está caindo devagar. Então você começa a postar fotos no Instagram de alguém muito triste ou um dia sombrio de fora. Se pudermos obter tecnologia para recuperar o que está acontecendo com você em sua vida com base no seu comportamento on-line, poderemos começar a dar-lhe coisas como recursos ou suporte, e talvez possamos transformá-lo ", disse Reidenberg.

Zuckerberg compartilhou um sentimento semelhante em seu post, aludindo aos planos futuros de usar o AI de outras maneiras.

"Há muito mais que podemos fazer para melhorar isso ainda mais", escreveu ele. "No futuro, a AI poderá entender mais as sutis nuances da linguagem e também poderá identificar diferentes problemas além do suicídio, incluindo rapidamente a detecção de mais tipos de bullying e ódio. "