페이스북이 인공지능(AI)을 이용한 자살방지 프로그램을 적용한다고 27일(현지시간) 발표했다. 

자살방지 프로그램은 글, 동영상, 페이스북 라이브 스트리밍 등 모든 콘텐츠를 AI 기술로 실시간 검색한다. 자살 충동이나 의심 행동이 감지되면 사용자에게 경고를 보내거나 친구에게 알린다. 해당 지역 자살방지 구조단체에도 자살 위험 징후를 보낼 수 있다. 시청자 신고하기 기능을 통해 ‘자살 또는 자해’나 ‘폭력’ 등 분류 버튼을 눌러 시청 중인 게시물에 나타난 인물이 처한 위험 상황을 알릴 수도 있다.

페이스북은 AI 기술을 사용하면 인간이 판단하는 것보다 훨씬 빠른 속도로 위험 징후를 감지할 수 있다고 설명했다. AI를 이용한 자살방지 프로그램은 지난 3월부터 미국에서 텍스트 게시물에 한정해 시범테스트를 거쳤다. 구이 로젠 페이스북 상품관리 부사장은 “지난달 동안에만 AI 소프트웨어를 이용해 안전 체크를 선제적으로 100건 이상 했다”며 “어떤 경우에는 위험해 보이는 이용자가 라이브 스트리밍을 하는 동안 방지 요원이 현장에 도착한 적 있다”고 말했다. 

미국에서는 현재 자살방지생명선 등 80여 개 단체가 페이스북 자살방지 프로그램에 참여하고 있다. 프라이버시와 연관된 데이터에 접근을 엄격히 제한하고 있는 유럽연합을 제외한 전 세계에서 이날부터 자살방지 프로그램을 활용할 수 있다. 

페이스북은 올해 초 개인 생방송 서비스인 ‘페이스북 라이브’ 이용자가 방송 도중 자살하는 일이 계속 발생하면서 비판을 받았다. 페이스북은 재발 방지를 위한 노력을 기울이겠다고 약속한 바 있다.