페이스북이 발표했다 블로그 포스트에서 AI가 테러 관련 콘텐츠를 탐지하고 제거하는 능력이 향상되고 있다는 것입니다. 개인적으로 페이스북 피드를 스크롤하다 우연히 게시물을 본 경험이 없습니다. ISIS와 Al Qaeda와 같은 테러리스트 그룹을 조장하지만 그것이 얼마나 무서운지 상상할 수 있습니다. 보다.
수년에 걸쳐 페이스북 플랫폼에서 게시물을 억제하는 데 얼마나 책임이 있는지에 대해 질문을 쏟아냈지만 이제 마침내 이를 중지하기 위해 중요한 조치를 취한 것으로 보입니다.
역사적으로 Facebook은 테러를 조장하는 콘텐츠를 신고하기 위해 사용자에게 의존해 왔습니다. 그러나 이제는 점점 더 AI를 사용하여 게시물을 식별하고 한 시간 안에 제거하고 있습니다. 거대 소셜 미디어가 테러 관련 자료의 확산을 막기에 충분하지 않다고 믿는 비평가 온라인.
그러한 비평가 중 한 명인 독일 국내 정보국장 Hans-Georg Maassen은 혐오 게시물의 확산에 대해 페이스북을 비난했습니다. 가짜 뉴스, 회사를 "주장하는 다섯 번째 부동산이지만 지금까지"라고 비난하면서 "사회적 책임."
Facebook의 블로그 게시물은 서사를 전환하고 독일과 같은 회의적인 국가에 Facebook이 실제로 무언가를 하고 있음을 보여주고자 하는 것으로 보입니다.
다음 읽기: 페이스북은 사용자의 감정을 조작했다고 인정합니다.
“오늘날 ISIS와 알카에다 관련 테러의 99.9%는 Facebook에서 삭제하는 콘텐츠는 커뮤니티의 누군가가 신고하기 전, 경우에 따라 사이트에 게시되기 전에 감지한 콘텐츠입니다.”라고 글로벌 정책 관리 책임자인 Monika Bickert와 대테러 정책 책임자인 Brian Fishman이 블로그 게시물에 썼습니다. “우리는 주로 사진 및 비디오 매칭, 텍스트 기반 기계 학습과 같은 자동화 시스템을 사용하여 이를 수행합니다. 테러 콘텐츠를 인지하면 이후에 업로드된 사본의 83%를 업로드 후 1시간 이내에 제거합니다.”
현재 이 알고리즘은 Al Qaeda와 ISIS의 콘텐츠만 대상으로 합니다. AI는 순전히 이 두 조직에서 문장 구조와 언어 기능을 학습하도록 훈련되었기 때문입니다. 아직 진행 중이지만 영국 내 EDL 및 Britain First와 같은 다른 지역 극단주의 조직의 콘텐츠가 어디에 있는지에 대한 의문이 제기됩니다.
관련 보기
Facebook은 AI 플랫폼을 사용하여 이러한 지역 조직을 타겟팅할 수 없다고 주장합니다. 페이스북의 AI가 이러한 게시물이 무엇인지 이해하게 하려면 페이스북 협업 포럼의 전문가가 플랫폼에서 극단주의 게시물을 식별하고 플래그를 지정해야 합니다.
지난 6월 페이스북, 마이크로소프트, 트위터, 유튜브는 대테러를 위한 글로벌 인터넷 포럼을 결성했다. 플랫폼에서 테러리즘과 극단주의의 확산을 막는 것을 목표로 하는 소셜 네트워크 거대 기업 간의 협력. 이 그룹을 통해 Facebook과 그 협력자들은 테러리스트 조직이 소셜 미디어를 사용하여 선전을 퍼뜨리는 방식의 변화를 파악하고 그에 따라 이러한 결과에 따라 조치를 취하는 방법을 모색하고 있습니다.
이것이 실제로 웹 사이트에서 테러 관련 자료의 확산을 억제할 수 있는지는 시간이 지나야 알 수 있습니다. 그러나 그들이 증오성 게시물과 극단주의 콘텐츠가 없는 온라인 환경을 조성해야 하는 의무를 계속해서 받아들이기를 바랍니다.
